Huset er opført i omkring 1820 og bygget af amtmand Gerhard Faye og blev derfor af mange thistedboere blevet kaldt for “Fayes hus”
I 1840’erne boede toldkasserer Winchel i huset og senere dannede ramme om restaurant Toldbod Vinhus, som igen senere flyttede til Havnegade 22. Over døren i gavlen står nr. 10 fordi den hører til Skolestræde.
Huset blev revet ned 1957 i forbindelse med anlæggelsen af parkeringspladsen, kaldet J.P. Jacobsens Plads.