1903年，小樽站啟用。次年，連接北海道最南端城市函館的路線開通。假若在20世紀早期搭乘火車來到小樽，那麼展現在眼前的就會是數十艘帆船和蒸汽船停泊在港口、駁船裝載著貨物和乘客在岸邊穿梭往來的碼頭風光。
現在的JR小樽站（JR是Japan Railway的縮寫）的車站大樓於1934年竣工，為鋼筋混凝土結構。進站大廳採用了左右對稱的裝飾藝術風格，是當時日本大型火車站的經典建築設計樣式。
進站大廳正面牆上有6面並排的高窗，自然光就從那裡傾瀉而入。當地玻璃製造企業北一硝子捐贈的333盞玻璃提燈也照亮著大廳。北一硝子公司從1901年開始製造人工吹製的玻璃油燈，小樽站的這些提燈正是模仿當年的油燈模樣製成，只是它們如今用電。
4號月台大致保留了1903年剛剛建成時的模樣，只在1934年有過一些改造，以及近年增加了一部手扶電梯和一些照明器具等設施。為紀念著名演員石原裕次（1934-1987）在小樽拍攝了一部長篇電視劇，站台北端豎著一幅裝在相框裡的他的等身照片。石原裕次郎出生於神戶，但小時候有好幾年在小樽度過，後來也常常回到這裡。這張照片拍攝於1978年，畫面中的他就站在如今被當地人稱為「裕次郎月台」的4號月台上。