小樽站于1903年启用。次年，连接北海道最南端城市函馆的路线开通运行。若在20世纪早期搭乘火车来到小樽站，看到的必然是数十艘帆船和蒸汽船停泊在港口、驳船装载着货物和乘客穿梭往来于岸边的景象。
现在的JR小樽站（JR是Japan Railway的缩写）的车站大楼为钢筋混凝土结构，于1934年竣工。进站大厅为左右对称的装饰艺术风格，是当时日本大型火车站的典型建筑样式。
进站大厅正面墙上并排着6面高窗，自然光透过窗户倾泻而入。由本地玻璃制造企业北一硝子捐赠的333盏玻璃提灯为大厅提供了额外照明。北一硝子公司从1901年开始制造人工吹制的玻璃油灯，小樽站的这些提灯正是模仿当年的油灯模样制成，只是它们如今用电。
4号站台除了1934年经过了一些改造，并在近年内增加了诸如一部手扶电梯、一些照明器具等设施外，大体保留了1903年刚刚建成时的模样。站台北端竖着一幅相框，里面是著名演员石原裕次郎(1934-1987)的等身照片，这是为了纪念他曾在小樽拍摄一部长篇电视剧。石原裕次郎出生于神户，在小樽度过了童年的部分时光，后来也常常回到这里。这张照片拍摄于1978年，画面中的他就站在如今被本地人称为“裕次郎站台”的4号站台上。