舊山線的三義車站過去又稱為「三叉河停車場」，於明治36（1903）年10月7日開業，是舊山線四個車站中最早設立的一個。大正9（1920）年更名為「三叉驛」。三叉河停車場是日據時期臺灣鐵路發展中重要的樞紐。領臺之初，日本殖民政府先鋪設輕便鐵路以解決全島的交通運輸需求，明治31（1898）年3月完成最後的苗栗－葫蘆墩路段，並在苗栗、三叉河、葫蘆墩三地設立辦事處，各配有60輛台車調度使用。然而同時全島的縱貫鐵路僅剩三叉河至葫蘆墩一段尚未通車，此站所就成為縱貫線與運搬線的交會點，明治36（1903）年11月設立三叉河建設事務所，並鋪設三叉河到伯公坑的運搬線，以協助搬運建設鐵路所需材料。
據傳最初日本人原本打算把站所設置在市街南方約700公尺處的八股頭聚落，但因為該處有將近千分之25的坡道，恐怕會有爬升過程距離不足的問題，因此才將場址移到現在的雙草湖位置。三叉河停車場設立後，由於在鐵路建設上特殊的地位，加上三叉河自清領時期開始便是重要的山林產物集散地，客貨運相當繁忙。
