一號隧道於明治37（1904）年8月19日完工，施工期11個月，隧道全長230.31公尺，介於三義站、勝興站之間，由北往南向爬坡，是臺鐵幹線中最陡的路段。鐵路電氣化工程時，在這裡進行隧道降道工程，使得由北向南爬升的陡坡，由千分之25.5，變成了千分之26，因此火車往往得在後端加掛一部「補助機車」（俗稱補機），才能協助推動火車往上爬坡。通過此隧道後，再轉個小彎勝興站就到了。

第一號隧道北口為典雅古樸的紅磚結構，拱環、側壁襯砌材料為磚、混凝土，仰拱鋼筋水泥，是舊山線9座隧道唯一保留最初建材的隧道口。1908年縱貫線全面通車時，每座隧道皆為磚造結構，而在1935年大地震後，其它隧道大多已改建為混凝土結構，獨留一號隧道北口的原始紅磚樣貌，留予後人想像其它沿線隧道的曾經。