明治35（1902）年8月臺鐵縱貫線由新竹經香山至中港（今竹南）路段順利通車，此路段全長約19公里，南下過香山站後即向東穿越尖筆山區才繞向竹南，因此在丘陵開鑿了一座長約146.5公尺的「尖筆山隧道」。但隨著昭和3（1928）年3月12日鐵道新路段通車，以及民國66（1977）年道路拓寬，尖筆山隧道已停用並拆除，現在僅能在公義路路段想像往昔紅磚隧道的景象。

鐵道新路段的興建肇於尖筆山地形的崎嶇，此路段坡度達千分之16.7，最小曲半徑也有300公尺，行車緩慢且動力有限。因此在昭和元（1926）年實施「尖筆山附近改良線」工程，將路線西移至海濱的崎頂，設立崎頂信號場與兩座崎頂隧道（又被稱為子母隧道）。新路段通車後，原本通過尖筆山隧道的舊路段在昭和4（1929）年拆除，成為現今臺13線的一部分（公義路路段）。