相傳此寺觀音神像是嘉慶元年（1796年）吳沙率先民開墾時攜帶而來，於今福德坑溪鐵路橋下附近草建茅廬恭奉。嘉慶二年（1797年）建廟，稱為「佛祖廟」。翌年，吳沙逝去，民眾在嘉慶四年（1799年）於此寺右側建吳沙祠，數年後又建左殿奉大眾爺，稱「大眾爺廟」。

道光二十五年（1845年），福德坑溪水暴漲，拾獲一尊被視為安溪城隍的神像，遂迎奉至佛祖廟同祀。

咸豐八年（1858年），頭圍縣丞王兆鴻在烏石港前建立昭績碑，同時將鄉勇骨骸收集，在寺旁建立開蘭英靈祠[b]，每年農曆七月十三日舉辦祭典。

同治三年（1864年）佛祖廟與開蘭英靈祠同遭洪水毀去，翌年於現址重建並更名為「開成寺」。同治五年（1866年）獲贈「慈雲普被」匾。同治十一年（1872年）開成寺左側建昭德祠，附祀楊廷理、吳沙、賴柯基、許天送、林漢中、張德明、何長興、趙隆盛、柯有成、吳翼飛、黃君佐、林朝瑞等祿位。該年獲贈「法雨培蘭」匾。

1903年，新建將軍廟乩童說城隍爺盼信眾能為祂另外建廟，於是仕紳林讚武、林振立、吳石成、吳瑞、吳成坤、李秀、鄒旺、黃枝元、陳兩等人籌募，但工程耽擱，直到1920年正月初六，頭城城隍廟才於開成寺鄰地落成晉座。因福德坑溪興建了堤防，原先緊鄰福德坑溪河道的鳳萊市集改到開成寺暨城隍廟前廣場。