廣欽抵台時,已55歲,初在基隆的極樂寺、靈泉寺等處掛單。中秋節後,到台北新店,在碧潭吊橋對岸的空軍公墓附近,得一廢置的日式空屋住下來。翌年,於新店後街的山壁間,鑿了一個山洞,命名曰廣明巖——後來於此改建成了廣明寺。1951年,他在山洞右後方的大石壁上,雕鑿了阿彌陀佛大佛像和佛龛。佛龛高兩丈六尺,寬一丈九尺,深九尺。佛像高兩丈一尺,蓮座高三尺,長八尺,寬六尺。這是台灣首開鑿石造像風氣的第一座大佛像。
在這段時間內,有一件夜度日人鬼魂的故事。任職台糖公司的周宣德居士,住在萬華昆明街的台糖宿捨,他常到附近的法華寺禮佛,受寺中齋姑之請,每星期天在寺中為信眾講經。據寺中齋姑告訴他,寺中夜間鬧鬼,門窗會無人自啟,電燈也會無人自開,所以夜間無人敢住在寺內。
有一天下午,周居士在法華寺附近的西寧南路上,遇到一位身材不高的老和尚。周居士合十為禮,請問法號,答曰:“廣欽”。問住何處,答“沒一定”。周居士看他步伐輕盈,目光炯炯,頗有道行的樣子,乃請他到法華寺休息。二人進入法華寺,老和尚先禮佛,然後在地板上跏趺而坐。寺中齋姑欲為老和尚備晚餐,他說:“我不吃飯,只吃水果。”周居士到寺外買了一串香蕉,放在他身旁的木桌上。到了黃昏,他不言去,周居士與齋姑等相繼離寺,留下他一人在寺中過夜。
第二天早上,周居士與齋姑們到了寺中,老和尚仍坐在原處,手指殿前右側一客房說:“那裡有兩個日本鬼,你們去翻開榻榻米,取出屍骨,讓我給他們超度。”
齋姑們找工人來掀開日式房右側的地板,果然找到了兩具骷髅。老和尚叫他們把骷髅放在焚化冥紙的爐中燒掉,他在旁念佛念咒,然後回到殿中說:“已經超度了。”當日他仍沒有走,吃了些香蕉;晚間仍在原處打坐。第三天早上,他說右側後面的寮房裡還有一個鬼。工人掀開日式房的地板,果然又發現一具骷髅,也送入爐中焚化,老和尚念佛持咒後說:“他也走了。”
在老和尚超度亡魂之後,寺中平安無事,夜間不再有異常事件發生了。