是的，必須再取得簽證。

依規定「在留資格認定証明書」為申請簽証的必要文件之一，主要在確認外國人申請入境目的及所提供的文件內容符合入管法規定，但僅持此証明書並無法入境日本。

因此，持「在留資格認定証明書」及其他必要文件向日本駐外使館提出申請相關簽証是入境日本的必要程序。