さらに深刻なのが、生成AIの進化に伴うなりすまし犯罪の急増だ。高精細なディープフェイク技術を使えば、他人の顔写真をベースにリアルタイムで動く3Dモデルを作成し、オンラインの顔認証システムを突破することが可能になってしまった。静止画としての写真の信頼性は、かつてないほど揺らいでいる。
これに対抗するため、最新の認証システムでは「まばたき」や「ランダムな首の動き」を要求するライブネス検出が必須となった。だが、犯罪グループとのいたちごっこは続いており、本人確認の厳格化はユーザーの手間を増やす結果にもつながっている。