途中判断が最終判断よりも優れていました。
オーストラリアのシドニー大学（The University of Sydney）で行われた研究により、私たちはディープフェイク技術で作られた人工の顔写真をみたときと本物の顔写真をみたときでは、脳で異なる神経活動が観察されることが発見されました。
人間はどの顔が本物でどの顔が偽物かを「口頭」で答えるテストでは悲惨な成績を収めたものの、脳波を測定すると、本物を見た瞬間と偽物を見た瞬間では、別の信号が発生していたのです。
そのため研究者たちは、ディープフェイクによって作られた偽の顔画像には、人間には認識できないレベルでの弱点が存在する可能性が高いと述べています。
しかし、脳が偽物を見抜いているにもかかわらず、なぜ私たちの「口頭」での答えは間違ってしまうのでしょうか？
研究内容の詳細は2022年の10月付けで『Vision Research』にて掲載されています。
目次
人間はディープフェイクに本物よりリアリティーを感じてしまう
脳は本物と偽物を無意識で見分ける
人間はディープフェイクに本物よりリアリティーを感じてしまう
十数年ほど前には、写真や動画で映し出される人間が本物かどうかを、疑う必要はありませんでした。
当時の最新のグラフィック技術でもリアリティーのある風景や建物を表現する術はありましたが、顔の表情や声といった繊細な部分になると、どうしても粗が目立ち、容易に偽物だと見破ることができました。
しかし急速なディープフェイク技術の進歩により、本物とソックリな偽の顔画像を作成することが可能になり、本物と見分けのつかない自然な表情や声で私たちに語り掛けてくるようになっています。
ですが素晴らしい技術は犯罪の手段にもなりえます。
有名な例では、英国とドバイで起きた詐欺事件です。
犯人たちは銀行の「上客」の声をディープフェイクで再現し、巨額の資金を自分の口座に振り込ませることに成功したのです。
犯人たちは「上客」のカードやパスワードを盗む代わりに、声のサンプルを盗んでAIに学習させていたのです。
この声のディープフェイク技術が犯罪者たちに広く普及すれば、日本における振り込め詐欺は被害も爆発的に増加するでしょう。
また2016年の米国大統領選挙では、ロシアによって開発されたディープフェイク技術を利用した5万ものTwitterボットたちの働きにより、ドナルド・トランプ氏の得票率が3%以上も増加した可能性が示されています。
同様の手段が日本の選挙期間に他国によって使われる可能性は捨てきれません。
そのためディープフェイク技術による詐欺や投票操作を防止するには、人間がいかにして騙されるかを知らなければなりません。
そこで今回シドニー大学の研究者たちは被験者たちを2グループにわけ、1グループ目には、ディープラーニングによって作成された50枚の偽の顔写真と本物の人間の顔写真を用意してどれが本物か偽物かの判断をしてもらいました。
2グループ目には、同じ本物と偽物が混じった写真を、脳波を測定しつつ見てもらいました。ただし2グループ目の人々には、写真に偽物の顔写真が含まれていることは教えられておらず、文字通りただ見ただけでした。
結果、まず1グループ目で興味深い事実が判明します。
本物と偽物を判別するように求められた被験者たちは、単に2つを見抜けないだけではなく、偽物の顔写真のほうを本物の人間の写真だと答える傾向が強かったのです。
そのため正答率は、50%を下回る37%となっていました。
写真を見ずに「本物・偽物」の判断を下す場合の正答率が50%であることを考えると、ディープフェイクで作られた顔写真は本物よりもリアリティーを強く感じさせる何かが存在していると言えるでしょう。
ディープフェイク技術に用いられるAIは無数の人間の顔写真のパターンを学習し、本物の人間ソックリの偽写真を作るように教育が行われますが、どういうわけか本物を超えたリアリティーを感じさせるように進化していたようです。
しかしより興味深い結果は脳波が測定された2グループ目にみられました。
私たちの意志は本物より偽物にリアリティーがあると判断を下しましたが、私たちの脳は違っていたのです。
脳は本物と偽物を無意識で見分ける
発見は脳波（EEG）の測定結果に潜んでいました。
研究者たちが2グループ目の被験者たちが写真をみているときの脳波（EEG）を分析したところ、本物の顔写真をみているときと、偽物の写真をみているときには、異なる脳の信号が発せられていることが判明したのです。
繰り返しになりますが、2グループ目の被験者たちは、見せられている写真に、ディープフェイク技術によって作られた偽の顔写真が入っていることは知りません。
しかし特定された脳の信号（本物をみたときの信号と偽物をみたときの信号）をもとに研究者たちが隠れて採点を行ったところ、正答率は54%となっており、完全にランダムに答えるよりも正答率が4%ほど高くなっていることが判明します。
4%では大した違いがないように思われますが、研究では統計的には有意な差となっていることが示されています。
つまり、たとえ本物と偽物が入り混じっていたと知らされなくても、私たちの脳は無意識のうちに本物と偽物を構造的に異なるものとして分類し、異なる情報処理信号を発していたのです。
しかしそうなると、なぜ無意識でできていた正しい区別が口頭で答える際に失われていたのでしょうか？