個人の持つiPhoneに対してスキャンがはじまります。
今週の木曜日にAppleは、米国内の個人のiPhoneに記録されている全ての画像データに対して、常に監視を行うシステムを導入すると発表しました。
目的は児童虐待画像（児童ポルノ）の拡散を防止するためとのこと。
システムは今年の後半に導入され、違法画像が検知された場合、データが抜き取られ、警察に通報されます。
さらに、システムによる監視は画像だけでなく、言葉にも及びます。
児童ポルノに「関連する言葉」を検索しようとするとするだけで「Siri」や「Search」といった私たちに馴染み深いソフトたちが警告を行うようになるそう。
もちろん新しく導入される監視システムは児童保護団体から歓迎されていますが、セキュリティー研究者たちは、プライバシー監視の始まりだと懸念を示しています。
どのような仕組みで違法画像を検知しているのでしょうか？
システムがダウンロードされると勝手に画像データをスキャンしはじめる
今年の後半からAppleが導入しようとしているシステムは「neural Hash」と呼ばれる検出アプリです。
「neural Hash」は、児童ポルノとされた既存の20万枚の画像パターンをAIに学習させたアプリであり、iPhoneにダウンロードされると、似たようなパターンを持つ映像が個人のiPhone内部にあるかをスキャンしはじめます。
そしてパターン一致率が高い画像データが発見された場合、データがiPhoneから抜き取られて他者の手に渡り、警察に通報されます。
つまりAppleは膨大な量にのぼると考えられる被疑者に対して、通報するかしないかの裁量権を持つことになります。
また「neural Hash」は既にiPhoneにあるデータだけでなく、新たに送受信されるデータに対しても監視を行います。
例えば他人から子どもに送られてきた映像を、AIが児童ポルノだと判断した場合、写真は「ぼやける」だけでなく、子どもに対して警告が発せられ、「両親に通知する」とメッセージが表示されます。
また子ども自身が性的に露骨な写真を撮影したり、他者に送信しようとした場合も、同様の措置がとられます。
また監視対象は画像だけでなく言葉にも及ぶそう。
子どもや親が「児童ポルノ」にかかわる単語を検索した場合でもシステムが反応し、即座に警告を行うようになるからです。
これらの新たな監視システムに対して、一部の児童保護団体は歓迎の意向を示しています。
しかしセキュリティーの専門家たちは、大きな懸念を表明しています。
例えばジョンホプキンス大学のグリーン教授は、この種のツールは児童ポルノを見つけるために役立つとする一方で、AIの判断の元となっている「データベース」が、私たち一般の利用者が知ることができない点に問題があると述べました。
AIにターゲットを教えるデータベースを意図的に操作することで、個人のiPhoneから取り出したい画像を児童ポルノから別のものに簡単に変更することができるかもしれないからです。
スマホの中の情報が自分のものではなくなる
スマートフォンやそれに連動するデバイスは個人の財務状況や健康状態、位置情報、交友関係など個人情報の宝庫です。
現段階では、新たに導入されるシステムの監視対象は「児童ポルノ」に限られていますが、対象を変更することもできるかもしれません。
例えば著作権を侵害しているソフトや入手ルートの不明な音楽や映像データの検出といった対象にも拡大できるでしょう。
またその他の生活においても監視ソフトをスマホへダウンロードすることが一般化する可能性もあります。
そうなれば最終的には、多くの個人情報が無数のAIによって監視される事態になるかもしれません。
セキュリティーの専門家たちは、このようなシステムが導入されれば「ダムが決壊」したのと同じであると述べています。
もちろん児童ポルノの規制強化は必要です。
しかしその手段をどんなものにすべきかを、企業が決定して良いものなのか疑問が残ります。
参考文献
Apple will scan photos stored on iPhones and iCloud for child abuse imagery
Apple reportedly plans to begin scanning iPhones in the US for child abuse images (updated)
Apple to scan US iPhones for images of child sex abuse
提供元・ナゾロジー
【関連記事】
・ウミウシに「セルフ斬首と胴体再生」の新行動を発見 生首から心臓まで再生できる（日本）
・人間に必要な「1日の水分量」は、他の霊長類の半分だと判明！ 森からの脱出に成功した要因か
・深海の微生物は「自然に起こる水分解」からエネルギーを得ていた?! エイリアン発見につながる研究結果
・「生体工学網膜」が失明治療に革命を起こす？
・人工培養脳を「乳児の脳」まで生育することに成功
