企業情報が企業外に渡った場合の想定リスク

　では、仮に企業の情報が他国の政府など企業外に渡った場合、どのようなリスクが想定されるのか。

「企業のコンフィデンシャルな情報はLLM経由であろうと、どのような経由であろうと当然、守られる必要があります。ただLLMの応答速度やパーソナライズされた返答に、それが閉じた会話であるように多くの人は思ってしまうのです。しかし実際は数百キロ離れた場所のサーバーとやりとりしていることを忘れてなりません。一人一人が少しの情報を漏洩しても、積算して大きな傾向として見えてしまう、ということもあります。

　実際、LLMが何をどのように学習するか、ということは原理はわかっていても、管理者にさえブラックボックスなところがあります。そのブラックボックスから情報を抽出するという行為を検出することは通常の質問になりますので、なかなか防ぎ難いことです。またLLMでは、特定の情報をその中で消去する、ということは原理上難しいところがあります。できることは、外に出てこないように出力側にフィルターをかけることと、そして入力をしないことです。現在は過渡期ですので、次第にLLM周りのガイドラインが整備されるかと思いますが、現在のところ各社、各自の注意が必要です。過度に控える必要はありませんが、依存し過ぎず、インターネットと同じく万人が使用するツールであることを頭に置いておくことが大切です」

（文＝BUSINESS JOURNAL編集部、協力＝三宅陽一郎／AI開発者、東京大学生産技術研究所特任教授）