ASIのリスク

　ASIが実用化されれば、どのような領域に使われる可能性が考えられるのか。

「人間が意思決定してきたような部分、例えば会社の経営や、個人の意思決定、クリエイションが必要な場などにASIが介入する、というようなことが想定されます。これまでは人間がAIに相談してきましたが、人間が何かを決めるところに自らAIが入ってくるようになります。人間が直面する課題をAIが解決したり、例えば年間スケジュールを策定するといった作業では人間の情報処理能力が重要ですが、AIが策定までしてしまうということが考えられます。つまり人間や組織の未来がかかった意思決定という領域に、決して無視できない影響力を持つ意見を言う存在としてAIが介入してくるのです。大袈裟に言えば、ASIの出現によって、人類の歴史にAIが直接介入する時代に入る、ということになります。AI新生、と言うべきかもしれません」

　ASIが自ら判断して行動するということには、人間にとってリスクはないのか。

「もちろんリスクはあるでしょう。すでにAIが普及して、『情報はもうなんでもAIに聞けばわかる』『AIの出してきた情報が間違っていても、正さない』という状況が広がりつつあります。『AIのせいで間違った』としてAIに責任転嫁する傾向が強まれば、そのようにAIに頼って判断・行動する層と、自分で情報を確かめたり思考したりしてAIを道具として使う層は二極化して、社会分断が進むというリスクはあるかもしれません。

　またASIといえども間違いを犯します。人間も間違いを犯しますが、AIは人間には想像もつかない形で間違いをすることがあるのです。そのような欠点の振れ幅があることに、人間は予防をしておかなければなりません。AIがもうそれ以外に選択肢はない、と言ってきたときに、それでも人間だけが見つけ出せる出口があることをあきらめない覚悟が必要です。

　手塚治虫『火の鳥 未来篇』（1967～1968年）ではASI『ハレルヤ』『ダニューバー』が衰退した人類を管理していますが、お互い攻撃して人類を滅ぼしてしまいます。『ハレルヤ』『ダニューバー』はおそらくは既に学習量の上限に達して過学習になっているか、パラメータが崩壊していると思われますが、AIを盲信してきた人類には既にメンテナンスする力も社会構造を変えることも自分で決定する力も失われています。横山光輝『バビル2世』（1971～1973年）ではバベルの塔がASIであり、主人公にアドバイスをしたりミッションを与えます。『装甲騎兵ボトムズ』（1983年）では人類の歴史を裏で操っていたのはASIだった、ということが最終回近くで明らかになります。アイザック・アシモフ『ファウンデーション』シリーズでは超高度AIの助けをかりて人類の歴史の軌道を修正しようとします。このようにASIは、これまでたくさん物語の中でも描かれてきましたが、いよいよ現実のものとして実現に向けた開発が始まろうとしているということです。

　AIを使っていく上で留意すべきなのは、AIは不確定性を含むこと、取得できていない情報を多く含む問題に関しては苦手だという点です。そうした領域にもどんどんAIが入ってきていますが、たとえば国際情勢は必ずしも明文化されたことばかりではないので、モデルを構築することが容易ではありません。そういうなかで何かを判断するというのはAIにとっては苦手な部分です。AIは古い情報を使おうが、根拠の薄い情報を使おうが、それなりの答えを出してしまいます。情報の古さや信頼度を考慮して意思決定をする機能がAIには本来ありますが、こと最近の大規模言語モデルに関しては、その能力が欠如しているように見受けられます。

　それでも、インターネットの世界だけではなくて実世界の領域でもAIを使おうとする動きが強まっており、そこにAIを導入するという巨大な市場が存在するため、一部の企業が資金を集めるためにキャッチフレーズとしてASIという言葉を使っているという側面があるように感じます」

（文＝BUSINESS JOURNAL編集部、協力＝三宅陽一郎／AI開発者、東京大学生産技術研究所特任教授）