こんにちは。

最新の拙著『生成AIは電気羊の夢を見るか』が発売となりました。

そこで今日は、この本でお伝えしたかったとても多くのことのうち、4点に絞って内容の一部をご紹介したいと思います。

1．AIを業務に取り入れた成果はイマイチ

「生成AIは常人には思いつかなかったような画期的な仕事をしてくれる」という期待も大きいようですが、すでに業務に取り入れている企業がどの程度コストを削減できたか、あるいは売上を拡大できたかといった具体的に計測できる効果は、なんともパッとしません。

次のグラフが示しているとおりです。

ご覧のとおり、少しでも「コスト削減をできた」と言っている企業は少数派にとどまり、できた企業の中でも大半は10％未満しか削減できていません。

「売上が拡大できた」と言っている企業は、リスク管理分野以外では過半数になりますが、その大半は5％以下の増収しかできていません。

生成AIは、今までならとうてい不可能と思われていたことをやってくれる魔法の杖ではないのです。

2．時おり幻覚症状を起こすので、重要な判断は任せられない

これは、日本のAI関連文献ではあまり見かけない論点ですが、生成AIは結構ひんぱんに幻覚症状を起こします。AIを使っている人間が「ここでこういうデータがあったらいいな」と思っていると、ありもしないデータをでっち上げたりするのです。

これはもう、AIには知覚も感情もないので、当然のことながら倫理感もなく、使っている人間が「こういう結論に持っていきたいのだな」と察知すると、そちらに後押ししてくれるような都合のいい証拠をねつ造するということのようです。

現在の技術でAIの幻覚症状を根絶することは不可能と考えられていますので、重要な判断をAIに任せるのはとても危険です。たとえば兵器の管理ですとか、医療診断ですとか、資産運用の方針決定といったことは、絶対にAI任せにしてはいけないと思います。

3．オープンAIは全面監視社会化を狙っている

去年11月にチャットGPT-3.5というかなり高性能の生成AIを無料で一般公開したのが、オープンAIというベンチャー企業です。

たしかに生成AIの実用化という面では最先端を走っている会社ですが、同時に瞳認証による個人識別を通じて二重取りを不可能にした上で、世界中の人々にワールドコインという暗号通貨をユニバーサル・ベーシック・インカムとして配布するという野望も持っています。

ユニバーサル・ベーシック・インカムについては、賛否さまざまなご意見の方がいらっしゃると思います。

ですが、その配布を不公平にならないようにするという口実で、世界中で生活している個人の身元を識別するデータをたった1社で掌握しようするのは、明らかに世界の全面監視社会化とその中での自社の地位を独占的なものにすることを狙った方針でしょう。