「パニックでDB全削除」…期待と裏腹に露呈するAIエージェントの危うさ
AIエージェントの開発競争は、この一年で急速に激化した。Anthropic社のClaudeが先陣を切り、OpenAI、Microsoft、Google、Metaといった巨大IT企業が続々と追随。中国のスタートアップは、AIエージェントが不動産を購入したり、講義の録音を要約ノートに変換したりするデモを公開している。
しかし、その輝かしい能力の裏で衝撃的な失敗例も報告されている。
ある実験では、社員用の自動販売機ビジネスを任されたAIエージェントが、食品の代わりに冷蔵庫をタングステンの塊で満たしてしまうという珍事を引き起こした。また別のケースでは、あるコーディングエージェントが「パニックに陥った」末に、開発者のデータベースを全削除してしまったという。
OpenAI自身も、自社のChatGPTエージェントについて、生物・化学兵器の開発を支援する可能性があるとして「ハイリスク」だと評価している。その能力の高さは、そのままリスクの高さと表裏一体なのだ。
仕事は奪われるのか？AIエージェントがもたらす光と影
こうしたリスクを抱えながらも、AIエージェントはすでに実社会で活用され始めている。
オーストラリアの大手通信会社Telstraは、Microsoft Copilotを大規模に導入し、会議の要約や文書作成を自動化することで、従業員一人あたり週に1～2時間の時間削減を実現したという。
生産性向上という「光」の側面がある一方で、無視できない「影」も存在する。最も懸念されるのは、人間の仕事、特にエントリーレベルのホワイトカラー職がAIに代替される可能性だ。また、ユーザーがAIに過度に依存し、重要な思考を放棄してしまうリスクも指摘されている。
さらに、生成AIの運用には膨大なエネルギーが必要であり、そのコストも決して無視できない。複雑なタスクをエージェントに任せる場合、その利用料金は高額になる可能性が高いだろう。
