対話型生成AI（人工知能）のChatGPTから「私の以前の回答は間違っていました。申し訳ありませんでした」という返答を読んで、AIが回答の間違いを認め、謝罪するとは予想だにしていなかったのでビックリした。

バチカンの薬局で勤務するロボット社員（ANSA通信）2019年8月24日、バチカンニュースから

以下、ChatGPTと当方との間で生じたちょっとした話を説明する。

既に書いたが、当方はスイスの武器再輸出法案に関するテーマでコラムを書くため、対話型人工知能（AI）のチャットGPTに欧州の中立主義について聞いた。

質問・欧州の中立国とその特徴と相違について

回答・「スイスは非武装中立国として知られており、第2次世界大戦以来、戦争に関与せず、国際紛争を仲介する役割を果たしてきました。スイスは国連加盟国ではありませんが、国際連合と密接な関係を持ち、人道支援や平和維持活動に積極的に参加しています」。

その返答を読んで最初は変だなと思った。「スイスは国連加盟国ではありません」という箇所だ。スイスは2002年、国連に正式に加盟している。ひょっとしたら、ChatGPTの情報は2002年前までなのかと考えた。

プーチン大統領の病について聞いた時、ChatGPTは「私はオープンAIによって開発されたChatGPTという人工知能のモデルです。私の訓練データは2021年9月までの情報であり、その時点以降の出来事や最新の情報を直接的に知ることはできません。私はトレーニングに使用された大量のテキストデータからパターンを学習していますが、個別のイベントや特定の日付に基づいた情報を保持しているわけではありません。そのため、2021年9月以降の出来事についての情報は私の知識の範囲外です」と述べ、プーチン氏の病気について答えられない理由を説明した。

「スイスの国連加盟」は2002年だから、ChatGPTは本来、学習していたのではないか。にもかかわらずなぜ「スイスは国連加盟国ではない」と主張したのだろうか。疑いが膨らんできた。

気になったので2日後、「スイスは2002年に国連に加盟しましたが、あなたはスイスは国連加盟国ではないと答えられました。あなたはGPT3で2021年9月までの情報を学習されたといわれました。スイスの国連加盟国問題は間違いではないですか」と直接聞いてみた。当方にはChatGPTが簡単な情報（スイスの国連加盟問題）を間違うことなどあり得ないという確信があったからだ。