加えて、AIは知識の一貫性を保つのが苦手であり、長い文章や複雑な文脈では冒頭や結末の情報を覚えていても、中間部分を忘れることがあります。
このため、複雑なタスクの処理中に矛盾した情報が出力されることがあります。
人間も確かに「過去の自分の発言を忘れる」ことがあるため、そういった点ではAIと似ているかもしれません。
しかしAIの場合は、「ほんの少し前の、もしくは今まさに出力していた言葉との関連を考慮しないことがある」という点で特殊です。
こうして考えていくと、確かにAIのミスと人間のミスは大きく異なります。
だからこそ、人間がこれまで自分たちに当てはめてきた対策が通用しません。
では、私たちがAIを活用していく上で、AIのミスに対してどのように対処できるでしょうか。
AIのミスを理解し、対処する
AIのミスに対処するには、人間が自分たちにそうしたように、AIのミス傾向を理解して対策を講じるべきです。
スタンフォード大学の2022年11月の研究では、AIが犯すミスを予測し、対応するための手法を提示しています。
その1つが、プロンプト（AIへの指示文）の工夫です。
特に「自由回答型の質問形式」を使用すると、AIがより自然な応答を生成するとわかりました。
具体的には、選択肢を限定した形式（例：「TrueかFalseを選べ」）ではなく、「ジョンはどこに行ったのか？」のように、AIに自由に答えさせる質問形式が効果的でした。
さらに「同じ質問を異なる角度で繰り返し尋ねる手法」も効果的でした。
AIに対して異なるプロンプトを与え、それぞれの応答を得た後、それらを比較・評価して最適な結論を導き出すよう誘導するのです。
この手法なら、誤った回答が出力されることを最小限に抑えることができます。
これは、ある医師が複数の医師の意見を統合して最終的な診断を下すことに似ています。
