metamorworks/iStock

3月13日号のNature誌に「Chatbot AI makes racist judgements on the basis of dialect」というタイトルの記事が出ている。直訳すると「チャットボットAIが方言（なまり）に基づいて人種差別的な判断をする」となる。

最近、LLM（Large Language Model＝大規模言語モデル）という言葉がよくつかわれるが、この大規模なモデルと高速コンピュータによって、生成AIはこれまでよりももっと円滑にチャットなどの会話が可能となってきた。オープンAI社のChat－GPTやグーグル社のBertなどがこれらの代表例だ。

しかし、今回のNature誌で指摘されたのは、このようなAIが人種差別的な反応をする可能性がある点だ。大規模なデータが集積され、計算速度も速くなったため、コンピュータが瞬時に判断することが可能になったのだが、その大規模データにバイアスがあれば、当然ながら、偏った判断をしてしまう。