画像生成AIモデルは、膨大なサンプルから学習し、新たな画像を生み出します。
その結果、今やネット上にはAI画像があふれています。
では、AIモデルが、知らず知らずのうちにAI画像を取り入れて学習するようになると、どうなるのでしょうか。
アメリカのライス大学(Rice University)に所属するリチャード・G・バラニューク氏ら研究チームは、生成AIモデルが合成データを学習して新たな合成データを生成するループが生じると、生成される合成データの品質はどんどん劣化していくと報告しました。
研究チームは、こうした状況を狂牛病(ウシにウシの肉骨粉をエサとして与える行為で蔓延した疾患)になぞらえています。
そして現在、静かに「AI狂牛病」が広がっているかもしれません。
この研究は2024年5月オーストリア・ウィーンで開催された深層学習分野の国際会議「ICLR 2024」で発表されていて、論文はプレプリントサーバーarXivに公開されています。
目次
- ウシがウシを食べて広がる「狂牛病」
- 次世代AIモデルの開発における課題
- AIが生成したものをAIが取り込んで劣化していく「AI狂牛病」
ウシがウシを食べて広がる「狂牛病」
一時期、狂牛病(正式名称は「牛海綿状脳症」)が大きな話題を呼びました。
これは1986年、イギリスで最初に報告されたウシの病気であり、狂牛病にかかったウシは、脳の中に空洞ができてスポンジ状になります。
潜伏期間は数カ月から数年であり、発症後は、異常行動・運動失調(群れから離れたりけいれんを起こしたりする)などの神経症状を示し、2週間~半年で死に至ります。
この狂牛病が蔓延した原因は、簡単に言うと、「ウシがウシを食べること」でした。
そもそも狂牛病は、健康なウシも持っている「プリオン」というタンパク質が異常化したものによって生じたと考えられています。