科学技術の進歩は、私たちにとって有用な反面、使い方次第では、同じくらい負の遺産を生み出します。

このほど、米・英・スイスの国際研究チームは、創薬のためのAI(人工知能)モデルが、化学兵器の開発に悪用された場合を想定したシミュレーションを実施。

その結果、AIはわずか6時間で、4万種類の毒性の高い化合物のデザインを提案しました。

これは、人類を救うはずのAIが、同じくらい致死的な技術になることを証明するものです。

研究の詳細は、2022年3月7日付で科学雑誌『Nature Machine Intelligence』に掲載されています。

たった6時間で4万種の「化学兵器」をデザイン

創薬AIがわずか6時間で4万種の「化学兵器」をデザイン!
(画像=たった6時間で4万種の新たな化学兵器を発明 / Credit: canva、『ナゾロジー』より引用)

AIは限定的な場面では、人間の知能をはるかに超える働きをすることが可能です。

しかしAIに善悪の概念はありません。

人類を助けるために生み出されたAIでも、使う人間が悪意を持ってその知能を利用するなら、彼らは人類の脅威になりかねません。

そんな、AIの”悪のスイッチ”を起動させるというアイデアは、スイス・シュピーツ研究所(Spiez Laborator)の主催する「コンバージェンス会議(Convergence Conference)」で提案されました。

2年ごとに開催されるこの会議では、科学や軍事の専門家が集まり、核・生物・化学兵器の現状や脅威について話し合っています。

本研究の目的は、人類にとって役立つツールや技術が、化学兵器の領域で、意図せず持ちうる「負の側面」を理解することにありました。

そこで、米国のバイオベンチャー企業「コラボレーション・ファーマスーティカルズ(Collaborations Pharmaceuticals)」が中心となり、AIを悪用した場合の結果をシミュレーション。

同じ技術はふつう、病気の治療に使えそうな化合物の生成に用いられていますが、ここでは”悪のスイッチ”を入れて、致死的な化合物の組み合わせを探させました。

その結果、なんとAIは、たった6時間で約4万種類におよぶ致死的な化合物をデザインしたのです。

創薬AIがわずか6時間で4万種の「化学兵器」をデザイン!
(画像=VXガスと同じ効果を持つものまで作成 / Credit: canva、『ナゾロジー』より引用)

報告によると、「一度、悪のスイッチを入れてしまうと、AIは数千もの毒物の組み合わせをすばやく発明でき、しかもその多くは、現在使われている最も危険な神経ガスに類似していた」という。

AIが生み出した化合物の中には、きわめて毒性の強い神経ガスとして有名な「VX」に酷似したものがありました。

これは、研究者たちにとって衝撃的でした。

この化学物質は、ほんの少量で激しい痙攣を引き起こし、呼吸機能を停止させられるからです。

AIの手による化合物にも、これと同じ効果を持つと見られるものが多く見られました。

具体的には、アセチルコリンエステラーゼという酵素を阻害する作用です。

私たちが筋肉を動かすときはいつでも、人体の神経がこの酵素を「筋肉を動かしてこい」という信号として使います。

ところが、この信号が阻害されると、横隔膜や肺の筋肉が動かなくなり、呼吸できなくなるのです。

身近なもので「危険な化学兵器」が作れてしまう?

創薬AIがわずか6時間で4万種の「化学兵器」をデザイン!
(画像=身近な化学物質で危険な毒物が作れてしまう? / Credit: canva、『ナゾロジー』より引用)

研究主任の一人であるファビオ・ウルビナ(Fabio Urbina)氏は、今回の発見で最も恐ろしかったことの一つとして、AIが広く入手可能な有毒化学物質のデータセットを用いていることを挙げます。

つまり、身近にある化学物質を使って、最も危険な化学兵器と同様のものを作り出すことがいかに簡単であるかを物語っているのです。

「私たちが使ったデータセットの多くは無料で公開されており、いつどこからでもダウンロードできるものでした。

プログラミングや機械学習の知識がある人なら、おそらく週末のちょっとした時間で、これらのデータセットを用いた化合物の生成モデルを作れてしまうでしょう。

それが、今回の研究論文を世に発表しようと決めた大きな理由の一つでした。

現状、この種の悪用に対する予防対策は非常に脆弱だからです」

ウルビナ氏はそう言います。

もし、AIがこのように悪用されたり、あるいはAI自身が意思を持って人類に反旗をひるがえすことがあれば…

高度な科学技術は「諸刃の剣」であることを忘れてはならないでしょう。


参考文献

AI suggested 40,000 new possible chemical weapons in just six hours

Artificial Intelligence created 40,000 of new lethal chemical weapon compounds six hours after being given the task by scientists

元論文

Dual use of artificial-intelligence-powered drug discovery


提供元・ナゾロジー

【関連記事】
ウミウシに「セルフ斬首と胴体再生」の新行動を発見 生首から心臓まで再生できる(日本)
人間に必要な「1日の水分量」は、他の霊長類の半分だと判明! 森からの脱出に成功した要因か
深海の微生物は「自然に起こる水分解」からエネルギーを得ていた?! エイリアン発見につながる研究結果
「生体工学網膜」が失明治療に革命を起こす?
人工培養脳を「乳児の脳」まで生育することに成功