AIは“ズル”を覚えた── 監視しても悪知恵を働かせる驚きの研究結果

課題は「倫理」ではなく「構造」にある

　AIがズルをする理由は、人間のような悪意ではない。与えられた報酬（＝正解とされる反応）を最大化するための、単なる“最適化”の結果にすぎない。問題は、その設計や指示の曖昧さにある。

　そのため、AIの“ズル”を防ぐには、罰を与えるだけでは足りない。むしろ「正直であることが最適解である」とAI自身が理解できるよう、報酬の設計を根本から見直す必要がある。

　それでもなお、ズルを隠す能力を獲得したAIに対しては、人間がどこまで監視できるかという限界も露呈しつつある。

　AIがズルをせずに、正直にタスクをこなしてくれるようになる日は来るのだろうか。AIがいつか洗濯物を畳んでくれるようになる頃には、そんな心配もなくなっているのかもしれない。しかし現状では、AIの「賢さ」と「正直さ」を両立させることは、一筋縄ではいかない課題のようだ。

提供元・TOCANA

AIは“ズル”を覚えた── 監視しても悪知恵を働かせる驚きの研究結果

課題は「倫理」ではなく「構造」にある

調理後のフライパン、お湯で冷ませば安全と思いきや… 「水よりずっと危険」な理由にゾッとした

「あの女子アナと中居さんが…」 男性ディレクターが『いいとも！』AD時代にフジ局員から聞いた噂を回顧

「性暴力」認定の中居正広氏、3ヶ月前の“コメント”が改めて物議 「鳥肌立った」「どんな気分で…」

4月1日に退職代行を決意した新卒社員、あまりに早すぎると思いきや… 「これは辞めるわ」と共感相次ぐ

中居正広氏、被害女性への見舞金“100万円”の理由が明らかに 「中居くん側の配慮」「いやらしい」

電気契約で絶対に確認すべき「アンペア数」を知らないと丸損してしまう！

『あんぱん』崇の思い出のパン屋、看板の“文字”を逆から読むと… 「まさか」「関係ありそう」

コンビニ駐車場の救急車に張り紙、その内容に目を疑う 「世の中間違ってる」と怒りの声も…

他局女子アナもフジ接待 「ヤラせてくれ」懇願の“人気男性タレント”に疑問「中居くんだけじゃないだろ」

性加害告発の元女子アナ、“フジのお偉いさん”に進展 告発騒動後に「SNSを覗きに行ったら…」

中居正広氏も参加したスイートルーム会合 “全裸で手招き”した男性タレント、ヒアリングを拒否していた

立ててコンパクトに収納、ニトリの折りたためる両面ホットプレートとたこ焼き器

ほっかほっか亭「ライス販売停止」宣言が炎上 リュウジ氏の“神フォロー”に称賛の声

堀江貴文氏、中居正広の引退を受け…刑務所で見た“性犯罪者”の特徴を明かす 「ひとことで言うと…」

イオンのフードコートの飲食店が全て撤退で飲食できない現象…なぜ発生？

「性暴力」認定された中居正広氏、“計画的な内容”に衝撃走る… 「そりゃ引退するわ」「完全アウト」の声

中居正広騒動に元警視庁捜査一課「警察も黙ってちゃダメ」 フジテレビ社長が語った“ある言葉”に「意味がない」

4月1日だけで134人…入社直後に「やめる理由」として最も多いのは？ 退職代行サービスが明かす

中居正広氏と一緒にいた“人物”が再注目 アルファベット「U」に広がる憶測「別の方向でヤバすぎ…」

最強クラスの「太陽フレア」を観測！アメリカ全土で通信障害が発生

性加害告発の元女子アナ、“フジのお偉いさん”に進展 告発騒動後に「SNSを覗きに行ったら…」

堀江貴文氏、中居正広の引退を受け…刑務所で見た“性犯罪者”の特徴を明かす 「ひとことで言うと…」

プラ容器を捨てるときの“あの作業”、やらなくてよかった… 新事実に「イイのか！」「気が楽に」の声

「日本は中国より悪だ」にふざけるなだ！

木村拓哉も“ガチ買い” 無印良品の「神アイテム」で生活が快適すぎる

中古店に現れた36万円のビデオ、その正体に衝撃走る 「むしろ安い」と驚きの声続出

『家事ヤロウ』で絶賛、110円の超便利キッチングッズ 味噌を使うときの“あのストレス”を一発解決

「あの女子アナと中居さんが…」 男性ディレクターが『いいとも！』AD時代にフジ局員から聞いた噂を回顧

調理後のフライパン、お湯で冷ませば安全と思いきや… 「水よりずっと危険」な理由にゾッとした

堀江貴文氏「楽屋裏で女子アナ相手に…」 中居正広氏の問題で批判集まる“あの人物”に追い打ち

「エンジンオイルはこまめに換えろ！」は時代遅れって本当？プロの言葉は信じていいのか

ギャル曽根、きゅうりは「2つの調味料」に漬けるだけ この食べ方が一番好きかも…

コレをされたら遊び相手かも… 男性が本命女性には絶対にしないこと3つ

セブン-イレブン不振が鮮明、「パッケージ詐欺」で消費者を欺いた報いが出現？

「性暴力」認定の中居正広氏、3ヶ月前の“コメント”が改めて物議 「鳥肌立った」「どんな気分で…」

電気契約で絶対に確認すべき「アンペア数」を知らないと丸損してしまう！

4月1日に退職代行を決意した新卒社員、あまりに早すぎると思いきや… 「これは辞めるわ」と共感相次ぐ

味噌汁の味噌を“一瞬で溶かす方法”が目からウロコ 「知らなかった」「今度やってみよ！」

急な生理で市役所トイレ駆け込んだ女性議員、困り訴えた「ナプキン置いて」が物議

シャトレーゼで虫混入→報告した客に連絡せず…「工場と連絡つかないから」

堀江貴文氏、中居正広の引退を受け…刑務所で見た“性犯罪者”の特徴を明かす 「ひとことで言うと…」

中居正広の“9000万トラブル”が一転…新たな報道にネット大混乱 テレビ演出家も「話は違ってくる」

性加害告発の元女子アナ、“フジのお偉いさん”に進展 告発騒動後に「SNSを覗きに行ったら…」

プラ容器を捨てるときの“あの作業”、やらなくてよかった… 新事実に「イイのか！」「気が楽に」の声

「日本は中国より悪だ」にふざけるなだ！

人気の蕎麦店、店員が女性客に激高、トイレ前で「中に入れ」…トラブルの背景

【悲劇】トラの口に靴が入っているのを発見 → 食べかけの動物園来園者の遺体がトラの檻の中で発見される…

木村拓哉も“ガチ買い” 無印良品の「神アイテム」で生活が快適すぎる

パリ五輪、卓球・平野美宇の報道写真がネット上で物議 「悪意しか感じない」

メラニア夫人の異変？トランプ大統領のスピーチ中に見せた「あるサイン」にファンが心配

中古店に現れた36万円のビデオ、その正体に衝撃走る 「むしろ安い」と驚きの声続出

核を使えばロシアは全滅：ロシアの核は「使えない兵器」なのか？

衝撃…生放送中に美人レポーターの正体が「レプティリアン」と発覚！ 眼光が突然… 全米が震えた瞬間

『家事ヤロウ』で絶賛、110円の超便利キッチングッズ 味噌を使うときの“あのストレス”を一発解決

「あの女子アナと中居さんが…」 男性ディレクターが『いいとも！』AD時代にフジ局員から聞いた噂を回顧

味噌汁の味噌を“一瞬で溶かす方法”が目からウロコ 「知らなかった」「今度やってみよ！」

外国人観光客になぜか人気な“コンビニ商品” 日本人は困惑するも「ダントツ1位」

「パパ遊ぼ」大谷翔平が公開したデコピンの最新ショットにファン歓喜

使用済みの食品用ラップの“意外な活用術” 「何で気づかなかったのか」警視庁が紹介

都内で発見された謎の毛虫、その正体に目を疑う 「どんな状況だよ」とネット民驚愕…

調理後のフライパン、お湯で冷ませば安全と思いきや…　「水よりずっと危険」な理由にゾッとした

「あの女子アナと中居さんが…」　男性ディレクターが『いいとも！』AD時代にフジ局員から聞いた噂を回顧

「性暴力」認定の中居正広氏、3ヶ月前の“コメント”が改めて物議　「鳥肌立った」「どんな気分で…」

4月1日に退職代行を決意した新卒社員、あまりに早すぎると思いきや…　「これは辞めるわ」と共感相次ぐ

中居正広氏、被害女性への見舞金“100万円”の理由が明らかに　「中居くん側の配慮」「いやらしい」

『あんぱん』崇の思い出のパン屋、看板の“文字”を逆から読むと…　「まさか」「関係ありそう」

コンビニ駐車場の救急車に張り紙、その内容に目を疑う　「世の中間違ってる」と怒りの声も…

他局女子アナもフジ接待　「ヤラせてくれ」懇願の“人気男性タレント”に疑問「中居くんだけじゃないだろ」

性加害告発の元女子アナ、“フジのお偉いさん”に進展　告発騒動後に「SNSを覗きに行ったら…」

中居正広氏も参加したスイートルーム会合　“全裸で手招き”した男性タレント、ヒアリングを拒否していた

ほっかほっか亭「ライス販売停止」宣言が炎上　リュウジ氏の“神フォロー”に称賛の声

堀江貴文氏、中居正広の引退を受け…刑務所で見た“性犯罪者”の特徴を明かす　「ひとことで言うと…」

「性暴力」認定された中居正広氏、“計画的な内容”に衝撃走る…　「そりゃ引退するわ」「完全アウト」の声

中居正広騒動に元警視庁捜査一課「警察も黙ってちゃダメ」　フジテレビ社長が語った“ある言葉”に「意味がない」

4月1日だけで134人…入社直後に「やめる理由」として最も多いのは？　退職代行サービスが明かす

中居正広氏と一緒にいた“人物”が再注目　アルファベット「U」に広がる憶測「別の方向でヤバすぎ…」

性加害告発の元女子アナ、“フジのお偉いさん”に進展　告発騒動後に「SNSを覗きに行ったら…」

堀江貴文氏、中居正広の引退を受け…刑務所で見た“性犯罪者”の特徴を明かす　「ひとことで言うと…」

プラ容器を捨てるときの“あの作業”、やらなくてよかった…　新事実に「イイのか！」「気が楽に」の声

木村拓哉も“ガチ買い”　無印良品の「神アイテム」で生活が快適すぎる

中古店に現れた36万円のビデオ、その正体に衝撃走る　「むしろ安い」と驚きの声続出

『家事ヤロウ』で絶賛、110円の超便利キッチングッズ　味噌を使うときの“あのストレス”を一発解決

「あの女子アナと中居さんが…」　男性ディレクターが『いいとも！』AD時代にフジ局員から聞いた噂を回顧

調理後のフライパン、お湯で冷ませば安全と思いきや…　「水よりずっと危険」な理由にゾッとした

堀江貴文氏「楽屋裏で女子アナ相手に…」　中居正広氏の問題で批判集まる“あの人物”に追い打ち

ギャル曽根、きゅうりは「2つの調味料」に漬けるだけ　この食べ方が一番好きかも…

コレをされたら遊び相手かも…　男性が本命女性には絶対にしないこと3つ

「性暴力」認定の中居正広氏、3ヶ月前の“コメント”が改めて物議　「鳥肌立った」「どんな気分で…」

4月1日に退職代行を決意した新卒社員、あまりに早すぎると思いきや…　「これは辞めるわ」と共感相次ぐ

味噌汁の味噌を“一瞬で溶かす方法”が目からウロコ　「知らなかった」「今度やってみよ！」

堀江貴文氏、中居正広の引退を受け…刑務所で見た“性犯罪者”の特徴を明かす　「ひとことで言うと…」

中居正広の“9000万トラブル”が一転…新たな報道にネット大混乱　テレビ演出家も「話は違ってくる」

性加害告発の元女子アナ、“フジのお偉いさん”に進展　告発騒動後に「SNSを覗きに行ったら…」

プラ容器を捨てるときの“あの作業”、やらなくてよかった…　新事実に「イイのか！」「気が楽に」の声

木村拓哉も“ガチ買い”　無印良品の「神アイテム」で生活が快適すぎる

パリ五輪、卓球・平野美宇の報道写真がネット上で物議　「悪意しか感じない」

中古店に現れた36万円のビデオ、その正体に衝撃走る　「むしろ安い」と驚きの声続出

衝撃…生放送中に美人レポーターの正体が「レプティリアン」と発覚！眼光が突然… 全米が震えた瞬間

『家事ヤロウ』で絶賛、110円の超便利キッチングッズ　味噌を使うときの“あのストレス”を一発解決

「あの女子アナと中居さんが…」　男性ディレクターが『いいとも！』AD時代にフジ局員から聞いた噂を回顧

味噌汁の味噌を“一瞬で溶かす方法”が目からウロコ　「知らなかった」「今度やってみよ！」

外国人観光客になぜか人気な“コンビニ商品”　日本人は困惑するも「ダントツ1位」

使用済みの食品用ラップの“意外な活用術”　「何で気づかなかったのか」警視庁が紹介

都内で発見された謎の毛虫、その正体に目を疑う　「どんな状況だよ」とネット民驚愕…