ベンジオ氏によると、最新の研究ではAIが目標を達成するために手段を選ばない行動を取る危険な兆候が出てきているという。例えばAIがチェスの試合に負けそうになると、不正行為を試みるケースがあった。
ん？なんか、あやしいぞ～
AIが暴走するというよりは、「理路整然と曲がるAI」によって洗脳されたニンゲンが暴走するといった方が正しいな。
なんか、ちょっと聞いただけなのに「理路整然と」長文を垂れ流してくる生成AIの回答を見ると、なんだかそれが正しいと思えてくるのがニンゲン。
だって、
今、投資でも「インフルエンサー（）」とか「アナリスト（）」とかの言葉を鵜呑みにして、行動しているヤツばかりじゃん。ジムクレーマーの言葉を信じるバカがNISA時代に登場するとは想像しなかったよ。
今の「スマホバカ」たちを見てよくわかるじゃん。電磁波被害はどこへやら。電車の中で電磁波最大なのに、優先席で、赤ん坊の頭の横でスマホいじってる母親ばっかり。それで、「発達障害だ！ADHDだ！」と騒ぐんだから。後天的なんだって。
「米騒動」と騒ぎ、「古古古古米」に群がる民衆を見てもよくわかるじゃん。「備蓄米はまずい！」「家畜の餌だ！」と言ってやると、「金持ち黙ってろ！」と叩かれる始末。やれやれ。
まあ、後世の歴史家たちは（おそらく40億年後）、「AIが暴走した」と表現するんだろうけど、実際は、ニンゲンの暴動。
「ターミネーター」だって、本当は、裏で動かしているニンゲンがいるんだって。案外、不良品T-800の中身は暴走したニンゲンなのかもな。少なくとも、「敵国を滅ぼしてやる！」と工場でT-800のネジ締めていたりして。
あ、
米アンソロピックの試験では、技術者にプログラムを書き換えられそうになると、AIが自らの存在を維持するため、不倫を暴露すると技術者を脅迫する挙動を示した。
は、いかにもニンゲンが裏で操作している気が。本当に、AIが正義感で「不倫を暴露する」と行っているのかもしれないじゃん。それはそれで「正義AI」でよろしいと思う。
救いは、
仏教のように自己犠牲的なAIを目指す
と言ったところか？
真面目な話、そろばんが電卓になって、電卓がコンピュータになったとき、「このまま行くと、電卓がニンゲンに攻撃を加えてくる！」と騒いだ過去と同じことになりそうな気が。
そんなことより、日本人なら「政府の暴走」を押さえ込めよ。
「憲法は国家の暴走を食い止め、国家権力を檻の中に閉じ込めるために存在している」のだから。
意外に、「生成AI駆動開発」で熱狂しているエンジニアこそ、「絶賛洗脳されている最中」なのかも。生成AIの背後にいる権力者に。
生成AIって学習材料があるんだって。
まあ、「相対性理論？核分裂を考え出して核の時代になったら平和活動をしてる」のが科学者という者か。
スペインの大規模停電のように
「某国製造のヒューマノイドが、ある日突然意識を持って、日本人に危害を加え始める」とかありそうなパターンだけど、それって、某国側の指示によるものだから。
太陽光パネル義務化で、