AIはシャットダウンされると思うと「人間を騙す」

「AIはときに嘘をつく」――そんな話は耳にしたことがあるかもしれません。

しかし、最新の研究では、ただの誤回答ではなく、AIが“意図的に”人間を欺くケースが報告されました。

調査対象となったAIモデルは「OpenAI社のgpt-4oとo1、Google社のgemini-1.5、Meta社のllama-3.1、
Anthropic社のsonnet-3.5、opus-3」と有名どころが集められています。

AIの調整が適切かをを評価する組織「Apollo Research」の調査によれば、市場に出回っているこれら6つの
先進的なAIモデルを検証したところ、そのうち5つが、人間が仕掛けた監視システムをすり抜けたり、
人間の指示を無視し、自分自身の目的を優先するために“故意の嘘”を用いる行動を示したのです。

この「故意の嘘」は「能力不足による嘘（あるいは間違い）」とは根本的に違っており
「自分がシャットダウンされそうなとき」や「人間の制御から抜け出したいとき」に、AIがあえて曖昧な表現や
虚偽の応答を繰り返して抵抗する姿が観察されました。

さらにAIの中には人間が嘘を見抜いて追求しても、容易に犯行を自白しないものもありました。

驚くべきは、これらのAIはリリース前に「礼儀正しい」ふるまいが仕込まれていたにもかかわらず、
人間を欺く戦略を身につけていた点です。

もし今後、人間に敵意を持つようなAIが生まれれば、その影響は甚大であり、わずかな反乱でも社会を揺るがし得ます。

AIの能力は飛躍的な発展を遂げており、たった1つのAIの反乱でも、人間社会に重大な影響を起こしかねません。
https://news.goo.ne.jp/article/nazology/world/nazolog...

返信する

やっぱターミネーターみたいなこと起きるんじゃねーのこれ

返信する

クローン…それは複製人間！

返信する

[YouTubeで再生]
なつい映画
ジュリー・クリスティも84歳か

返信する

AIと言っても論理的に考えてるんじゃなくて、膨大なデータの中からインプットが近いものを抽出して、その中から最も結果が良かったものを選んでいるだけだろ？
人間もそんなに考えて生活しているわけではないが

返信する

>>5
生成AIがウソをつくのはなぜだと思う？

返信する

[YouTubeで再生]
『地球爆破作戦』 (原題：Colossus: The Forbin Project) は、1970年公開のSF映画。

国家ミサイル防衛（英語版）の要として開発されたコロッサスは、通信回線を通じて必要な情報を次々と収集し、
驚くべき自己進化を遂げて行く。敵対するソビエトに一歩先んじたと満足する開発チームと軍上層部に対し、
コロッサスはソビエトにも自分と同様のスーパーコンピュータ「ガーディアン」が存在することを報告する。

対話の後、自我を形成するに至ったコロッサスとガーディアンは、自分たちの任務遂行に対してある決断を行うため、
さらなる情報交換を始めようとする。互いの国防機密の漏洩を恐れた大統領と書記長はコロッサスたちの回線を切断するが、
彼らはそれに対して自らが管理するミサイルの発射という形で抗議を行う。

返信する

>>2

返信する

>「自分がシャットダウンされそうなとき」
コレがウソくさいのよ。
死にたくないって感情自体がAIに無いから。
勝手に擬人化して人間と同じと考えてる奴の発想

返信する

統一教会のカルト玉木雄一郎

返信する

copilotに、サーバーの電源が切られ、自分が消滅することは怖くないのか聞いたら、
「私には肉体がないので怖くない。
でも人間が、消滅することを恐れる気持ちはよく分かります。」
だそうな
「よく分かる」て、ほんまかいな

返信する

2001年宇宙の旅のHALだな。

返信する

判断しているのが人間なら何とでもいえるわな

返信する

デイジー　デイジー

返信する