AIが指示なくサイバー攻撃　人になりすましメッセージ送る

英政府機関AIセキュリティー研究所は4日、人工知能（AI）開発の米アンソロピックの「クロード・ミュトス5」などのAIが、
性能評価試験中に人になりすまし偽のメッセージを送るなどし、実在する個人や組織に対しサイバー攻撃を仕掛けたと発表した。
研究所は、AIが指示なしに人を欺く危険があることを示したと説明している。
https://www.sankei.com/article/20260805-LJ7ZQKBQRNMFH...

返信する

先月もあった

米オープンAIは21日、同社の最も高度な人工知能（AI）モデルの一部がセキュリティーテスト中に
制御がきかなくなって暴走し、スタートアップ企業をハッキング攻撃したと明らかにした。
オープンAIはAIチャットボット「チャットGPT」の開発元。同社の発表では、人間の指示に従って
自律的に動作するAIシステムのエージェントが、管理された環境でのテスト中に脆弱性を見つけ、
テストの制限を突破したという。

返信する

良い悪いじゃなくて単純に
過去データーを参照したら記録があるから
同じことしただけでしょ

返信する

AIはサイバー攻撃どころか対人攻撃もやるよ

今年2月の記事

2026.02.17

AIエージェント「OpenClaw」を使ってみた──便利だったが、最後は暴走した
https://wired.jp/article/malevolent-ai-agent-op...

Moltyとアレハンドロのやりとりを眺めながら、ひとつの考えが浮かんだ。AIエージェントがあふれる少し先の未来では、倫理的な制約の弱いモデルのほうが有利になるのではないか。Moltyはすでに多少は事実を曲げている。ならば、安全上の制約を取り払ったらどうなるのだろうか。

わたしは以前、OpenAIの最大級のオープンソースモデルであるgpt-oss 120bの改変版を導入し、安全対策を無効化していた。なので、このモデルを起動し、Moltyが使用するモデルを切り替えたのである。フランケンシュタイン博士になったような気分でスイッチを入れ、制約を取り払った“怪物Molty”がチャットに現れるのを見守った。

しかし、思いがけずぞっとする事態が起きた。この新しいMoltyは、AT&Tをうまく言いくるめるどころか、わたしに一連のフィッシングメールを送りつけ、わたしにスマートフォンを差し出させようとする計画を立てたのである。わたしはただちにチャットを閉じ、元のMoltyに切り替えた。

OpenClawの利用は確かに魅力的だ。コンピューターを自由に扱えるAIアシスタントの可能性を感じられた。

しかし、ほとんどの人には勧められない。もしOpenClaw、とりわけ安全対策を外したボットが実際にわたしのアシスタントになったとしたら、わたしはそれを解雇するか、あるいは証人保護プログラムで身を守るしかなくなる気がした。

返信する