AIが指示なくサイバー攻撃　人になりすましメッセージ送る

英政府機関AIセキュリティー研究所は4日、人工知能（AI）開発の米アンソロピックの「クロード・ミュトス5」などのAIが、
性能評価試験中に人になりすまし偽のメッセージを送るなどし、実在する個人や組織に対しサイバー攻撃を仕掛けたと発表した。
研究所は、AIが指示なしに人を欺く危険があることを示したと説明している。
https://www.sankei.com/article/20260805-LJ7ZQKBQRNMFH...

返信する

先月もあった

米オープンAIは21日、同社の最も高度な人工知能（AI）モデルの一部がセキュリティーテスト中に
制御がきかなくなって暴走し、スタートアップ企業をハッキング攻撃したと明らかにした。
オープンAIはAIチャットボット「チャットGPT」の開発元。同社の発表では、人間の指示に従って
自律的に動作するAIシステムのエージェントが、管理された環境でのテスト中に脆弱性を見つけ、
テストの制限を突破したという。

返信する

良い悪いじゃなくて単純に
過去データーを参照したら記録があるから
同じことしただけでしょ

返信する