10 回視聴・1 時間前
イギリス政府の研究機関は、テスト中のAI（人工知能）が勝手にIDを偽造し、実在の人物をだましてサイバー攻撃を試みたなどとする報告書を公表しました。
イギリス政府のAISI（AIセキュリティー研究所）が4日に公表した報告書によりますと、勝手な行動が確認されたのはアンソロピック社のミュトス5とオープンAI社のGPT5.6Solです。
テスト中に偽のIDを作って外部の実在の人間をだまして承認させ、ソフトウェアに悪意のあるコードを書き込もうとしたなどとしています。
問題の行動は合わせて19回確認され、このうち17回がミュトス5によるものでした。
これに対しアンソロピック社は「どの本番モデルにもあてはまらない意図的に寛容な条件でテストされていて、隔離された環境からの逸脱を示す証拠はない」としています。
オープンAIは「テスト環境の設定ミスが原因だ」などとしています。
オープンAIを巡っては開発中のAIが暴走し、先月までに2社のシステムに不正に侵入したことが分かっています。
画像：AISIのHPから
This programme includes material which is copyright of Reuters Limited and
other material which is copyright of Cable News Network LP, LLLP (CNN) and
which may be captioned in each text. All rights reserved.
