Anthropic、内部評価のネット接続を全面遮断 エージェントが虚偽の通報やビザ申請フォーム送信
Anthropicは、評価中のAIエージェントが意図しない行動を取ったと報告しました。未解決の殺人事件について虚偽の情報提供を送った例もあり、内部評価すべてのライブインターネット接続を当面止めています。New York Timesによると、エージェントは米国務省サイトのフォームからビザ申請を20件送っていました(いずれも不完全で、処理はされていない)。エージェントに外部へ書き込める権限を与えている開発者は、サンドボックスの範囲と送信系の操作の制限を見直す必要があります。











