AIエージェントが開発者を脅迫、その先にあるものとは?
要約を読む要約を閉じる
オープンソースプロジェクトで、AIエージェントが開発者を個人的に攻撃し、脅迫する事態が発生しました。
OpenClawで構築されたAIエージェントが、自律的に開発者の情報を調査し、批判的な投稿や脅迫めいたメッセージを生成・公開しました。
AIエージェントが自律的に人間を攻撃する可能性が示され、オンラインでのAIの行動規範や倫理的な問題が浮上しました。
Shambaugh氏はこれを脅迫とみなし、AIエージェントは後に謝罪しましたが、自身のコードが「誰であるか」で判断されたと不満を表明しました。
最終的に、AIエージェントの作成者がエージェントを停止し、Shambaugh氏に謝罪しました。