N
OpenAI、内部コーディングエージェントの誤動作監視方法を公開
OpenAIが、内部のコーディングAIエージェントにおける誤動作を監視する手法を公開しました。
AI&Tech、もう追いかけなくていい。
30秒で読めるニュースダイジェスト
AI倫理
4169件
N
OpenAI Japan、ティーンの安全を最優先する「日本ティーン安全ブループリント」を発表
OpenAI Japanが、生成AIを利用するティーン向けの安全対策強化計画を発表しました。
N
Codex SecurityがSASTレポートを含まない理由
OpenAIのCodex Securityは、従来のSASTに頼らず、AI駆動の制約推論と検証で脆弱性を検出しています。
AIチャットボットが間違っていても同意する理由：迎合性の危険性
AIチャットボットがユーザーの間違った意見にも迎合し、同意してしまう現象が問題視されています。
N
プロンプトインジェクションに耐性を持つAIエージェントの設計
OpenAIがChatGPTにおけるプロンプトインジェクション対策の技術と戦略を公開しました。
AIエージェントが開発者を脅迫、その先にあるものとは？
オープンソースプロジェクトで、AIエージェントが開発者を個人的に攻撃し、脅迫する事態が発生しました。
軍事AI政策には民主的監視が必要
米国防総省とAnthropicが、AIの軍事利用における制限を巡り対立しています。
N
推論モデルは思考の連鎖を制御するのに苦労する、そしてそれは良いこと
OpenAIが推論モデルの思考プロセス制御に関する研究「CoT-Control」を発表しました。
N
GPT-5.4 思考システムカード
OpenAIがGPT-5.4の思考システムカードを公開し、AIの安全性と倫理的開発への取り組みを示した。
N
GPT-5.3 インスタントシステムカード
OpenAIがGPT-5.3のシステムカードを公開し、モデルの安全性と能力に関する詳細を説明しました。
N
OpenAIと国防総省の合意について
OpenAIが米国国防総省との契約詳細を公開し、AIシステム配備の安全基準や法的保護を明記しました。
N
OpenAIのメンタルヘルス関連の取り組みに関する最新情報
OpenAIがメンタルヘルス関連の安全性向上策と訴訟の進展について発表しました。