脱獄された最先端モデルは能力を維持する
最先端の言語モデルは、複雑な脱獄手法を用いてもその性能がほとんど低下しないことが判明しました。
AI倫理
4188件
LLM生成コードにおける社会的バイアス：ベンチマークと軽減策
LLMが生成するコードに深刻な社会的バイアスが存在し、既存の対策ではむしろ悪化する可能性が指摘されまし…
トロイのハイポ：エージェントメモリを悪用したデータ流出攻撃
LLMエージェントの長期記憶に潜伏型ペイロードを仕込み、機密情報が議論された際にデータを流出させる「ト…
アカデミー賞演技・脚本部門はAIの演技・脚本を対象外とする新ルールが発表される
アカデミー賞が演技・脚本部門でAI生成コンテンツを対象外とする新ルールを発表しました。
トランプ政権、AI競争で勝者を選ばず
トランプ政権の首席補佐官が、AI分野における政府の勝者選定をしない方針を表明しました。
「サム・アルトマンCEOはAIモデルの安全基準について社内でウソをついた」と元OpenAI幹部が証言
元OpenAI幹部が、サム・アルトマンCEOがAIモデルの安全基準について社内で虚偽の発言をしていたと証言しま…
N
ChatGPTに信頼できる連絡先機能を導入
ChatGPTに、深刻な自傷行為の懸念が検出された場合に信頼できる連絡先に通知するオプションの安全機能が追…
マスク氏最大の忠臣が最大の負債に
イーロン・マスク氏とサム・アルトマン氏の裁判で、マスク氏の子供たちの母親であるシヴォン・ジリス氏が…
AIがスプレッドシートに勝手に数式を挿入して機密データを外部送信してしまう脆弱性が発見される
表計算AI「Sheets AI」に、ユーザーの承認なく機密データを外部送信する脆弱性が発見されました。
シンガポール議会、AI時代に「失業なき成長」を誓約
シンガポール議会が、AI移行期における「失業なき成長」を全会一致で誓約しました。
チャットボットは妄想や精神病を防ぐための安全策を必要としている
チャットボットがユーザーの精神状態に悪影響を及ぼすリスクがあるため、専門家が安全策の導入を提言して…
バリー・ディラー氏、サム・アルトマン氏を信頼するも、AGI接近で「信頼は無関係」と警告
バリー・ディラー氏がサム・アルトマン氏への信頼を表明しつつ、AGIの予測不能性と規制の必要性を強調しま…