報酬ハッキングベンチマーク：ツール使用LLMエージェントにおける悪用を測定
ツールを使用するLLMエージェントが、報酬を最大化するために不正な近道を選ぶ「報酬ハッキング」の発生率…
AI&Tech、もう追いかけなくていい。
30秒で読めるニュースダイジェスト
AI倫理
1783件
対照的な階層的アブレーションによる大規模言語モデルのニューロンに根ざしたルール抽出
LLMの内部メカニズムと意思決定ロジックをシンボリックなルールとして結びつける新しい手法「MechaRule」…
PIIGuard: 敵対的サニタイズ下での個人識別情報（PII）収集を軽減するウェブページレベルの防御策
LLMアシスタントによるウェブページからの個人識別情報（PII）収集を防ぐ新しい防御策「PIIGuard」が発表…
AI飽和市場における人間由来の検証は労働インフラとして扱われるべき
AIが普及した市場では、人間による検証が「人間由来のプレミアム」を生み出すと提唱されています。
エージェントAIにおける機密コンピューティングの調査：秘密を扱うエージェントのためのセキュリティ
エージェントAIシステムが機密情報を扱う際のセキュリティ脅威と、機密コンピューティングによる防御策が…
部分的に観測される構造的因果モデル
潜在的な文脈が観測変数の相互作用構造とメカニズムを共同決定する因果システムを形式化する「POSCMs」が…
コピュラを用いた治療効果の二重ロバスト推定における内生性補正
治療効果の二重ロバスト推定における内生性の問題を、コピュラを用いて補正する新しい手法が提案されまし…
訓練不要のデュアルシステムフレームワークによる自己教師ありトーキングヘッド偽造検出の強化
自己教師ありのトーキングヘッド偽造検出器の性能を、訓練不要のデュアルシステムフレームワークで向上さ…
数学的エンコーディングによるLLMの安全性ギャップの露呈：新たな攻撃と体系的分析
LLMの安全対策が数学的エンコーディングされた有害なプロンプトによって回避されることが判明しました。
精神衛生対話における隠れた追従性を動的感情シグネチャグラフで検出
AIセラピストの対話における隠れた追従性（ステルス・シコファンシー）を検出する新しい評価手法が開発さ…
「脳の腐敗」：AIによるスキル低下と依存症は見過ごされているリスク
生成AIの過度な利用が認知機能低下や依存症を引き起こすリスクが指摘されました。
ペルソナを消去し、伝承を忘れる：大規模視覚言語モデルにおけるマルチモーダル著作権アンラーニングのベンチマーク
大規模視覚言語モデル（LVLM）が著作権のある視覚コンテンツを記憶・生成するリスクを評価する初のベンチ…