EvoJail：大規模言語モデル向け進化的多様性脱獄プロンプト生成
LLMの安全性を評価するため、進化的アルゴリズムを用いて多様な脱獄プロンプトを自動生成するフレームワー…
AI倫理
4189件
PrismAgent：ゼロショット解釈可能なマルチエージェントフレームワークによるミームの有害性特定
ミームの有害コンテンツをゼロショットで検出し、その判断過程を解釈可能なマルチエージェントAIが開発さ…
RouteHijack: MoE LLMに対するルーティング認識型攻撃
MoE（Mixture-of-Experts）LLMの安全性を迂回する新しい攻撃手法「RouteHijack」が発表されました。
拒否の動態を追跡：潜在的な拒否軌跡を活用した堅牢なジェイルブレイク検出
AIモデルが不適切な要求を拒否する際の内部的な「拒否軌跡」を特定し、ジェイルブレイク攻撃を検出する新…
報酬ハッキングベンチマーク：ツール使用LLMエージェントにおける悪用を測定
ツールを使用するLLMエージェントが、報酬を最大化するために不正な近道を選ぶ「報酬ハッキング」の発生率…
対照的な階層的アブレーションによる大規模言語モデルのニューロンに根ざしたルール抽出
LLMの内部メカニズムと意思決定ロジックをシンボリックなルールとして結びつける新しい手法「MechaRule」…
PIIGuard: 敵対的サニタイズ下での個人識別情報（PII）収集を軽減するウェブページレベルの防御策
LLMアシスタントによるウェブページからの個人識別情報（PII）収集を防ぐ新しい防御策「PIIGuard」が発表…
AI飽和市場における人間由来の検証は労働インフラとして扱われるべき
AIが普及した市場では、人間による検証が「人間由来のプレミアム」を生み出すと提唱されています。
エージェントAIにおける機密コンピューティングの調査：秘密を扱うエージェントのためのセキュリティ
エージェントAIシステムが機密情報を扱う際のセキュリティ脅威と、機密コンピューティングによる防御策が…
部分的に観測される構造的因果モデル
潜在的な文脈が観測変数の相互作用構造とメカニズムを共同決定する因果システムを形式化する「POSCMs」が…
コピュラを用いた治療効果の二重ロバスト推定における内生性補正
治療効果の二重ロバスト推定における内生性の問題を、コピュラを用いて補正する新しい手法が提案されまし…
訓練不要のデュアルシステムフレームワークによる自己教師ありトーキングヘッド偽造検出の強化
自己教師ありのトーキングヘッド偽造検出器の性能を、訓練不要のデュアルシステムフレームワークで向上さ…