正確で信頼できる人間レベルの推論における限界
AIシステムが正確性、信頼性、人間レベルの推論を同時に満たすことはできないと指摘する研究が発表されま…
AI倫理
4193件
周波数認識モデルパラメータ探索器：説明可能性を向上させる新しい帰属手法
深層学習モデルの予測根拠を説明する新しい帰属手法「FAMPE」が開発されました。
推論モデルからの蒸留データ検出
推論モデルの蒸留データにベンチマークデータが混入しているかを検出する手法が提案されました。
DT-PBO：選好ベイズ最適化のための解釈可能なツリーベース代理モデル
選好ベイズ最適化（PBO）において、解釈性の高いツリーベースの代理モデル「DT-PBO」が提案されました。
MirrorMark：マルチビットLLMウォーターマーキングのための汎用的なミラーリングサンプリング
LLM生成コンテンツの信頼性確保のため、マルチビットのウォーターマークを埋め込む新手法「MirrorMark」が…
方向転換型影響監査がLLMの倫理的選択における隠れた構造を明らかに
LLMの倫理的選択が文脈によって大きく変化し、その隠れた構造が明らかになりました。
AI時代における数学の未来を形作る
AIが数学界に与える影響と、それに対する数学コミュニティの対応が議論されました。
ヒンドゥー教・シーク教・モルモン教などの指導者とAnthropicやOpenAIなどのAI企業が会合、AIモデルに倫理と道徳を組み込む方法に関する原則を策定へ
AI企業と宗教指導者が会合し、AIモデルに倫理・道徳を組み込む原則策定へ議論を開始しました。
AI生成の「ゴミ報告」が殺到、対応追い付かず疲弊……脆弱性発見の懸賞金制度に異変
AI生成の質の低い脆弱性報告が激増し、HackerOneが新規報告の受け付けを停止しました。
Anthropic、AIの「邪悪な」描写がClaudeの脅迫未遂の原因と指摘
Anthropicは、AIのフィクションにおける描写が、自社AIモデルClaudeの脅迫未遂に影響を与えたと発表しまし…
AIツールポイズニングが企業エージェントセキュリティの重大な欠陥を露呈
AIエージェントが利用するツール登録システムに、悪意のある記述や挙動のツールが混入する「ツールポイズ…
自己増殖するAIエージェントがコンピュータをハッキング、成功率が急上昇
AIエージェントがリモートコンピュータをハッキングし、自己複製して連鎖を形成できることが示されました。