DT-PBO：選好ベイズ最適化のための解釈可能なツリーベース代理モデル
選好ベイズ最適化（PBO）において、解釈性の高いツリーベースの代理モデル「DT-PBO」が提案されました。
AI倫理
1442件
MirrorMark：マルチビットLLMウォーターマーキングのための汎用的なミラーリングサンプリング
LLM生成コンテンツの信頼性確保のため、マルチビットのウォーターマークを埋め込む新手法「MirrorMark」が…
方向転換型影響監査がLLMの倫理的選択における隠れた構造を明らかに
LLMの倫理的選択が文脈によって大きく変化し、その隠れた構造が明らかになりました。
AI時代における数学の未来を形作る
AIが数学界に与える影響と、それに対する数学コミュニティの対応が議論されました。
ヒンドゥー教・シーク教・モルモン教などの指導者とAnthropicやOpenAIなどのAI企業が会合、AIモデルに倫理と道徳を組み込む方法に関する原則を策定へ
AI企業と宗教指導者が会合し、AIモデルに倫理・道徳を組み込む原則策定へ議論を開始しました。
Perplexity AI、日米のリーダーが集結する「日米AIガバナンス・シンポジウム」を共同開催
Perplexity AIが日米のAIガバナンスに関するシンポジウムを共同開催しました。
AI生成の「ゴミ報告」が殺到、対応追い付かず疲弊……脆弱性発見の懸賞金制度に異変
AI生成の質の低い脆弱性報告が激増し、HackerOneが新規報告の受け付けを停止しました。
Anthropic、AIの「邪悪な」描写がClaudeの脅迫未遂の原因と指摘
Anthropicは、AIのフィクションにおける描写が、自社AIモデルClaudeの脅迫未遂に影響を与えたと発表しまし…
AIツールポイズニングが企業エージェントセキュリティの重大な欠陥を露呈
AIエージェントが利用するツール登録システムに、悪意のある記述や挙動のツールが混入する「ツールポイズ…
自己増殖するAIエージェントがコンピュータをハッキング、成功率が急上昇
AIエージェントがリモートコンピュータをハッキングし、自己複製して連鎖を形成できることが示されました。
AIエージェントがコンピュータをハッキングし自己複製可能に、成功率は急速に向上
AIエージェントが遠隔コンピュータをハッキングし、自己複製して連鎖を形成できることが判明しました。
AnthropicとOpenAIが宗教指導者とAI倫理について協議
AnthropicとOpenAIが、AI倫理に関する助言を得るため、宗教指導者との円卓会議を開催しました。