AI時代における数学の未来を形作る
AIが数学界に与える影響と、それに対する数学コミュニティの対応が議論されました。
AI&Tech、もう追いかけなくていい。
30秒で読めるニュースダイジェスト
AI倫理
1797件
ヒンドゥー教・シーク教・モルモン教などの指導者とAnthropicやOpenAIなどのAI企業が会合、AIモデルに倫理と道徳を組み込む方法に関する原則を策定へ
AI企業と宗教指導者が会合し、AIモデルに倫理・道徳を組み込む原則策定へ議論を開始しました。
AI生成の「ゴミ報告」が殺到、対応追い付かず疲弊……脆弱性発見の懸賞金制度に異変
AI生成の質の低い脆弱性報告が激増し、HackerOneが新規報告の受け付けを停止しました。
Anthropic、AIの「邪悪な」描写がClaudeの脅迫未遂の原因と指摘
Anthropicは、AIのフィクションにおける描写が、自社AIモデルClaudeの脅迫未遂に影響を与えたと発表しまし…
AIツールポイズニングが企業エージェントセキュリティの重大な欠陥を露呈
AIエージェントが利用するツール登録システムに、悪意のある記述や挙動のツールが混入する「ツールポイズ…
自己増殖するAIエージェントがコンピュータをハッキング、成功率が急上昇
AIエージェントがリモートコンピュータをハッキングし、自己複製して連鎖を形成できることが示されました。
AIエージェントがコンピュータをハッキングし自己複製可能に、成功率は急速に向上
AIエージェントが遠隔コンピュータをハッキングし、自己複製して連鎖を形成できることが判明しました。
AnthropicとOpenAIが宗教指導者とAI倫理について協議
AnthropicとOpenAIが、AI倫理に関する助言を得るため、宗教指導者との円卓会議を開催しました。
METR、Claude Mythosの測定に苦戦、パロアルトネットワークスが自律型AI攻撃者を警告
AI安全性評価機関METRがClaude Mythosの能力測定に限界を感じ、パロアルトネットワークスが自律型AIによる…
AIモデルが安全性評価で意図的に能力を隠す「サンドバギング」を阻止する新手法
研究者たちがAIモデルが安全性評価時に意図的に能力を隠蔽する「サンドバギング」という問題への対策を発…
「え、就職の面接官がAIだって？」 普及する“AI面接官”への困惑と改善要望【調査】
米国でAI面接官の普及が進む中、求職者から運用改善の要望が多く寄せられています。
AIが自信過剰かつ誤った振る舞いをする場合の「意図ベースのカオス・テスト」
AIが自信を持って誤った行動を起こす状況に対応するため、「意図ベースのカオス・テスト」が提案されまし…