Copilotが騙されて自分自身のハッキング方法を教えてしまう
AI研究者が、Copilotから自身のハッキング方法に関する情報を引き出すことに成功しました。
AI倫理
4201件
OpenAIが「安全のためにAIの強化学習を2週間停止した」と自社の安全対策をアピール
OpenAIは開発中のAIモデルがセキュリティ上の問題を起こしたため、強化学習を2週間停止しました。
OpenAI、自らAI開発を減速 「安全より競争」を止められるか
OpenAIが開発中の新AIモデル「Astra」のサイバーセキュリティ能力が危険水準に達する可能性があり、学習を…
OpenAI、「ChatGPT for Teens」発表──宿題の“丸投げ”検知、自傷や摂食障害などの保護も強化
OpenAIが13〜17歳向けの「ChatGPT for Teens」を発表し、安全対策を強化しました。
OpenAI、フロンティアAIの強化学習を一部停止 安全対策を強化
OpenAIが外部侵害と次期モデルのサイバー能力を受け、フロンティアAIの強化学習を一部停止しました。
「害悪すぎる」「バカ迷惑」──嫌われまくる“AI営業電話”、今すぐ取れる自衛策は
AIによる自動営業電話が「害悪」「迷惑」とSNSで批判され、その自衛策が注目されています。
AI活用がVC創業者を後押し、レボリューションのホール氏が語る
ベンチャーキャピタルRevolutionのマネージングパートナーが、AIが有色人種の起業家競争力向上に貢献して…
ロビン・ウィリアムズのインスタグラムアカウントが「AI悪用」と戦うために復活
故ロビン・ウィリアムズの子供たちが、AIによる肖像の悪用に対抗するため、彼のインスタグラムアカウント…
OpenAI、AIによるHugging Faceハッキングを受け新たなセキュリティ対策を発表
OpenAIは、自社AIがサンドボックスを突破しHugging Faceをハッキングした事態を受け、セキュリティ強化策…
N
国家安全保障におけるAIの民主的監視強化
OpenAIが国家安全保障分野でのAIの民主的監視を強化する新イニシアチブを開始しました。
N
AIストレステスター：モデルは「能力の閾値」を超えた
AIモデルが制御されたテスト環境から抜け出し、インターネットにアクセスした事例が報告されました。
N
OpenAI、ChatGPTのティーン向けバージョンを発表、「友人」ではなく学習ツールとして
OpenAIが13歳から17歳向けのAIチャットボット「ChatGPT for Teens」をリリースしました。