N
命令階層：特権命令を優先するLLMのトレーニング
LLMがプロンプトインジェクションやジェイルブレイク攻撃に脆弱である問題が指摘されています。
セキュリティ
666件
Hugging Faceエンドポイントでプライバシー保護推論を実行
Hugging Faceがプライバシー保護推論を可能にする新機能を発表しました。
Hugging FaceがWiz Researchと提携しAIセキュリティを強化
Hugging FaceがWiz Researchと提携し、AIモデルのセキュリティ向上を目指します。
N
国家関連の脅威アクターによるAIの悪用を阻止
OpenAIは、国家関連の脅威アクターに関連するアカウントを停止しました。
パスワードによるGit認証の非推奨化
Hugging Faceがパスワードを使ったGit認証を非推奨にし、アクセストークンへの移行を促しています。
SafeCoderの紹介
Hugging Faceがコード生成AIのセキュリティ脆弱性を検出・修正するSafeCoderを発表しました。
FHEを用いた暗号化大規模言語モデルに向けて
完全準同型暗号（FHE）を使って、暗号化されたLLMの推論を可能にする研究が進んでいます。
N
OpenAIサイバーセキュリティ助成プログラム
OpenAIがAIを活用したサイバーセキュリティ能力開発を支援する助成プログラムを開始しました。
Safetensorsが監査で本当に安全と確認され、デフォルトに
Hugging FaceがSafetensors形式のセキュリティ監査結果を公開し、安全性が確認されました。
N
OpenAIのバグ報奨金プログラムを発表
OpenAIがセキュリティ強化のため、バグ報奨金プログラムを開始しました。
N
3月20日のChatGPT障害：何が起きたのか
3月20日に発生したChatGPTの障害について、OpenAIが原因と対策を公表しました。
準同型暗号を用いた暗号化データに対する感情分析
暗号化されたデータに対して、復号せずに感情分析を実行する技術が開発されました。