オープンモデルの69%は出自未検証、シスコが約900モデルを無料でフィンガープリント
The lineage behind 69% of open models was never verified. Cisco just fingerprinted almost 900 for free
記事のポイント
📰ニュース
オープンソースAIモデルの約69%が出自未検証である問題に対し、シスコが約900モデルの出自を無料で検証できる公開データベースをリリースしました。
🔍注目ポイント
シスコは、モデルの重みレベル分析を通じて、親モデルやライセンス、スキャン状況などを特定する「AIサプライチェーン由来エクスプローラー」を公開しました。
🔮これからどうなる
企業はオープンモデルのセキュリティリスクを低減し、より安全にAIモデルを導入できるようになり、AIサプライチェーン全体の透明性が向上します。
Hugging Faceでは、アップロード者が親モデルの申告を重みレベルで検証する義務がなく、多くのモデルの出自が不明確でした。
シスコのツールは、これまでエンジニアが手動で行っていた検証作業を自動化し、モデルの脆弱性評価を容易にします。
これにより、悪意のあるモデルや脆弱性を持つモデルが企業システムに組み込まれるリスクを軽減できます。
シスコのツールは、これまでエンジニアが手動で行っていた検証作業を自動化し、モデルの脆弱性評価を容易にします。
これにより、悪意のあるモデルや脆弱性を持つモデルが企業システムに組み込まれるリスクを軽減できます。
オープンソースAIモデルのセキュリティは重要な課題でした。シスコのこのツールは、企業が安心してモデルを利用できるよう、AIサプライチェーンの透明性を高める大きな一歩になりそうです。私たちの生活にも関わるAIの安全性が向上するでしょう。