AI用語辞典

デジタルコンテンツに埋め込まれる、目に見えない、または目立たない識別情報のことです。AIが生成したテキストや画像に透かしを埋め込むことで、そのコンテンツがAIによって作られたものであることを判別したり、著作権を保護したりする目的で使われます。

AIの判断や予測がどのような理由に基づいているのかを、人間が理解できる形で説明できる能力のことです。信頼性や透明性の向上に不可欠です。

コンピュータシステムやソフトウェア、ネットワークなどに存在する、情報セキュリティ上の欠陥や弱点のこと。悪意のある第三者がこの脆弱性を利用することで、不正アクセスや情報漏洩、システム停止などの被害を引き起こす可能性があります。

量子コンピュータによる攻撃にも耐えうるとされる暗号署名技術です。現在の公開鍵暗号方式は量子コンピュータによって解読される可能性があるため、将来のセキュリティ対策として研究開発が進められています。

米国大統領が、連邦政府の行政機関に対して指示を出すための公式文書。法律と同等の拘束力を持つ場合があり、AI安全保障に関する政策決定にも用いられます。

デジタルデータに埋め込まれる、目に見えない識別情報です。AIが生成したテキストや画像に電子透かしを埋め込むことで、そのコンテンツがAIによって生成されたものであることを識別する技術として活用されています。

AIが生成した情報に対して、人間が自身の論理的思考や批判的検討を放棄し、AIの誤った回答や不正確な情報を容易に受け入れてしまう現象。AIの普及に伴い、人間の情報処理能力や判断力への影響が懸念されています。

政府が経済活動や社会問題に対して介入せず、市場や個人の自由に任せるという考え方。AI政策においては、規制を最小限に抑える方針を指します。

クラウド上で提供されるID管理サービスです。ユーザー認証、アクセス管理、シングルサインオン（SSO）などを一元的に行い、複数のシステムやアプリケーションへの安全なアクセスを実現します。セキュリティ強化と管理負担軽減に貢献します。

PCやサーバーなどのエンドポイント（末端のデバイス）における不審な挙動を継続的に監視し、脅威を検知・分析・対応するセキュリティソリューションです。従来のアンチウイルスでは防ぎきれない高度なサイバー攻撃に対処します。

Microsoftが摘発した、AIを活用して大規模なサイバー攻撃を効率化するプラットフォームの名称です。攻撃者がAIを利用して不正行為を行う事例として挙げられています。

ロシア連邦保安庁の略称です。ロシアの主要な情報機関の一つで、国内の治安維持、対テロ活動、国境警備などを担当しています。サイバー攻撃活動に関与していると指摘されることもあります。

多要素認証（MFA）の設定を初期状態に戻す、または再設定することです。サイバー攻撃では、攻撃者がITサポートを装ってユーザーにMFAリセットを促し、その隙にアカウントへの不正アクセスを試みることがあります。

セキュリティ専門家が顧客のシステムを24時間365日監視し、脅威の検知、分析、対応を代行するサービスです。EDRなどのツールと組み合わせて運用され、企業内のセキュリティ人材不足を補い、高度なサイバー攻撃から保護します。

Anthropicが企業向けに提供する、AIの不正利用を検知し、ログを顧客のクラウドに保存する新機能です。ゼロデータ保持と同等のプライバシーを確保しつつ、AIの安全な利用を支援します。

ガートナーが提唱する、AIシステムの信頼性、リスク、セキュリティを管理するためのフレームワークです。AIの倫理、説明可能性、プライバシー、セキュリティ、ガバナンスといった側面を統合的に扱うことで、AIの安全な導入と運用を目指します。

サイバーセキュリティクラウドが提供する、AIエージェントの利用を統制・管理するためのサービスです。ガートナー提唱の「AI TRiSM」に対応し、企業内でのAI利用におけるガバナンスとセキュリティを強化します。

AIの開発と利用において、公平性、透明性、プライバシー保護、安全性、説明責任などの倫理的原則を考慮し、社会に良い影響を与えるための指針です。

AIシステムの開発、導入、運用におけるセキュリティリスクを管理し、安全性を確保するためのガイドラインや基準。政府や業界団体が策定し、AIの悪用防止や脆弱性対策を促す。

AI技術を悪用して、より巧妙でパーソナライズされたフィッシング詐欺を行うこと。AIが生成した自然な文章や音声で、被害者をだましやすくなるため、従来の対策では検知が難しい場合があります。

エンドポイント（PCやサーバーなど）に導入されたソフトウェアエージェントが、リアルタイムで脅威を監視・検知・対応するサイバーセキュリティシステムです。AIを活用することで、より高度な脅威分析と自動対応が可能になります。

OpenID Connect（OIDC）プロトコルにおける信頼関係の確立メカニズム。IDプロバイダーがユーザーの認証情報を提供し、サービスプロバイダーがその情報を信頼してユーザーを認証します。セキュリティ対策の一つです。

AI技術の責任ある開発と利用を確保するための、組織的な枠組み、方針、プロセス、および規制のことです。リスク管理と倫理的配慮を含みます。

データが処理されている間も、メモリ内で暗号化された状態を保つ技術です。これにより、クラウド環境や共有環境でも、データが不正アクセスや改ざんから保護され、プライバシーとセキュリティが大幅に向上します。

機密コンピューティングの技術を用いて、AIモデルによる推論処理を安全に行うことです。入力データやAIモデル自体が暗号化された状態で処理されるため、機密性の高い情報を扱うAIサービスでもプライバシーを保護できます。

NVIDIAとCrowdStrikeが共同で開発した、AIを活用したエージェント型サイバーセキュリティシステムです。NVIDIAのAIプラットフォームとCrowdStrikeのセキュリティ技術を組み合わせ、高度な脅威からシステムを保護します。

ブロックチェーン技術の規制明確化を目指す法案です。グローバル・ブロックチェーン・ビジネス評議会のCEOが可決時期について言及しており、ブロックチェーン関連ビジネスの法的安定性向上に寄与すると期待されています。

国際的な協力や組織が、特定の目的のために秘密裏に活動しているという陰謀論的な主張です。AIのリスク管理における国際協定を否定する文脈で使われました。

インターネット上のコンテンツが、プラットフォームの利用規約や法的基準に違反していないかを監視し、不適切なコンテンツを削除・制限する活動。AIを活用することで、大量のコンテンツを効率的に審査し、安全なオンライン環境を維持することが期待されています。

npmやPyPIといったパッケージ管理システムを介して開発環境に侵入し、機密情報を窃取するマルウェア。セキュリティ対策を迂回する高度な手口を用いるため、開発者コミュニティに深刻な脅威をもたらしています。

企業内でIT部門の承認や管理なしに、従業員が個人的に利用しているAIツールやサービスのこと。利便性が高い一方で、セキュリティリスクを伴うことがあります。

秘密情報を複数の断片に分割し、そのうち一定数以上の断片が集まらなければ元の秘密を復元できないようにする暗号方式です。これにより、一部の断片が漏洩しても秘密全体が保護され、セキュリティが向上します。

AIエージェントのバックドアを生成するツールとして言及されているものです。オープンソースリポジトリを悪用し、セキュリティスキャナーでは検出されにくい形でシステムに侵入する可能性があります。

Content Authenticity Initiative (CAI) と Project Origin が共同で設立した、コンテンツの来歴と信頼性を検証するための技術標準を策定する団体です。デジタルコンテンツがいつ、どこで、どのように作成・編集されたかを示すメタデータを付与する仕組みを提供します。

元NSA職員のエドワード・スノーデンが公開した、アメリカ政府による大規模な監視プログラムに関する機密文書。デジタル監視の倫理的・プライバシー問題について世界的な議論を巻き起こしました。

AIシステムやデータが不正アクセス、改ざん、破壊から保護されている状態です。AIモデルへの攻撃やデータの漏洩を防ぐための対策が含まれます。

AIエージェントのセキュリティインシデント共有ガイドラインの名称です。Linux FoundationとNVIDIAらが共同で意見募集を開始し、業界全体のセキュリティ向上を目指しています。

AIシステムが不適切な出力を行ったり、悪用されたりすることを防ぐための安全対策や保護機能のことです。倫理的な問題やセキュリティリスクを低減するために、AIモデルに組み込まれる様々な制限やフィルタリング機構を指します。

ソフトウェアやシステムに存在する、まだ開発元に知られていない、または修正プログラムが提供されていないセキュリティ上の脆弱性のこと。攻撃者はこの脆弱性を利用して、修正される前に攻撃を仕掛けることができます。

二段階認証のこと。パスワードに加えて、スマートフォンに送られるコードや生体認証など、異なる2つの要素を使って本人確認を行うセキュリティ対策。不正アクセスを防ぐ効果を高めます。

ウェブサイトがユーザーのデバイスやブラウザの設定情報を組み合わせて作成する、個々のユーザーを識別するためのユニークな情報。Cookieを使わずにユーザーのオンライン行動を追跡するために悪用されることがあります。

認証済みのユーザーセッションを維持するために発行される「トークン」を、攻撃者が不正に入手する行為です。トークンが窃取されると、パスワードを知らなくても、攻撃者は正規ユーザーとしてシステムにアクセスできてしまいます。

AIモデルが特定のデータやグループに対して不公平な判断や予測をしてしまう傾向のことです。学習データに含まれる偏りが原因となることが多いです。

オープンソースパッケージ「Starlette」で発見された重大な脆弱性の名称です。この脆弱性を悪用されると、AIエージェントを含む多くのシステムがセキュリティ上のリスクに晒される可能性があります。

サイバーセキュリティ分野で世界的に有名なカンファレンスです。最新のセキュリティ脅威や防御技術、研究成果などが発表され、官民連携の重要性も議論されます。

個人情報がAIによってどのように収集、利用、共有されるかに関する懸念です。データ保護規制（GDPRなど）が重要になります。

Anthropicが主導する、AIを活用してソフトウェアの脆弱性を自動で発見・修正するプロジェクトです。AppleやMicrosoft、Googleなどの大手IT企業も参加し、未公開の高度AIモデル「Claude Mythos Preview」が活用されています。

悪意のあるソフトウェアの総称。コンピュータシステムに損害を与えたり、情報を盗み出したり、不正な操作を行ったりすることを目的としています。ウイルス、ワーム、トロイの木馬などが含まれ、サイバー攻撃に利用されます。