AI用語辞典

AIの判断や予測がどのような理由に基づいているのかを、人間が理解できる形で説明できる能力のことです。信頼性や透明性の向上に不可欠です。

コンピュータシステムやソフトウェア、ネットワークなどに存在する、情報セキュリティ上の欠陥や弱点のこと。悪意のある第三者がこの脆弱性を利用することで、不正アクセスや情報漏洩、システム停止などの被害を引き起こす可能性があります。

米国大統領が、連邦政府の行政機関に対して指示を出すための公式文書。法律と同等の拘束力を持つ場合があり、AI安全保障に関する政策決定にも用いられます。

AIが生成した情報に対して、人間が自身の論理的思考や批判的検討を放棄し、AIの誤った回答や不正確な情報を容易に受け入れてしまう現象。AIの普及に伴い、人間の情報処理能力や判断力への影響が懸念されています。

政府が経済活動や社会問題に対して介入せず、市場や個人の自由に任せるという考え方。AI政策においては、規制を最小限に抑える方針を指します。

クラウド上で提供されるID管理サービスです。ユーザー認証、アクセス管理、シングルサインオン（SSO）などを一元的に行い、複数のシステムやアプリケーションへの安全なアクセスを実現します。セキュリティ強化と管理負担軽減に貢献します。

PCやサーバーなどのエンドポイント（末端のデバイス）における不審な挙動を継続的に監視し、脅威を検知・分析・対応するセキュリティソリューションです。従来のアンチウイルスでは防ぎきれない高度なサイバー攻撃に対処します。

多要素認証（MFA）の設定を初期状態に戻す、または再設定することです。サイバー攻撃では、攻撃者がITサポートを装ってユーザーにMFAリセットを促し、その隙にアカウントへの不正アクセスを試みることがあります。

セキュリティ専門家が顧客のシステムを24時間365日監視し、脅威の検知、分析、対応を代行するサービスです。EDRなどのツールと組み合わせて運用され、企業内のセキュリティ人材不足を補い、高度なサイバー攻撃から保護します。

ガートナーが提唱する、AIシステムの信頼性、リスク、セキュリティを管理するためのフレームワークです。AIの倫理、説明可能性、プライバシー、セキュリティ、ガバナンスといった側面を統合的に扱うことで、AIの安全な導入と運用を目指します。

サイバーセキュリティクラウドが提供する、AIエージェントの利用を統制・管理するためのサービスです。ガートナー提唱の「AI TRiSM」に対応し、企業内でのAI利用におけるガバナンスとセキュリティを強化します。

AIの開発と利用において、公平性、透明性、プライバシー保護、安全性、説明責任などの倫理的原則を考慮し、社会に良い影響を与えるための指針です。

AI技術を悪用して、より巧妙でパーソナライズされたフィッシング詐欺を行うこと。AIが生成した自然な文章や音声で、被害者をだましやすくなるため、従来の対策では検知が難しい場合があります。

OpenID Connect（OIDC）プロトコルにおける信頼関係の確立メカニズム。IDプロバイダーがユーザーの認証情報を提供し、サービスプロバイダーがその情報を信頼してユーザーを認証します。セキュリティ対策の一つです。

AI技術の責任ある開発と利用を確保するための、組織的な枠組み、方針、プロセス、および規制のことです。リスク管理と倫理的配慮を含みます。

データが処理されている間も、メモリ内で暗号化された状態を保つ技術です。これにより、クラウド環境や共有環境でも、データが不正アクセスや改ざんから保護され、プライバシーとセキュリティが大幅に向上します。

機密コンピューティングの技術を用いて、AIモデルによる推論処理を安全に行うことです。入力データやAIモデル自体が暗号化された状態で処理されるため、機密性の高い情報を扱うAIサービスでもプライバシーを保護できます。

ブロックチェーン技術の規制明確化を目指す法案です。グローバル・ブロックチェーン・ビジネス評議会のCEOが可決時期について言及しており、ブロックチェーン関連ビジネスの法的安定性向上に寄与すると期待されています。

インターネット上のコンテンツが、プラットフォームの利用規約や法的基準に違反していないかを監視し、不適切なコンテンツを削除・制限する活動。AIを活用することで、大量のコンテンツを効率的に審査し、安全なオンライン環境を維持することが期待されています。

npmやPyPIといったパッケージ管理システムを介して開発環境に侵入し、機密情報を窃取するマルウェア。セキュリティ対策を迂回する高度な手口を用いるため、開発者コミュニティに深刻な脅威をもたらしています。

企業内でIT部門の承認や管理なしに、従業員が個人的に利用しているAIツールやサービスのこと。利便性が高い一方で、セキュリティリスクを伴うことがあります。

秘密情報を複数の断片に分割し、そのうち一定数以上の断片が集まらなければ元の秘密を復元できないようにする暗号方式です。これにより、一部の断片が漏洩しても秘密全体が保護され、セキュリティが向上します。

AIエージェントのバックドアを生成するツールとして言及されているものです。オープンソースリポジトリを悪用し、セキュリティスキャナーでは検出されにくい形でシステムに侵入する可能性があります。

AIシステムやデータが不正アクセス、改ざん、破壊から保護されている状態です。AIモデルへの攻撃やデータの漏洩を防ぐための対策が含まれます。

ソフトウェアやシステムに存在する、まだ開発元に知られていない、または修正プログラムが提供されていないセキュリティ上の脆弱性のこと。攻撃者はこの脆弱性を利用して、修正される前に攻撃を仕掛けることができます。

二段階認証のこと。パスワードに加えて、スマートフォンに送られるコードや生体認証など、異なる2つの要素を使って本人確認を行うセキュリティ対策。不正アクセスを防ぐ効果を高めます。

認証済みのユーザーセッションを維持するために発行される「トークン」を、攻撃者が不正に入手する行為です。トークンが窃取されると、パスワードを知らなくても、攻撃者は正規ユーザーとしてシステムにアクセスできてしまいます。

AIモデルが特定のデータやグループに対して不公平な判断や予測をしてしまう傾向のことです。学習データに含まれる偏りが原因となることが多いです。

オープンソースパッケージ「Starlette」で発見された重大な脆弱性の名称です。この脆弱性を悪用されると、AIエージェントを含む多くのシステムがセキュリティ上のリスクに晒される可能性があります。

個人情報がAIによってどのように収集、利用、共有されるかに関する懸念です。データ保護規制（GDPRなど）が重要になります。

Anthropicが主導する、AIを活用してソフトウェアの脆弱性を自動で発見・修正するプロジェクトです。AppleやMicrosoft、Googleなどの大手IT企業も参加し、未公開の高度AIモデル「Claude Mythos Preview」が活用されています。

悪意のあるソフトウェアの総称。コンピュータシステムに損害を与えたり、情報を盗み出したり、不正な操作を行ったりすることを目的としています。ウイルス、ワーム、トロイの木馬などが含まれ、サイバー攻撃に利用されます。