AI用語辞典

AIの判断や予測がどのような理由に基づいているのかを、人間が理解できる形で説明できる能力のことです。信頼性や透明性の向上に不可欠です。

コンピュータシステムやソフトウェア、ネットワークなどに存在する、情報セキュリティ上の欠陥や弱点のこと。悪意のある第三者がこの脆弱性を利用することで、不正アクセスや情報漏洩、システム停止などの被害を引き起こす可能性があります。

AIが生成した情報に対して、人間が自身の論理的思考や批判的検討を放棄し、AIの誤った回答や不正確な情報を容易に受け入れてしまう現象。AIの普及に伴い、人間の情報処理能力や判断力への影響が懸念されています。

AIの開発と利用において、公平性、透明性、プライバシー保護、安全性、説明責任などの倫理的原則を考慮し、社会に良い影響を与えるための指針です。

AI技術を悪用して、より巧妙でパーソナライズされたフィッシング詐欺を行うこと。AIが生成した自然な文章や音声で、被害者をだましやすくなるため、従来の対策では検知が難しい場合があります。

OpenID Connect（OIDC）プロトコルにおける信頼関係の確立メカニズム。IDプロバイダーがユーザーの認証情報を提供し、サービスプロバイダーがその情報を信頼してユーザーを認証します。セキュリティ対策の一つです。

AI技術の責任ある開発と利用を確保するための、組織的な枠組み、方針、プロセス、および規制のことです。リスク管理と倫理的配慮を含みます。

ブロックチェーン技術の規制明確化を目指す法案です。グローバル・ブロックチェーン・ビジネス評議会のCEOが可決時期について言及しており、ブロックチェーン関連ビジネスの法的安定性向上に寄与すると期待されています。

インターネット上のコンテンツが、プラットフォームの利用規約や法的基準に違反していないかを監視し、不適切なコンテンツを削除・制限する活動。AIを活用することで、大量のコンテンツを効率的に審査し、安全なオンライン環境を維持することが期待されています。

npmやPyPIといったパッケージ管理システムを介して開発環境に侵入し、機密情報を窃取するマルウェア。セキュリティ対策を迂回する高度な手口を用いるため、開発者コミュニティに深刻な脅威をもたらしています。

AIエージェントのバックドアを生成するツールとして言及されているものです。オープンソースリポジトリを悪用し、セキュリティスキャナーでは検出されにくい形でシステムに侵入する可能性があります。

AIシステムやデータが不正アクセス、改ざん、破壊から保護されている状態です。AIモデルへの攻撃やデータの漏洩を防ぐための対策が含まれます。

ソフトウェアやシステムに存在する、まだ開発元に知られていない、または修正プログラムが提供されていないセキュリティ上の脆弱性のこと。攻撃者はこの脆弱性を利用して、修正される前に攻撃を仕掛けることができます。

二段階認証のこと。パスワードに加えて、スマートフォンに送られるコードや生体認証など、異なる2つの要素を使って本人確認を行うセキュリティ対策。不正アクセスを防ぐ効果を高めます。

AIモデルが特定のデータやグループに対して不公平な判断や予測をしてしまう傾向のことです。学習データに含まれる偏りが原因となることが多いです。

個人情報がAIによってどのように収集、利用、共有されるかに関する懸念です。データ保護規制（GDPRなど）が重要になります。

Anthropicが主導する、AIを活用してソフトウェアの脆弱性を自動で発見・修正するプロジェクトです。AppleやMicrosoft、Googleなどの大手IT企業も参加し、未公開の高度AIモデル「Claude Mythos Preview」が活用されています。

悪意のあるソフトウェアの総称。コンピュータシステムに損害を与えたり、情報を盗み出したり、不正な操作を行ったりすることを目的としています。ウイルス、ワーム、トロイの木馬などが含まれ、サイバー攻撃に利用されます。