中華AI「Qwen」の公式ページのソースに「hentai」が大量に含まれていることが判明
記事のポイント
📰ニュース
中国AlibabaのAI「Qwen」公式サイトのソースコードに「hentai」などのセンシティブなキーワードが大量に含まれていることが判明しました。
🔍注目ポイント
高性能AIモデルを開発する大手企業の公式サイトに、不適切なキーワードが多数埋め込まれていた点が技術的な管理体制の甘さを示唆します。
🔮これからどうなる
AI開発企業の信頼性が損なわれ、特に倫理的なAI利用を求めるユーザーや企業は、モデル選定に慎重になる可能性があります。
QwenはAlibaba傘下のAI研究部門で、大規模言語モデルや画像生成モデルなど、高性能なAIモデルを多数リリースしています。
今回発見されたキーワードは、サイトのメタデータやコメント部分に隠されていたと推測され、意図的なものか、あるいは開発過程での不注意によるものかは不明です。
この問題は、AI開発における倫理的配慮やセキュリティ管理の重要性を改めて浮き彫りにしました。
今回発見されたキーワードは、サイトのメタデータやコメント部分に隠されていたと推測され、意図的なものか、あるいは開発過程での不注意によるものかは不明です。
この問題は、AI開発における倫理的配慮やセキュリティ管理の重要性を改めて浮き彫りにしました。
大手AI企業の公式サイトでこんな問題が起きるとは驚きですね。AIモデル自体の性能とは別に、企業の信頼性や管理体制が問われる事態になりそうです。今後のAI利用者の選択にも影響が出そうですね。