新着ニュース

24360件
OpenAI Blog ★3 AI倫理 EN

賭博スパムネットワーク「Bet Bot」

要約を読む要約を閉じる
📰ニュース

OpenAIは、イスラエル拠点のスタートアップ経由でモデルにアクセスし、Xで賭博サイトへのリンクを含む会話を生成するアカウントを停止しました。

🔍注目ポイント

AIモデルが悪用され、大規模な賭博スパムネットワークの生成と拡散に利用されていたことが判明しました。

🔮これからどうなる

AI技術の悪用によるスパムや詐欺が増加する可能性があり、ユーザーはより注意深くなる必要があります。

OpenAIは、自社のAIモデルが賭博サイトへのリンクを含むスパムメッセージを生成するために利用されていたことを確認し、関連アカウントを停止しました。
これは、AI技術の悪用に対するOpenAIの積極的な対応を示しています。
AIの倫理的な利用とセキュリティ対策の重要性が改めて浮き彫りになりました。
OpenAI Blog ★4 AI倫理 EN

「STORM-2035」作戦:イラン発のAIを用いた影響力行使活動

要約を読む要約を閉じる
📰ニュース

OpenAIは、イラン発の「STORM-2035」アカウントがAIで米英選挙コンテンツを生成し、複数のサイトで拡散したため利用を禁止しました。

🔍注目ポイント

AIが生成した偽情報コンテンツを特定し、その拡散を阻止する技術的対策が講じられました。

🔮これからどうなる

AIを用いた選挙介入や偽情報拡散のリスクが顕在化し、民主主義プロセスへの信頼が揺らぐ可能性があります。

この活動は、AIを利用して米英の選挙に関するコンテンツを生成し、様々なオンラインプラットフォームで公開することで、世論に影響を与えようとしました。
OpenAIは、このような悪意ある利用を特定し、アカウントを停止することで、プラットフォームの健全性を維持しようとしています。
OpenAI Blog ★4 AI倫理 EN

「A2Z」作戦:多言語による影響力工作活動

要約を読む要約を閉じる
📰ニュース

OpenAIは、AIを用いて多言語の選挙・ウクライナ・政治に関する影響力工作コンテンツを生成していた「A2Z」アカウントを停止しました。

🔍注目ポイント

AIが多言語コンテンツ生成に悪用され、複数のプラットフォームで影響力工作活動が行われていた点が技術的課題です。

🔮これからどうなる

AIの悪用による偽情報拡散が防がれ、選挙や国際情勢に関する情報の信頼性維持に貢献します。

OpenAIは、AIモデルの悪用を特定し、関連するアカウントを停止する措置を講じました。
これは、AIが生成するコンテンツの信頼性と安全性を確保するための継続的な取り組みの一環です。
特に多言語での影響力工作は、広範囲にわたる情報操作のリスクを高めます。
OpenAI Blog ★4 AI倫理 EN

「ストップニュース」作戦:ロシア発の影響力工作

要約を読む要約を閉じる
📰ニュース

OpenAIは、ロシア発の「ストップニュース」アカウントがAIを使い、ウクライナと西側諸国を標的とした多言語記事や投稿を生成していたため、それらを禁止しました。

🔍注目ポイント

AIが多言語コンテンツ生成に悪用され、影響力工作に利用された点が技術的な悪用事例として注目されます。

🔮これからどうなる

AI技術が悪意ある情報操作に利用されるリスクが顕在化し、AIプロバイダーは悪用対策の強化を迫られます。

この影響力工作は、ウクライナと西側諸国を標的とし、多言語で記事や投稿を生成していました。
OpenAIは、自社のAIモデルが誤情報拡散に利用されることを防ぐため、これらのアカウントを特定し、禁止措置を取りました。
これはAIの倫理的利用とセキュリティに関する重要な事例です。
OpenAI Blog ★3 AI倫理 EN

デマ:偽のロシア「荒らし」エラーメッセージ

要約を読む要約を閉じる
📰ニュース

OpenAIが、偽のChatGPTエラーメッセージを作成したアカウントを停止しました。

🔍注目ポイント

AIが偽のエラーメッセージを生成し、特定の国籍の活動を装う手口が使われました。

🔮これからどうなる

AIによる情報操作や偽情報拡散のリスクが改めて浮き彫りになり、ユーザーの信頼に影響を与えます。

停止されたアカウントは米国発祥とみられ、ChatGPTが「ロシアの荒らし」活動を検出したと主張する偽のエラーメッセージを作成しました。
これはAIが悪用され、特定の集団を標的にした誤解を招く情報を生成する可能性を示しています。
OpenAI Blog ★4 AI倫理 EN

CyberAv3ngers:イラン関連のサイバー研究活動

要約を読む要約を閉じる
📰ニュース

OpenAIは、イラン関連のハッカー集団がAIを悪用し、産業制御システムやデフォルト認証情報を調査していたアカウントを停止しました。

🔍注目ポイント

AIがサイバー攻撃の初期段階である情報収集やターゲット選定に悪用される可能性が示されました。

🔮これからどうなる

重要インフラを狙うサイバー攻撃のリスクが高まり、企業や政府はAI悪用対策を強化する必要に迫られます。

OpenAIは、CyberAv3ngersと関連があるとみられるアカウントが、AIを使って産業制御システム(ICS)やそのデフォルト認証情報、潜在的な標的について調査していたことを確認しました。
これは、AIがサイバー攻撃の計画段階で利用される具体的な事例であり、AIの悪用に対する警戒を促すものです。
OpenAIは、悪意のある行為にAIが利用されることを防ぐため、ポリシーを強化しています。
OpenAI Blog ★4 AI倫理 EN

SweetSpecter:中国関連のサイバー活動

要約を読む要約を閉じる
📰ニュース

OpenAIが中国関連のサイバー攻撃グループ「SweetSpecter」のアカウントを停止しました。

🔍注目ポイント

SweetSpecterはAIを悪用し、脆弱性調査、コード生成、スピアフィッシングに利用していました。

🔮これからどうなる

AIが悪意あるサイバー攻撃に利用されるリスクが顕在化し、企業や個人のセキュリティ対策がより重要になります。

OpenAIは、AIモデルの悪用を監視し、国家が支援するサイバー攻撃者による利用を阻止する取り組みを強化しています。
SweetSpecterは、AIを使ってオープンソースの脆弱性を調査し、悪意のあるコードを作成し、標的型フィッシングメールの作成を支援していました。
これはAIの悪用事例として注目されます。
OpenAI Blog ★4 AI倫理 EN

STORM-0817:イラン関連のマルウェアとスクレイピング活動

要約を読む要約を閉じる
📰ニュース

OpenAIは、イラン関連の脅威アクター「STORM-0817」がAIを悪用したため、関連アカウントを停止しました。

🔍注目ポイント

STORM-0817は、AIモデルをAndroidマルウェアのデバッグ、ソーシャルメディアのスクレイピング、ツールの翻訳に利用していました。

🔮これからどうなる

AIが悪意のある活動に利用されるリスクが顕在化し、AIサービスのセキュリティ対策強化が求められます。

OpenAIは、STORM-0817がAIモデルを悪用していることを特定し、関連するアカウントを停止しました。
このグループは、Androidマルウェアのデバッグ、ソーシャルプラットフォームからの情報収集、およびツールの翻訳にAIを活用していました。
これは、国家が支援する脅威アクターがAI技術を悪用する具体的な事例として注目されます。
Hugging Face Blog ★3 研究 EN

頂点カラーメッシュからテクスチャメッシュへの変換

要約を読む要約を閉じる
📰ニュース

Hugging Faceが頂点カラーメッシュをテクスチャメッシュに変換する技術を発表しました。

🔍注目ポイント

この技術は、3Dモデルの視覚的品質と汎用性を向上させる新しい変換手法を提供します。

🔮これからどうなる

3Dコンテンツ制作の効率が向上し、ゲーム開発者やデザイナーに新たな表現の可能性をもたらします。

頂点カラーメッシュは、各頂点に色情報を持つシンプルな3Dモデルですが、テクスチャメッシュはより詳細な画像ベースのテクスチャを持ちます。
この変換により、よりリアルで複雑なモデルを簡単に作成できるようになります。
特に、既存の頂点カラーモデルを高品質なテクスチャモデルにアップグレードする際に有用です。
OpenAI Blog ★3 ビジネス EN

AIを活用し、金融業務を自動化・拡張する

要約を読む要約を閉じる
📰ニュース

OpenAIが金融業務の自動化と拡張におけるAIの活用法を提唱しました。

🔍注目ポイント

AIがデータ分析、予測、顧客対応を効率化し、金融機関の業務プロセスを革新します。

🔮これからどうなる

金融機関はコスト削減と生産性向上を実現し、顧客はより迅速でパーソナライズされたサービスを受けられます。

OpenAIは、AIが金融業界で特に反復的なタスクや大量のデータ処理において大きな価値を発揮すると強調しています。
これにより、従業員はより戦略的な業務に集中できるようになります。
AIの導入は、金融サービスの提供方法を根本的に変える可能性を秘めています。
OpenAI Blog ★4 AI倫理 EN

モデレーションAPIのアップグレード:新しいマルチモーダルモデレーションモデルを導入

要約を読む要約を閉じる
📰ニュース

OpenAIがGPT-4oを基盤とした新しいマルチモーダルモデレーションモデルを公開しました。

🔍注目ポイント

テキストと画像を同時に分析し、有害なコンテンツをより高精度に検出できる点が技術的ポイントです。

🔮これからどうなる

開発者はより堅牢なモデレーションシステムを構築でき、ユーザーはより安全なオンライン体験を得られます。

この新しいモデルは、GPT-4oの能力を活用し、従来のモデルよりも有害なテキストと画像の検出精度が向上しています。
これにより、プラットフォーム運営者は、不適切なコンテンツのフィルタリングを強化し、ユーザーの安全とプラットフォームの健全性を維持しやすくなります。
OpenAI Blog ★3 LLM EN

ミネソタ州の企業翻訳オフィス、ChatGPTを活用し言語の壁を解消

要約を読む要約を閉じる
📰ニュース

ミネソタ州の企業翻訳オフィスがChatGPTを導入し、州民向けの情報翻訳に活用しています。

🔍注目ポイント

ChatGPTを翻訳の一次ドラフト作成に利用することで、翻訳プロセスの効率化とコスト削減を実現しています。

🔮これからどうなる

州民はより迅速かつ正確に、自身の母国語で重要な公共情報にアクセスできるようになります。

ミネソタ州は多言語を話す住民が多く、州政府は彼らに必要な情報を提供するため、年間約200万ドルの翻訳費用をかけていました。
ChatGPTの導入により、翻訳者はより複雑な内容や文化的なニュアンスに集中でき、翻訳の質とスピードが向上しました。