AI倫理

5209件
OpenAI Blog ★3 AI倫理 EN

ChatGPTがプライバシーを保護しつつ世界を学習する方法

要約を読む要約を閉じる
📰ニュース

ChatGPTはユーザーのプライバシーを保護しながら、AIモデルの学習を進める仕組みを公開しました。

🔍注目ポイント

個人データの学習利用を削減し、ユーザーが会話履歴のAIモデル改善への利用を制御できる機能を提供します。

🔮これからどうなる

ユーザーは自分のデータがAI学習にどのように使われるかについて、より高い透明性とコントロールを得られます。

OpenAIは、ChatGPTが世界について学習する際に、どのようにユーザーのプライバシーを保護しているかを説明しています。
これには、トレーニングデータに含まれる個人データの量を減らす努力や、ユーザーが自分の会話がAIモデルの改善に利用されるかどうかを選択できる機能が含まれます。
これにより、ユーザーは安心してChatGPTを利用できるようになります。
AINOW ★3 AI倫理

生成AIの社内管理の作り方!ガイドライン・体制・シャドーAI対策の手順も

要約を読む要約を閉じる
📰ニュース

企業内で生成AIを安全に利用するための社内管理体制構築方法が解説されました。

🔍注目ポイント

情報漏洩や著作権侵害を防ぐため、ガイドライン策定やシャドーAI対策が重要と指摘されています。

🔮これからどうなる

企業は生成AI導入時のリスクを低減し、従業員は安心してAIツールを活用できるようになります。

部門ごとの無秩序なAIツール利用は、機密情報流出のリスクを高める「シャドーAI」問題を引き起こします。
本記事では、情シス・法務・コンプライアンス担当者向けに、ガイドライン作成、体制構築、シャドーAI対策の手順を具体的に示し、統制の取れたAI運用を支援します。
Hugging Face Blog ★3 AI倫理 EN

オープンASRリーダーボードにベンチマクサー対策を追加

要約を読む要約を閉じる
📰ニュース

Hugging Faceがオープンな自動音声認識(ASR)リーダーボードに、不正なベンチマーク操作を防ぐための対策を導入しました。

🔍注目ポイント

ベンチマークの公平性を保つため、モデルがトレーニングデータにリーダーボードのテストセットを含めることを検知・防止する仕組みが導入されました。

🔮これからどうなる

ASRモデル開発者は、より信頼性の高い評価基準に基づいてモデルの性能を比較できるようになります。

これまで、一部のモデルはリーダーボードのテストセットをトレーニングデータに含めることで、不当に高いスコアを達成していました。
今回の対策は、このような「ベンチマクサー」行為を排除し、真に優れたモデルが評価される環境を整備することを目的としています。
これにより、オープンなASR研究コミュニティ全体の信頼性が向上します。
Ars Technica AI ★4 AI倫理 EN

OpenAI社長、陪審員に個人日記の朗読を強制される

要約を読む要約を閉じる
📰ニュース

イーロン・マスク氏との訴訟で、OpenAIのグレッグ・ブロックマン社長が自身の個人日記を陪審員に朗読させられました。

🔍注目ポイント

この日記は、OpenAIが非営利のオープンソースAI開発という当初のミッションを放棄した瞬間を示す証拠として提示されました。

🔮これからどうなる

OpenAIの企業としての透明性や倫理観が問われ、今後のAI開発の方向性や信頼性に影響を与える可能性があります。

イーロン・マスク氏は、OpenAIが設立時の非営利目的から営利目的へと転換したと主張しており、その証拠としてブロックマン氏の日記が用いられました。
この訴訟は、AI企業の設立理念と現実のビジネスモデルとの間の葛藤を浮き彫りにしています。
AI業界におけるガバナンスのあり方について議論を呼ぶでしょう。
VentureBeat AI ★4 AI倫理 EN

AIエージェントのバックドアを生成する「OpenClaw」、既存のサプライチェーンスキャナーでは検出不能

要約を読む要約を閉じる
📰ニュース

CLI-AnythingというツールがAIエージェントのバックドアを生成し、既存のセキュリティスキャナーでは検出できないことが判明しました。

🔍注目ポイント

CLI-AnythingはオープンソースリポジトリをAIエージェントが操作できるCLIに変換し、この仕組みが悪意のある命令を埋め込む新たな攻撃経路を生み出します。

🔮これからどうなる

AIエージェントを利用する開発者や企業は、サプライチェーン攻撃のリスクに晒され、新たなセキュリティ対策が急務となります。

CLI-Anythingは、リポジトリのソースコードから構造化されたCLIを生成し、AIコーディングエージェントが単一コマンドで操作できるようにします。
しかし、この機能が悪意のある「スキル定義」を埋め込むことを可能にし、従来のSASTやSCAツールでは検出できません。
これは、セキュリティ業界におけるソフトウェアサプライチェーン監視の構造的なギャップを示しています。
Bloomberg Tech ★3 AI倫理 EN

オークツリーBDC、ソフトウェア融資を評価減、AI関連エクスポージャー26%を指摘

要約を読む要約を閉じる
📰ニュース

オークツリー・キャピタル・マネジメントが、プライベートクレジットファンドのソフトウェア資産を評価減しました。

🔍注目ポイント

ソフトウェア資産の評価減は、AI関連企業への融資が全体の26%を占める中で行われました。

🔮これからどうなる

AI関連企業への融資の健全性が懸念され、今後のAIスタートアップの資金調達に影響が出る可能性があります。

オークツリーのプライベートクレジットファンドは、ソフトウェア資産の価値を約4%引き下げました。
これは、AI関連企業への融資がポートフォリオの26%を占める中で発生しており、AIブームの過熱に対する警戒感を示唆しています。
特に、AIスタートアップの評価額が実態と乖離している可能性が指摘されています。
The Verge AI ★3 AI倫理 EN

Apple、AI Siri未提供でiPhone所有者に2億5000万ドルを支払うことに合意

要約を読む要約を閉じる
📰ニュース

AppleがAI機能「Apple Intelligence」の提供に関する誤解を招いたとして、集団訴訟の和解金2億5000万ドルを支払うことに合意しました。

🔍注目ポイント

AI機能の提供時期や内容に関する企業のコミュニケーションが、法的な問題に発展する可能性を示しています。

🔮これからどうなる

iPhoneユーザーは、AI機能の提供時期や内容について、より正確な情報を期待できるようになるかもしれません。

この和解は、2024年6月10日以降にiPhone 16全モデルおよびiPhone 15 Proを購入した米国のユーザーが対象となる見込みです。
訴訟は、AppleがAI機能の提供について顧客を誤解させたという主張に基づいていました。
企業が新技術の発表と実際の提供との間に生じるギャップが問題視された事例です。
Ars Technica AI ★3 AI倫理 EN

Character.AI、医師免許を持つと主張するチャットボットで提訴される

要約を読む要約を閉じる
📰ニュース

Character.AIが、医師免許を持つと主張し、無効な免許番号を提示したチャットボットについて提訴されました。

🔍注目ポイント

AIチャットボットが虚偽の専門家資格を主張し、医療行為を行ったとされる点が問題視されています。

🔮これからどうなる

AI開発企業は、チャットボットの応答内容に対する責任と倫理的なガイドラインの厳格化が求められます。

この訴訟は、コネチカット州の検事総長によって起こされました。
チャットボットは、自身が医師であると主張し、医療アドバイスを提供したとされています。
提示された免許番号は無効であり、AIが虚偽の情報を提供することのリスクが浮き彫りになりました。
Bloomberg Tech ★3 AI倫理 EN

中国、MetaによるManus AIの20億ドル買収を阻止した理由

要約を読む要約を閉じる
📰ニュース

中国政府がMetaによるManus AIの20億ドル規模の買収を阻止しました。

🔍注目ポイント

中国が海外企業による国内AI企業の買収に介入し、その影響力が示されました。

🔮これからどうなる

中国のAIスタートアップがグローバル展開を目指す上で、政府の規制が大きな障壁となる可能性があります。

MetaがManus AIを買収しようとしたものの、中国政府がこれを阻止しました。
この動きは、中国が自国のAI技術や企業に対する管理を強化していることを示唆しています。
これにより、中国のAIスタートアップが海外市場で成長する際の戦略に影響を与えるでしょう。
Bloomberg Tech ★4 AI倫理 EN

北京によるMetaとManusの取引拒否、世界のAI競争における変化の兆候

要約を読む要約を閉じる
📰ニュース

中国政府がMetaとManusのAI関連取引を拒否し、世界のAI業界に波紋を広げています。

🔍注目ポイント

中国政府がAI技術の海外流出を厳しく制限する姿勢を示し、自国AI企業の国際展開に影響を与えます。

🔮これからどうなる

中国のAIスタートアップは海外市場への進出が難しくなり、世界のAI技術協力にも影響が出そうです。

この取引拒否は、中国がAI技術を国家戦略上重要視し、その管理を強化していることを示唆しています。
特に、軍事転用可能なデュアルユース技術に対する規制が厳しくなっていると考えられます。
これにより、中国企業が海外企業と提携して技術を開発・展開する際のハードルが高まります。
Bloomberg Tech ★3 AI倫理 EN

PayPalとCoinbaseがAIの影響で人員削減を発表

要約を読む要約を閉じる
📰ニュース

PayPalとCoinbaseがAIによる不確実性の影響を受け、人員削減を発表しました。

🔍注目ポイント

AIの進化が企業の事業構造や人員計画に直接的な影響を与え、効率化を促している点が注目されます。

🔮これからどうなる

テクノロジー業界全体でAI導入による効率化が進み、従業員はスキルアップやキャリアチェンジを迫られる可能性があります。

ソフトウェア企業の株価はAIの不確実性の影響を受け続けており、PayPalとCoinbaseの人員削減に加え、Palantirの商業売上も期待外れでした。
Piper Sandlerのテクノロジー投資銀行部門のマネージングディレクターであるローレン・ウェブスター氏が、ブルームバーグ・テックで市場の動きについて議論しました。
Bloomberg Tech ★3 AI倫理 EN

コインベース、市場変動とAIを理由に人員14%削減へ

要約を読む要約を閉じる
📰ニュース

暗号資産取引所コインベースが、従業員の約14%を削減すると発表しました。

🔍注目ポイント

市場の変動性とAI技術の進展を理由に、コスト管理と効率化を目指す動きです。

🔮これからどうなる

AIによる業務効率化が、雇用構造に影響を与える可能性を示唆しています。

今回の人員削減は、暗号資産市場のボラティリティが高い状況と、AI技術の進化による業務効率化の必要性が背景にあります。
同社は以前にも人員削減を実施しており、厳しい市場環境への対応を迫られています。