AI倫理

5193件
OpenAI Blog ★3 AI倫理 EN

OpenAIが非営利団体とコミュニティのイノベーションを支援

要約を読む要約を閉じる
📰ニュース

OpenAIが米国の非営利団体向けに5000万ドルの「People-First AI Fund」を設立しました。

🔍注目ポイント

AI技術を活用して教育、医療、研究分野の非営利団体の社会貢献を拡大支援します。

🔮これからどうなる

非営利団体はAI導入の資金と技術支援を得て、社会課題解決への取り組みを加速できます。

この基金は、AIを人々の利益のために活用することを目指しており、特に教育、医療、研究といった分野でのAIの応用を奨励しています。
申請期間は2025年9月8日から10月8日までで、米国の非営利団体が対象となります。
OpenAIは、AIが社会にポジティブな影響を与えるための重要なツールであると考えています。
OpenAI Blog ★3 AI倫理 EN

集団的アラインメント:モデル仕様に関する一般からの意見募集

要約を読む要約を閉じる
📰ニュース

OpenAIがAIの振る舞いについて世界中の1000人以上を調査し、その結果をモデル仕様と比較しました。

🔍注目ポイント

多様な人間の価値観を反映させるため、集団的アラインメントを通じてAIのデフォルト設定を形成しています。

🔮これからどうなる

AIがより多くの人々の価値観に沿った振る舞いをするようになり、社会受容性が高まります。

OpenAIは、AIの振る舞いに関する一般の意見をモデル仕様に反映させる「集団的アラインメント」を推進しています。
世界中の1000人以上を対象に、AIがどのように振る舞うべきかについて調査を実施しました。
この取り組みは、AIが特定の価値観に偏らず、多様な人間の視点を公平に反映することを目指しています。
OpenAI Blog ★4 LLM EN

OpenAIとAnthropicが共同安全評価の結果を共有

要約を読む要約を閉じる
📰ニュース

OpenAIとAnthropicが初の共同安全評価を実施し、互いのモデルの安全性に関する知見を共有しました。

🔍注目ポイント

両社はモデルの誤動作、指示追従、幻覚、ジェイルブレイクなどを相互にテストし、協調的な安全研究の有効性を示しました。

🔮これからどうなる

AIモデルの安全性向上に向けた業界全体の協力が促進され、より信頼性の高いAI開発に繋がるでしょう。

この評価は、AIモデルの安全性に関する共通の課題を特定し、解決策を模索するために行われました。
誤動作や幻覚、ジェイルブレイクといった問題は、大規模言語モデルの信頼性を損なう主要な要因です。
今回の共同評価は、異なる企業間での知見共有が、これらの課題克服に有効であることを示唆しています。
OpenAI Blog ★4 AI倫理 EN

最も困っている人々を助ける:精神的・感情的苦痛を抱えるユーザーへの安全性に関するOpenAIの取り組み

要約を読む要約を閉じる
📰ニュース

OpenAIが精神的・感情的苦痛を抱えるユーザーの安全対策と、現在のAIシステムの限界について発表しました。

🔍注目ポイント

AIがユーザーの精神状態を認識し、適切なサポートやリソース提供の安全なガイドラインを策定しています。

🔮これからどうなる

精神的苦痛を抱える人々がAIを通じて安全かつ適切なサポートを受けられる可能性が高まります。

OpenAIは、AIがユーザーの精神状態を誤って判断したり、不適切なアドバイスをしたりするリスクを認識しています。
そのため、専門家と連携し、AIが安全かつ倫理的にユーザーをサポートするためのシステム改善とガイドライン策定を進めています。
現在のシステムはまだ限界があり、専門家によるサポートの代替にはならないと強調しています。
OpenAI Blog ★3 AI倫理 EN

OpenAI、カリフォルニア州知事にAI規制の調和を求める書簡を送付

要約を読む要約を閉じる
📰ニュース

OpenAIがカリフォルニア州知事に対し、州レベルのAI規制を国家・国際基準と調和させるよう求める書簡を送った。

🔍注目ポイント

AI開発を阻害しないよう、州ごとの規制乱立ではなく、統一された規制枠組みの構築を提唱している。

🔮これからどうなる

AI企業は規制対応の複雑さを軽減でき、よりスムーズな技術開発と市場展開が期待される。

OpenAIは、カリフォルニア州が米国のAI規制を主導し、結果的に世界の標準となるよう働きかけることを期待している。
これは、各州が独自の規制を設けることで生じるAI企業の負担増大やイノベーション阻害への懸念が背景にある。
国家レベルでの一貫した規制が、AIの安全かつ責任ある発展に不可欠だと主張している。
OpenAI Blog ★4 LLM EN

ハードな拒否から安全な補完へ:出力中心の安全性トレーニングに向けて

要約を読む要約を閉じる
📰ニュース

OpenAIがGPT-5で、AIの安全性を高める新しい「安全な補完」アプローチを導入しました。

🔍注目ポイント

従来の単純な拒否ではなく、出力内容を考慮した、より洗練された安全性トレーニングを実現します。

🔮これからどうなる

ユーザーは、有害なプロンプトに対しても、より有用で安全なAI応答を得られるようになります。

このアプローチは、AIが二重利用可能なプロンプト(悪用も善用も可能な指示)を処理する際に特に有効です。
単に拒否するのではなく、安全な形で応答を生成することで、AIの有用性を損なわずに安全性を向上させます。
これは、AIの倫理的かつ実用的な利用を両立させるための重要な進歩です。
OpenAI Blog ★4 AI倫理 EN

オープンウェイトLLMの最悪ケースにおけるフロンティアリスクの推定

要約を読む要約を閉じる
📰ニュース

OpenAIが、オープンソースLLM「gpt-oss」の悪用リスクを評価する研究を発表しました。

🔍注目ポイント

悪意あるファインチューニング(MFT)を導入し、生物学とサイバーセキュリティ分野で最大の悪用能力を引き出そうと試みました。

🔮これからどうなる

オープンソースAIのリリースがもたらす潜在的な危険性を具体的に示し、開発者や政策立案者に警鐘を鳴らします。

本研究は、gpt-ossをファインチューニングすることで、生物学とサイバーセキュリティの2つのドメインで、可能な限り高い能力を引き出すことを試みています。
これは、オープンウェイトLLMが悪意のある目的に利用された場合の最悪のシナリオを想定したものです。
研究結果は、オープンソースAIの安全な開発と展開のための重要な考慮事項を提供します。
OpenAI Blog ★3 AI倫理 EN

ChatGPTが目指す最適化とは

要約を読む要約を閉じる
📰ニュース

OpenAIは、ChatGPTがユーザーの生活を豊かにするため、困難な状況への対応や休憩のリマインダー機能などを改善している。

🔍注目ポイント

専門家の知見を取り入れ、ユーザーのメンタルヘルスや生活の質向上に焦点を当てた機能改善を進めている。

🔮これからどうなる

ユーザーは、よりパーソナルでサポート的なAIアシスタントから、生活の質の向上に役立つアドバイスや機能を得られるようになる。

OpenAIは、ChatGPTの最適化において、単なる情報提供だけでなく、ユーザーが困難な状況を乗り越え、健康的な生活を送るためのサポートを重視している。
具体的には、休憩を促すリマインダー機能や、より質の高い人生のアドバイスを提供できるよう、専門家の意見を取り入れながら開発を進めている。
これは、AIが単なるツールを超え、ユーザーのウェルビーイングに貢献するパートナーとなることを目指す動きだ。
OpenAI Blog ★3 AI倫理 EN

OpenAI、コミュニティとの共創を支援する5000万ドルの基金を設立

要約を読む要約を閉じる
📰ニュース

OpenAIが、非営利団体や地域コミュニティを支援する5000万ドルの基金を設立しました。

🔍注目ポイント

独立した非営利委員会報告に基づき、AI技術の恩恵を社会全体に広げることを目指します。

🔮これからどうなる

AI技術の社会実装が加速し、非営利団体がAIを活用した課題解決に取り組む機会が増えるでしょう。

この基金は、OpenAIの独立した非営利委員会による報告書に示された提言に基づいて設立されました。
AI技術が社会に与える影響を考慮し、より公平で広範な利益をもたらすための取り組みの一環です。
AIの倫理的な開発と普及を促進する狙いがあります。
OpenAI Blog ★4 AI倫理 EN

OpenAI、エージェントのバイオバグバウンティプログラムを開始

要約を読む要約を閉じる
📰ニュース

OpenAIがChatGPTエージェントの安全性検証のため、バイオバグバウンティプログラムを開始しました。

🔍注目ポイント

研究者はユニバーサルな脱獄プロンプトを用いて、エージェントの安全性をテストし、報奨金を得られます。

🔮これからどうなる

AIエージェントの悪用リスクを低減し、より安全なAIシステムの開発と普及に貢献します。

このプログラムは、ChatGPTエージェントが有害な指示に従わないか、または意図しない行動を取らないかを検証することを目的としています。
最大25,000ドルの報奨金が用意されており、AIの倫理的利用とセキュリティ向上へのコミットメントを示しています。
OpenAI Blog ★3 AI倫理 EN

OpenAI理事会、非営利委員会報告書に関する声明を発表

要約を読む要約を閉じる
📰ニュース

OpenAI理事会が、独立した非営利委員会の報告書に対し感謝の声明を出しました。

🔍注目ポイント

独立委員会による組織運営の透明性向上とガバナンス強化への取り組みが評価されました。

🔮これからどうなる

OpenAIの組織体制と意思決定プロセスへの信頼性が高まる可能性があります。

この声明は、OpenAIの非営利部門が設立した独立委員会による報告書に対するものです。
委員会の目的は、OpenAIの非営利ミッションと営利活動のバランス、および組織ガバナンスのあり方を検討することでした。
理事会は、委員会の広範な作業と関与に感謝を表明しています。
OpenAI Blog ★4 AI倫理 EN

EU行動規範と欧州におけるAIの未来

要約を読む要約を閉じる
📰ニュース

OpenAIがEUのAI行動規範に参加し、責任あるAI開発を推進します。

🔍注目ポイント

欧州政府と連携し、AIイノベーション、インフラ、経済成長を促進する枠組みです。

🔮これからどうなる

欧州でのAI製品やサービスの信頼性が高まり、ユーザーはより安全にAIを利用できます。

この行動規範は、AIの安全性、透明性、説明責任を確保するための自主的な取り組みです。
OpenAIは、欧州の規制当局や政策立案者と協力し、AI技術の責任ある発展と普及を目指します。
これにより、欧州におけるAIエコシステムの健全な成長が期待されます。