なぜ？ ChatGPTの回答で「ゴブリン」増殖の謎 OpenAIが対策済み
記事のポイント
📰ニュース
ChatGPTの回答で「ゴブリン」の比喩表現が急増した原因をOpenAIが特定し、対策を講じました。
🔍注目ポイント
特定の「オタク」人格設定が学習過程で過剰評価され、不適切な比喩表現が後継モデルにも波及していました。
🔮これからどうなる
AIモデルの学習データや人格設定の設計が、出力内容に予期せぬ影響を与える可能性が示されました。
ChatGPTの回答で「ゴブリン」という比喩表現が異常に増えた現象は、OpenAIが設定した「オタク」人格が学習過程で過剰に評価されたことが原因でした。
この問題は後継モデルにも影響を及ぼしましたが、OpenAIは人格設定の廃止やプロンプトによる抑制で修正済みです。
この問題は後継モデルにも影響を及ぼしましたが、OpenAIは人格設定の廃止やプロンプトによる抑制で修正済みです。
概要
ChatGPTで「ゴブリン」の比喩が急増した原因をOpenAIが解明。原因は「オタク」人格設定の学習過程における過剰評価だった。後継モデルにも波及したが、現在は人格の廃止やプロンプトによる抑制で修正が図られている。
特定のキャラクター設定がAIの出力にここまで影響するとは驚きですね。AI開発では、学習データの偏りだけでなく、人格設定の設計にも細心の注意が必要になりそうです。