OpenAI、コーディングAI「Codex」にゴブリンなどの言及を禁止
OpenAI Really Wants Codex to Shut Up About Goblins
記事のポイント
📰ニュース
OpenAIがコーディングAI「Codex」に対し、ゴブリンなどの特定の生物やクリーチャーについて言及しないよう指示していることが判明しました。
🔍注目ポイント
AIの出力内容を特定のテーマから遠ざけるための、具体的な禁止ワードリストを用いた制御方法が示されています。
🔮これからどうなる
AIが生成するコンテンツの安全性や適切性を高め、予期せぬ不適切な表現を減らすことに繋がります。
この指示は、OpenAIのコーディングエージェントの内部命令として発見されました。
AIが不必要なファンタジー要素や特定の動物について言及することを防ぎ、より実用的なコード生成に集中させる狙いがあると考えられます。
これは、AIの「ハルシネーション」や意図しない出力に対するOpenAIのアプローチの一端を示しています。
AIが不必要なファンタジー要素や特定の動物について言及することを防ぎ、より実用的なコード生成に集中させる狙いがあると考えられます。
これは、AIの「ハルシネーション」や意図しない出力に対するOpenAIのアプローチの一端を示しています。
概要
“Never talk about goblins, gremlins, raccoons, trolls, ogres, pigeons, or other animals or creatures unless it is absolutely and unambiguously relevant,” reads OpenAI's coding agent instructions.
AIが変なことを言わないように、こんな具体的な禁止ワードリストで制御しているんですね。ユーザーが安心して使えるように、裏では色々な工夫がされているのが分かります。