OpenAI、自傷行為の可能性に備え「信頼できる連絡先」保護機能を導入
OpenAI introduces new ‘Trusted Contact’ safeguard for cases of possible self-harm
記事のポイント
📰ニュース
OpenAIがChatGPTユーザーの自傷行為の可能性に備え、「信頼できる連絡先」機能を導入しました。
🔍注目ポイント
ユーザーが自傷行為を示唆する会話をした場合、事前に登録した連絡先に通知する仕組みを構築しました。
🔮これからどうなる
精神的な危機に瀕したユーザーが、AIを通じて支援を受けやすくなる可能性があります。
この機能は、ユーザーが自傷行為に関する会話をした際に、AIがその兆候を検知し、ユーザーの同意を得て登録済みの「信頼できる連絡先」に通知するものです。
これにより、緊急時に迅速な介入を促し、ユーザーの安全を確保することを目指しています。
OpenAIは以前から自傷行為に関するポリシーを持っていましたが、今回の機能でより積極的な介入が可能になります。
これにより、緊急時に迅速な介入を促し、ユーザーの安全を確保することを目指しています。
OpenAIは以前から自傷行為に関するポリシーを持っていましたが、今回の機能でより積極的な介入が可能になります。
概要
The company is expanding its efforts to protect ChatGPT users in cases where conversations may turn to self-harm.
AIが人の命に関わるデリケートな問題に踏み込むのはすごいですね。この機能で、誰かの命が救われるかもしれません。