ChatGPTに「自傷行為について会話した際に親などに連絡する機能」が追加される
記事のポイント
📰ニュース
ChatGPTに、ユーザーが自傷行為を示唆する会話をした際に、事前に登録した信頼できる連絡先に通知する機能が追加されました。
🔍注目ポイント
AIがユーザーの安全上の懸念を検知し、自動システムと訓練された審査員が判断することで、緊急時の連絡を可能にする点が技術的ポイントです。
🔮これからどうなる
自傷行為のリスクがあるユーザーの安全確保に繋がり、AIが提供するサポートの範囲が精神的健康分野にも広がります。
この「信頼できる連絡先(Trusted Contact)」機能は、成人ユーザーが対象です。
OpenAIの自動システムと訓練を受けた審査員が、深刻な安全上の懸念があると判断した場合にのみ通知が送信されます。
これにより、AIが単なる情報提供だけでなく、緊急時のセーフティネットとしての役割を担う可能性が示されました。
OpenAIの自動システムと訓練を受けた審査員が、深刻な安全上の懸念があると判断した場合にのみ通知が送信されます。
これにより、AIが単なる情報提供だけでなく、緊急時のセーフティネットとしての役割を担う可能性が示されました。
概要
OpenAIの開発するチャットAIのChatGPTに、「信頼できる連絡先(Trusted Contact)」機能が追加されました。この機能により、「成人ユーザーが自傷行為について深刻な安全上の懸念を示す形でChatGPTと会話した可能性がある」とOpenAIの自動システムと訓練を受けた審査員が判断した場合、当該ユーザーが事前に指定した「信頼で…
ChatGPTがユーザーの安全に配慮した新機能を導入しましたね。これは、AIが私たちの生活の安全を守る上で重要な一歩になりそうです。緊急時に家族や友人に連絡がいくのは安心感がありますね。