Process Matters more than Output for Distinguishing Humans from Machines
記事のポイント
📰ニュース
人間とAIを区別する新しい手法として、出力だけでなく認知プロセスを評価する研究が発表されました。
🔍注目ポイント
CogCAPTCHA30という30の認知タスク群を用い、AIが出力を模倣してもプロセスレベルの特徴で人間とAIを高い精度で識別できることを示しました。
🔮これからどうなる
オンラインでのAIの悪用防止や、より人間らしいAIの開発における新たな評価指標として活用される可能性があります。
従来の人間とAIの識別はチューリングテストのように出力結果に焦点を当てていましたが、本研究では認知科学の観点からプロセスに着目しました。
市販のLLMや人間データでファインチューニングされたモデルを比較し、プロセスレベルの監視が人間らしい行動模倣を改善するものの、タスク間の汎用性には課題があることを示しています。
市販のLLMや人間データでファインチューニングされたモデルを比較し、プロセスレベルの監視が人間らしい行動模倣を改善するものの、タスク間の汎用性には課題があることを示しています。
AIが人間を模倣する能力が高まる中で、このプロセスに着目した識別方法は、AIが関わる社会の信頼性を高める上で重要な一歩になりそうです。