AIは自信満々に、間違える。

「これ、AIでやっといて」

そう言った瞬間から、その人の仕事は終わったつもりになっていた。

終わっていなかった。
むしろ、そこから始まっていた。

メールが、全員に届いた

ある営業担当の話。

顧客リストをAIに渡して、
「それぞれの顧客に合わせた提案メールを作って」と指示した。

AIは完璧に仕事をした。
100通、個別にカスタマイズされたメールを生成した。

問題は、その後だ。

確認せずに一括送信した結果
A社に送るはずだったメールが、B社にも届いた。
競合他社の名前が、本文に残ったまま。

AIのせいじゃない。確認しなかった人間のせいだ。

でもこのとき、担当者はこう思った。
「AIが間違えた」と。

議事録が、別の会議になっていた

会議の録音をAIに渡して、議事録を作らせた。
出来上がったものを、そのまま全員に共有した。

翌日、参加者から連絡が来た。
「この議事録、うちの会議じゃないんですけど」

AIが参照したのは、一つ前の会議の録音だった。
ファイル名が似ていた。確認しなかった。

議事録には、全く別のプロジェクトの決定事項が書かれていた。
しかも、それなりに整合性が取れた文章で。

提案書が、競合他社の資料になっていた

これは笑えない話だ。

新規提案書をAIで作成した。
業界のトレンド、競合分析、自社の強み全部AIがまとめてくれた。

クライアントに提出して、数日後に連絡が来た。

「この資料、どこかで見たことがあるんですが」

AIがネット上の資料を参照して生成した文章が、
競合他社のホワイトペーパーと、ほぼ同じ構成になっていた。

オリジナルだと思っていたものが、オリジナルじゃなかった。

なぜこうなるのか

三つの失敗に、共通点がある。

「AIがやった」という安心感が、確認を省略させた。

人間が作ったものは、疑う。
AIが作ったものは、信じる。

この非対称が、ミスを生む。

AIは自信満々に間違える。
「これで合ってますか？」とは聞いてこない。
「完成しました」と言って、堂々と出してくる。

人間のミスは、なんとなく「怪しい」雰囲気が出る。
AIのミスは、完璧な見た目で出てくる。

だから、AIのミスの方が致命的になりやすい。

「AIがやった」は、言い訳にならない

ここが本質だ。

AIが間違えても、責任を取るのは人間だ。

クライアントに謝るのは、あなただ。
上司に説明するのは、あなただ。
信頼を失うのも、あなただ。

AIは謝らない。学習もしない。
次も同じミスをする可能性がある。

「AIに任せた」は、責任の移転にならない。

失敗から学べること

AIを使うとき、一つだけルールを作るといい。

「AIが作ったものは、新入社員が作ったものだと思って確認する」

新入社員の仕事を、確認せずに提出する人はいない。
でもAIの仕事は、確認せずに提出してしまう。

この感覚のズレが、やらかしを生む。

AIは優秀な新入社員だ。でも新入社員だ。

最終確認は、あなたの仕事だ。
それは、AIがどれだけ賢くなっても、変わらない。