AIが間違えるのはどんなとき？

AIの答えは、なめらかでも正しいとは限りません。

この記事で得られる視点

いま何を扱うか

この記事では、AIが間違える場面を、怖がるためではなく使い方を整えるために見ます。

扱うのは次の3つです。

モデルは、学習で見た例から答え方を作ります。

そのため、見た例が古かったり偏っていたりすると、答えもその影響を受けます。

また、知らないことでもそれらしく続けようとすることがあります。

人間のように「これは知らない」と必ず止まるわけではありません。

AIに頼むとき、目的が曖昧だと、もっともらしいけれど使いにくい答えが出ることがあります。

誰向けなのか、どこまで正確さが必要なのか、何に使うのか。

こうした前提が足りないと、AIは平均的に見える答えへ寄せます。

間違いというより、使う側の狙いと合っていないずれが起きるわけです。

AIの答えは、下書き、整理、候補出しには役立ちます。

一方で、法律、医療、お金、安全、移ろいやすい情報、他人に影響する判断では確認が必要です。

数字、固有名詞、日付、出典もそのまま信じず、別の方法で確かめるべきです。

AIを使う力には、答えを作らせる力だけでなく、答えの扱い方も含まれます。