自信たっぷりにまちがえるAI

まず相談員と少し話してみましょう。説明はあとにします。

この相談員は1966年のものです

みなさんのお父さんお母さんが生まれるより前です。

規則の一覧を開いてみる を押してみましょう。これで全部です。

規則が二十いくつ。「家族をさすことばが入っていたら → 家族の話をもうすこし聞かせてください。」そんな行が二十くらいあるだけです。

ふきだしの横に、どの規則があてはまったかも出ます。さっきのやりとりをもう一度たどってみてください。

この相談員は、いま言ったことをひとつも聞き分けていません。

ことばが通じると 心があると思ってしまいます

人は意味の通る返事を聞くと、そのうしろに考える何かがあると思ってしまいます。

それは人のよいところでもあります。でもここでは、だまされる理由になります。

では いまのチャットボットはどうでしょう。

ない本をすらすら説明します

『十二番目の階段の図書館』はどんな本だそうですか。

あらすじも、出た年も、受けた賞も、つっかえずに話しますね。

では どこで見たの? を押してみましょう。

出どころまでつくり出します

論叢の名前と 第何集かまで 言いました。

中身がまちがっているより、こちらのほうがずっとこわいことです。たしかめようとする人を にせの出どころで安心させてしまう のですから。

本当かどうか たしかめる を押してみましょう。そんな本も、その賞も、その論叢もありません。

こうして 本当でないことを本当のように言うことを ハルシネーション と呼びます。

ところが ひとつは当たっていました

水が何度でふっとうするかは、正しく答えましたね。

ここが大事です。AIがいつもまちがえるのではありません。 むしろほとんどは合っています。

いつもまちがえるならかんたんでした。信じなければいいのですから。たまにまちがえるからむずかしいのです。

どちらがあぶないでしょう

だから たしかめるくせを

やり方はひとつです。大事なことは よそでもう一度たしかめる。

とくにこういうものです。

• 数 — 日づけ、こ数、計算

• 名前 — 人、本、場所

• 出どころ — どこで見たという そのことば自体

自分でつくってみましょう

さいごに、ない本をひとつ つくり出してみてください。

題名をつけて、それらしいあらすじを書いて、それらしい出どころを付けるのです。

むずかしくないですね。チャットボットがしていることは いましたことと同じです。 一度つくってみた人には、見分ける目ができます。

では うまく聞けば変わるのでしょうか

同じAIなのに、どう聞くかによって答えがずいぶん変わります。

次のチャプターでその話をします。