AIがまちがって学ぶとき

3.2 の終わりで聞きましたね。層と重みをうんとたくさん入れれば 何でもとけるでしょうか。

それがそうはいかないのです。このチャプターは まちがって学ぶ二つのやり方 の話です。

写真のたばが二つ

下に写真のたばが二つあります。AとBです。ひとつえらんで機械を教えてみましょう。

教える前に写真をよく見てください。 ここがこの実習のすべてです。

いくつ当てましたか。そして まちがえたものだけ を集めて見てみましょう。

ピンクのふちがついたものです。共通するところは何でしょう。

背景が反対のもの

見つかりましたか。まちがえたのはぜんぶ 草の上のねこ と 雪の上の子犬 です。

背景が反対なのに当たったものもありますね。背景だけを見たのではなく、背景を より大きく 見たのです。

たばAをもう一度見るとこうです。

つまり 機械が学んだのは「ねこ vs 子犬」ではありませんでした。白い背景 vs 緑の背景だったのです。

どちらもよく合っていたからです。わたしたちがあたえた写真の中では 雪の上にいるものが すなわちねこ でしたから。

試験の写真をおして AIがどこを見たか見る を押してみましょう。写真を一か所ずつかくしてみて、答えが大きくゆれるところを明るく出します。動物ではなく背景のほうが明るいです。

直すやり方はコードではありません

こんどは 写真のたば B で教え直してみましょう。

Bは ねこも雪原と草原に半分ずついて、子犬もそうです。背景ではより分けられません。 だから機械はしかたなく動物を見ます。

二つのたばをくらべると こうなります。

機械もそのまま、計算もそのままです。変えたのは写真だけです。

3.1 ですでに一度出会いました。いつも同じところでとっていたら 機械が「机の上の左にあるもの」を学んでいた、というのを覚えていますね。同じことです。

二つめのやり方 — 丸暗記

まちがって学ぶやり方が もうひとつあります。こんどは写真ではなく 重みが多すぎるとき に起きます。

重みをふやすほど 曲線が赤い点のあいだをぬって走りますね。練習問題をぜんぶ当てようとしてです。

ところが二つの点数をいっしょに見てみましょう。

• 練習問題の点数 は上がります

• 試験の点数 はかえって下がります

試験の点数は とちゅうで上がったり下がったりもします。一こずつ上げてみて、はしまでも上げてみてください。

曲線が練習問題にだけぴったり合うように曲がってしまい、はじめて見る問題が来ると とんでもないところにいるのです。

これを 過学習 と呼びます。

丸暗記したことと わかったこと

過学習を「AIが丸暗記した」と言うことがあります。わかりやすい言い方ですが 気をつけなければなりません。

AIが問題をどこかに書きとめたのではありません。 答えをしまっておく引き出しのようなものはありません。

起きたのはこれです。練習問題にだけぴったり合うように重みを回してしまったのです。 だからはじめて見る問題が来ると 重みがとんでもないところにいます。

重みをまたへらしてみましょう。試験の点数がもどりますね。丸暗記をやめさせたら かえってよく当てます。

ここまでが 学ぶやり方

いままでAIを教えるやり方はひとつでした。正解を付けて見せること。

ところが 正解をだれも知らないことは どう教えるのでしょう。自転車に乗ることのようなものです。

次のチャプターでは 正解のかわりに ほうびとばつだけ をあたえてみます。