ニューラルネットの中を開けてみる

3.1 でわたしたちは重みを3,075こ合わせました。ところがその重みが どこに ついているのかは見ませんでしたね。

いま開けてみます。思っているよりずっと単じゅんです。

小さな計算機ひとつ

数をいくつか受け取って、それぞれに重みをかけて、ぜんぶたして、答えをひとつ出す。それだけの小さな計算機があります。

この計算機ひとつを ニューロン と呼びます。

そしてこのニューロンをいくつもつくって 層ごとにつないだもの を ニューラルネット といいます。

重みは そのつなぎ目ごとにひとつずつついています。3.1 の3,075こは つなぎ目3,075こだったのです。

まっすぐな線が自分で動いて 場所を見つけましたね。

右の絵を見てください。線が太いものも細いものもあります。あの太さが重みです。 太いほど大きく回ったということです。

1.2 で手で回していたものが ここにこうしてついています。この実習には二つしかなく、3.1 では3,075こで、本物のAIには何百万こもあります。

ニューロンひとつでは まっすぐな線ひとつ

ここで大事なことが出てきます。ニューロンひとつが引けるのは まっすぐな線ひとつだけです。

かけてたすだけだからです。その計算では まっすぐな線より入り組んだものを引くことができません。

いままではだいじょうぶでした。左が赤、右が青なら まっすぐな線ひとつで分けられますから。

ところが こんなならびだったらどうでしょう。

ならびの例 · ななめ を押して もう一度学習させてみましょう。板は上にそのままあります。

まっすぐな線がずっとゆれていますね。止まりません。何百回回してもだめです。

まっすぐな線ひとつでは このならびを分けられないからです。 自分で引いてみてください。どう引いても かた方がまざります。

1969年に起きたこと

1958年のあの機械の名前が パーセプトロン です。ニューロンひとつでできた、いちばん単じゅんなニューラルネットですね。

1969年、二人の研究者が いまわたしたちが味わったことを証明しました。パーセプトロンはまっすぐな線ひとつしか引けず、だから 世の中でいちばんやさしい部類のこの問題がとけない と。

期待が大きかった分 失望も大きいものでした。お金も人もはなれていき、ニューラルネットの研究は20年近くこおりつきました。

ボタンひとつ

では その問題をといてみましょうか。

とけますね。

さかいめの線がもう まっすぐではありません。曲がりました。ニューロンをもう一層入れたら まっすぐな線をいくつも組み合わせられるようになった のです。

いま押したそのボタンが、世界が押すのに20年かかったボタンです。

2.2 にもどります

2.2 の終わりで問いをひとつ 先おくりにしておきました。

フィルターの中の数は だれが決めるのでしょう。

もう答えられます。だれも決めません。学習が決めます。

フィルターの中の九つの数も重みです。はじめは何でもよい数が入っていて、まちがえるたびにすこしずつ直されます。そうしているうちに あるフィルターはたて線を見つけるようになり、あるフィルターはよこ線を見つけるようになります。だれもそうしなさいと言っていないのにです。

そうしてフィルターを何層も重ねたニューラルネットを CNN と呼びます。2.2 で層ごとに開けてみた あれがこれです。

では 層をたくさん入れればよいのですね

層をふやしたらとけましたね。では層とニューロンをうんとたくさん入れれば 何でもとけるでしょうか。

それがそうはいかないのです。次のチャプターで 重みが多すぎるとき に起きることを見ます。