2017/5/8

ようやく"The Master Algorithm: How the Quest for the Ultimate Learning Machine Will Remake Our World"を読み終えた。最終章では機械学習、そして将来見つかる（と筆者は信じている）Master Algorithmによってどう社会が変わっていくか、そこで何をすべきかということが述べられている。いろいろ面白い部分があったのであれこれ引用しておく。

We are all cyborgs already. The real story of automation is not what it replaces but what it enables. Some professions disappear, but many more are born.

（ページ277)

「私たちはみんなすでにサイボーグである」という文がなかなかパンチが効いている。上の文は機械学習によるブレイクスルーを経てAIが私たちの仕事を奪うのではないかという懸念について書かれたものだ。機械による仕事の代替は何も今に始まったことではなく、私たちの仕事はすでに機械と人間の共同作業である。

In this, as in many other areas, the greatest benefit of machine learning may ultimately be not what the machines learn but what we learn by teaching them.

（ページ281)

他にも機械学習に倫理を教えるにしても、そもそも私たち自身が倫理についてよくわかっていないという指摘が面白かった。生徒とともに教師の方も成長していくとよく言われるがそういうことがAIに対しても起こりそうである。

The decision we face today is similar: if we start making AIs—vast, interconnected, superhuman, unfathomable AIs—will they take over? Not any more than multicellular organisms took over from genes, vast and unfathomable as we may be to them. AIs are our survival machines, in the same way that we are our genes’.

（ページ284)

AIもまた私たちの生存のための機械であるがゆえにAIが私たちに取って代わることはない、という主張だが少し怪しい。人間の生存は自己複製子の複製を目指したものだが、AIの登場によってその複製に人間は必要なくなるかもしれない。例えば遺伝子を電子化してコピーしていけば何も細胞分裂によって増やす必要もなくなる。遺伝子がその乗り物を私たち人間から機械へと乗り換えるというシナリオは十分に想定できるだろう。ただし人間の思考はその速度という利点によって遺伝子からかなりの権限を委譲されているので、私たちが自ら進んでそのシナリオに従うということはないだろう。

その点の続きとして、機械学習の評価関数を私たちが決定しているのでAIがそこから離れて活動することはない、という主張もあった。しかし適応度という評価関数を決定する遺伝子が私たちの脳にリアルタイムの判断を任せているように、私たち人間がAIに判断の大部分を任せるということはあり得る。なぜなら私たちの脳よりもAIの方が明らかに処理が早いからである。筆者の主張は少し素朴な遺伝子決定論に影響されているような気がする。実際に私たちは遺伝子の利害から離れた判断をたくさん行っているし、AIが私たちの利害を最終的には目指すものだとしても独自の中間判断を行うようになるというのは十分にあり得る未来だろう。