2017/5/6

"The Master Algorithm: How the Quest for the Ultimate Learning Machine Will Remake Our World"の第９章を読んだ。これまで登場した機械学習の手法が最適化手法、評価、表現（？）という三つの観点から整理されてそれらの統一が試みられている。問題となるのは記号主義的な論理式とベイジアンな確率推論の統合ということになるらしい。論理というのはyes/noの二分法であり（0/1以外の真理値を与える多値論理というのもあることはあるが）確率と言う概念をあまりうまく表現できない。反対に確率推論は論理的な推論ほど確実なものとはなりえない。また確率推論は実際の生存競争で用いるにはあまりに計算が大変だという指摘があり面白かった。

But it can be very computationally expensive. If your brain used probabilistic theorem proving, the proverbial tiger would eat you before you figured out to run away.

（ページ256).

この二つをなんとか統合する試みとして筆者はマルコフ論理ネットワークというものを提案している。これも数式を使わない説明なのでふんわりとしか理解していないが、論理的なルールを重み付けすることで確率推論と統一しているらしい。

ショーペンハウアーなどの今まで読んできた哲学書は認識論について記号主義的な見解を採用していたので、確率を用いて私たちが思考している（かもしれない）というのは新鮮な考え方だった。確率を用いた学習はおそらく言語化はされないものであり、数理的なモデルを用いて初めて理解できるようになる。哲学は思考の言語化できる部分をのみを扱っていればいいのかと言われるとそうではない気がするが、言語化できないものをどう扱うのかというのは問題である。