2017/4/18

機械学習に基づいたGoogle翻訳は文を「理解」しているのだろうか。私たちは言葉の意味をアフォーダンス環境内で「有意味なもの」として身につけるが、AIが持つ語彙は事物と結びつけられないただの記号でしかないのではないか。しかしデネットの見解は異なるようだ。

Google Translate no doubt has a rich body of data about the contexts in which “knife” appears, a neighborhood that features “cut,” “sharp,” “weapon” but also “wield,” “hold,” “thrust,” “stab,” “carve,” “whittle,” “drop,” and “bread,” “butter,” “meat” and “pocket,” “sharpen,” “edge,” and many more terms, with their own neighborhoods. Doesn’t all this refined and digested information about linguistic contexts amount to a sort of grounding of the word “knife” after all? Isn’t it, in fact, the only sort of grounding most of us have for technical terms such as “messenger RNA” and “Higgs boson”?

（Dennett, Daniel C. From Bacteria to Bach and Back: The Evolution of Minds (pp.393-394). Penguin Books Ltd. Kindle 版. ）

私たちが見たこともないものについての用語、ここでは例えば「メッセンジャーRNA」や「ヒッグス粒子」といった言葉はAIたちの語彙と変わらないのではないか？というよりむしろ、言葉が実際に触れたことのある対象に結びつけられている必要はないと言いたいのだろう。ここで言葉と結びつくアフォーダンス環境は他の言葉たちである。理解というのが「理解/非理解」という風に明確に線引きできる特別なプロパティでない以上、ボトムアップ式のAiもまた「理解」することができる。ただしAIが人間と同じ水準の、そしてそれ以上の理解を持つようになるのにはもう少し時間がかかるだろうというのがデネットの見解のようだ。

My view is (still) that deep learning will not give us— in the next fifty years— anything like the “superhuman intelligence” that has attracted so much alarmed attention recently.

（Dennett, Daniel C. From Bacteria to Bach and Back: The Evolution of Minds (p.399). Penguin Books Ltd. Kindle 版. ）