2017/4/18
機械学習に基づいたGoogle翻訳は文を「理解」しているのだろうか。私たちは言葉の意味をアフォーダンス環境内で「有意味なもの」として身につけるが、AIが持つ語彙は事物と結びつけられないただの記号でしかないのではないか。しかしデネットの見解は異なるようだ。
Google Translate no doubt has a rich body of data about the contexts in which “knife” appears, a neighborhood that features “cut,” “sharp,” “weapon” but also “wield,” “hold,” “thrust,” “stab,” “carve,” “whittle,” “drop,” and “bread,” “butter,” “meat” and “pocket,” “sharpen,” “edge,” and many more terms, with their own neighborhoods. Doesn’t all this refined and digested information about linguistic contexts amount to a sort of grounding of the word “knife” after all? Isn’t it, in fact, the only sort of grounding most of us have for technical terms such as “messenger RNA” and “Higgs boson”?
（Dennett, Daniel C. From Bacteria to Bach and Back: The Evolution of Minds (pp.393-394). Penguin Books Ltd. Kindle 版. ）
私たちが見たこともないものについての用語、ここでは例えば「メッセンジャーRNA」や「ヒッグス粒子」といった言葉はAIたちの語彙と変わらないのではないか？というよりむしろ、言葉が実際に触れたことのある対象に結びつけられている必要はないと言いたいのだろう。ここで言葉と結びつくアフォーダンス環境は他の言葉たちである。理解というのが「理解/非理解」という風に明確に線引きできる特別なプロパティでない以上、ボトムアップ式のAiもまた「理解」することができる。ただしAIが人間と同じ水準の、そしてそれ以上の理解を持つようになるのにはもう少し時間がかかるだろうというのがデネットの見解のようだ。
My view is (still) that deep learning will not give us— in the next fifty years— anything like the “superhuman intelligence” that has attracted so much alarmed attention recently.
（Dennett, Daniel C. From Bacteria to Bach and Back: The Evolution of Minds (p.399). Penguin Books Ltd. Kindle 版. ）
2017/4/17
"From Bacteria to Bach and Back"の最終章"The Age of Post-Intelligent Design"を読んでいる。"The Age of Post-Intelligent Design"というのは、その動作の内容をすべて「理解」することのできないボトムアップ式のデザインを活用していく時代のことである。例えば機械学習や遺伝的アルゴリズムを活用した研究などがそれにあたる。反対に"Intelligent Design"とはユーザーイリュージョンとしての意識的思考によって生み出されるものだと言える。先まで予想することのできる能力によって生み出された"Intelligent Design"（電子回路など）を活用して進化のアルゴリズムの力を使う"Post-Intelligent Design"は新しい時代の技術と言えるのかもしれない。結局、人間がデザインしたものの動作はすべて理解されうるというのは、意識的思考が脳内で起こることをすべて理解できているという思い込みと同じものなのだろう。機械学習による判断が「託宣」だとか言って忌避感を持つのはこの辺りに原因があるのかもしれない。そもそも"Intelligent Design"にしても、例えば日常的に使っているこのラップトップの内部動作がどうなっているのかなんて知らないのだ。
2017/4/16
"From Bacteria to Bach and Back"第14章"Consciousness as an Evolved User-Illusion"を読んだ。概ね"Consciousness Explained"と同じ論旨だが説明の仕方がアップデートされているので面白い。特に興味深かったのが、自己の状態をコミュニケートするために必要だから意識はミームという形で現れて来るという点だった。
We need to keep track of not only which limbs are ours and what we’re doing with them but also which thoughts are ours and whether we should share them with others.
（Dennett, Daniel C. From Bacteria to Bach and Back: The Evolution of Minds (p.344). Penguin Books Ltd. Kindle 版. ）
自身の思考を観察するためには"manifest image"内で見てとるほかない（つまりミーム化されざるをえない）のだが、そのことを裏打ちする論拠と言える。ん？"manifest image"として現れるものはすべてミームなのだろうか？もう少し考えてみる必要がありそうだ。
あとは「私」の"intensional stance"とあなたの"intensional stance"は、双方ともにユーザーイリュージョンとして見出されるものであり、要するにどちらもだいたい同じものだという点も面白かった。だからこそ私とあなたが共通の"manifest image"を持つことが可能となる。というより一人称と二人称は共通の"manifest image"上で展開されるものだということだろうか。"manifest image"を「持つ」というのがそもそも変で、「私」は"manifest image"上に「現れる」ものに過ぎない。"How did our manifest image become manifest to us?"というのはそういうことだという解釈でいいのだろうか。
章の後半ではお得のクオリア論批判が"manifest image"というツールによって新たに展開されている。曰く、クオリアは"manifest image"上のユーザーイリュージョンであり、それを"scientific image"上にあるものと取り違えるから話がややこしくなる。要はヒュームのいう因果律のように外界に投射されているクオリアが、脳神経などの"scientific image"上のものと同位の存在者だと考えられているのである。
ところで"manifest image"の上手い訳語はなものかとセラーズ関連の日本語の論文を見てみたが「明白なイメージ」と訳されているようだ。原語を知っているからわかるけどこれだけ見た人に伝わるのだろうか。かといって他の訳し方も思いつかないし……。
2017/4/15
アナログな外界の情報をデジタル化して情報量を減らすことで、先までの予測が可能となる。予想の精度と射程はトレードオフの関係にあるからだ。このデジタル化が他者に対して適用される時、"intentional stance"を見出すこととして機能するようである。
By oversimplifying and idealizing actual transactions in the world, they turn messy human activity into a somewhat predictable, somewhat explicable set of phenomena, and they work quite well for many purposes.（Dennett, Daniel C. From Bacteria to Bach and Back: The Evolution of Minds (p.307). Penguin Books Ltd. Kindle 版. ）
このように"intentional stance"を見出すことは人間の行動に理由を見出すことと繋がっている。その理由は時に過度に見出され、いわゆる純粋理性の構成的使用だとか、呪術的思考だとか言われるものとなる。さらに言えば第一部での、リバースエンジニアリングで理由とかデザインを発見するという議論から来ているのだろう。
12章ではインテリジェントデザイン（もちろん人間による）というものが話題になった。これは"competence without comprehension"と厳密に区別することのできないもので、自然界のデザインから単に複雑さが上がっただけのものとも言える。このように複雑なデザインは人間が自身の思考を"manifest image"に含むようになり、思考自身をR&Dの対象とし始めると可能となる。インテリジェントデザインもミームの複製の中で生まれるのだが、そのオーサーシップはいかにして人間に帰されるのだろうか。デネットの答えはR&Dプロセスの貢献度、つまりデザイン空間内での移動にどれだけ寄与したかということによってその作者が決まるというものだ。脳内でのR&Dプロセスもその脳内でミーム複製して（想起）進化させていくことに他ならない。だからミームによる文化進化と人間によるデザインに厳密な区別をすることはできないのである。
以上で"From Bacteria to Bach and Back"の第二部は一応読み終えたということにする。次は最終の第3部で意識の話となる。"Consciousness Explained"からどのように変化しているかに注目したい。
2017/4/13
"From Bacteria to Bach and Back"の今日読んだ部分ではミームと意識の関係が論じられていた。「裸の脳」では意識的な思考ができず、OSに相当するミームに感染して初めて可能となる。
You can’t do much thinking with your bare brain, but armed with these simple tools, an explosion of thoughtful exploration becomes available.（Dennett, Daniel C. From Bacteria to Bach and Back: The Evolution of Minds (p.300). Penguin Books Ltd. Kindle 版. ）
アフォーダンス環境に自身の思考が含まれるようになると、思考をメタ的に「デジタル化」したメタミームが現れる。それこそが自己の思考をモニターする際のユーザーインタフェースとしての意識なのだ。世界と自己の間に現れる"manifest image"に対して、これは自己の脳内モジュール間の"manifest image"だと言えるかもしれない。このアイデア自体は"Consciousness Explained"にあったが「アフォーダンス」"manifest image"「デジタル化」などとの連関でより統一的に提示されているように思う。
2017/4/12
"From Bacteria to Bach and Back"の今日か昨日に読んだ部分では"intentional stance"を見出すことが「心の理論（theory of mind）」を持つことだと語られていて理解が深まった。ただしデネットは心の理論という用語はあまり良くないと考えているようである。
This competence is often called TOM (an acronym for theory of mind), which is an ill-chosen term because it invites us to imagine those having this competence as comprehending theoreticians, astute evidence gatherers and hypothesis considerers, instead of flying-by-the-seat-of-their-pants agent anticipators, blessed with an interpretive talent they don’t have to understand at all.（Dennett, Daniel C. From Bacteria to Bach and Back: The Evolution of Minds (p.259). ）
他者の"intentional stance"はどこまでも自分が見いだすものである。それは他者が自分自身に見いだす"intentional stance"必ずしも同じものではない。このような"intentional stance"のズレを認識していない人はかなりいるのではないかと思う。そもそも"intentional stance"が見出されるものだという発想がなければ、自分が見出した"intentional stance"が他者のシステムを完全に記述するものだと思い込んでしまうことになる。簡単に言えば他者の内面は不可知だということだが、こういったギャップを知ることが本当の意味で他者を尊重することにつながるのではないかと思っている。
