
ダグラス・R. ホフスタッター (著)
この本は、1985年の初版を買っている、それから、時々この本を眺めている。
これ以降に、たぶんこの本の存在も影響していると思うが、R,ペンローズの「皇帝の新しい心」、「心の影」が出版された。
他にも、人間の心、知性の本質は何かを説明する本が出版されているが、この本の影響が大きいのかもしれない。
ホフスタッター の人工知能に関する主張
とにかく、半端でない物量なので、読むだけでも時間が掛かってしまう。
以下が私の印象である。
1)形式的システムにはゲーテルの不完全性定理が適用される。
従って、そのシステムでは理解(計算)できな問題が必ず存在する。
2)人間の脳の下位システムは、何らかの形式的システム※で実装されている。
下位システムとはニューロンで構成されたネットワークだと想定する。
※チューリング機械でシュミレートできるということ。
3)人間の心、知性は、下位システムを基盤とした上位システムで構成されている。
4)上位システムは、非形式的システムであると考える。
そのシステムは非常に複雑な構造をもち、下位システムの性質を質的に凌駕するものだ。
疑問点
a)形式的システムを下位の構成物として含む上位システムが、なぜ非形式的システムとなるのか?
本書では、明確には答えていないと思う。
複雑系等の比喩を出し、あるシステムが一定以上の複雑度になると、質的変化(相転移?)を起し、形式的システムを超えると主張している。
全体を通して、質的な相違は具体的には説明されていないと思う。
b)人間の心、知性には、ゲーテルの不完全性定理による理解できない問題は「存在しない」のか?
下位システムは固定(先天的)ロジックで構成されており、この下位システムでは、不完全性定理よる理解できない問題が存在する。
上位システムは、非形式的システムなので、不完全性定理は当てはまらない。
ここでの非形式的システムには、矛盾を含む形式的システムと、全く非計算的なアルゴリズムを含意していると思われる。
全体を通して、人間知性がそのどちらなのかが明確には語られていないと思う。
しかし、本書のテーマである、「自己言及」「自己参照」といった「環」が、人間の知的活動、生命の根本的活動に深く関わっていると主張する。
ゲーテルの不完全性定理も一種の「環」であり、人間の知的活動、生命の根本的活動に影響を与えている。
人間と機械(形式的システム)は異なるという主張への反論
人間には、機械には無い知的優位性として、ゲーテルの不完全性定理を理解できることを主張することがある。
形式的システムにできないことが、人間にできるという非対称性を示し、人間の知性は形式的システムでは、実現できないと結論づけている。
※ペンローズなど
これに対して、ホフスタッターは、形式的システムと人間とは対等(対称性がある)だと、以下の寓話で主張している。
P472
思索家ルーキアスは、さすらいの旅の中で、ある日未知のもの、女に出合った。
彼はそれまでそんなものに出合ったことがなく、最初は彼女が自分に似ている不思議さに打ち震えた。
しかし、それから少しばかり怖くもあったので、彼は全ての男たちに向かって叫んだ。
「見よ!私は彼女の顔を見ることができる。そして、それは彼女にはできない。-だから女は決して私のようにはなれない!」
こうして彼は、男が女よりもすぐれていることを証明し、仲間である他の男たちとともに大変ほっとした。
ついでながら、この同じ議論によって、ルーキュスが他の全ての男より優れていることを証明されるが、そのとこにはふれられていない。
その女は反論する。
「ええ、あなたは私の顔を見ることができて、それは確かに私にはでいないことです。
しかし、わたしはあなたの顔を見ることができ、それはあなたにはできないことです!私たちは対等です。」
しかし、ルーキュスは予想外の反撃で答えた。
「失礼ながら、もしあなたが私の顔をみることはできるとお考えなら、それは思い違いをしておられるのです。
あなたがた女がすることは、われわれ男がすることと同じではない。-私がすでに指摘したように、程度が劣っているので、同じ言葉で呼ぶのはふさわしくない。
まあ、「女見る」と呼べばいいでしょうか。
ところで、あなたが私の顔を「女見る」ことができるという事実には、何の意味もありません。
事態が対称ではないのですから。
お分かりですか?」
「「女わかり」をいたしました。」とその女は「女答え」をして「女歩き」をして去った。・・・
反人工知能の考え方は、初めから「機械と人間には非対称性がある」という前提で組み立てられているという反論である。
続いて、反人工知能の考え方として、ルカスの主張への反論が以下のように展開される。
P567
ゲーテルの定理は、サイバネティックス的な機械にも適用されるはずである。
なぜなら、形式的システムの具体的実例であるということが、機械であることの本質だからである。
これは既に学んだとおり、ハードウェアのレベルでは正しい。
しかし、より高いレベルがあるかもしれないので、これでこの問題についてとどめを刺したことにはならない。
ところで、ルカスは彼が論じている心の真似をする機械の中に、記号の操作が行われるレベルは一つしかないという印象を与える。
たとえば分離規則(彼の論文では「三段論法」と呼ばれる)はハードウェアの中に配線され、そのような機械は変更ができない特性となるであろう。
彼はさらに進んでこう述べている、もし仮に三段論法が機械システムの変えられない支柱ではなく、
場合によっては「くつがえされうる」とすれば、そのシステムは形式的論理システムであることをやめ、
その機械は心のモデルの名にどうにかふさわしいものになるであろう。
ここでのルカスの主張は、半分は正しいと思う。
人間の知性が形式的システムなら、不完全性定理は適用されるだろう。
しかし、後半の動的な形式的システムは「心」を持つというのは誤りだろう。
形式的システムにあるルール化された(あるアルゴリズム)方法で、自分自身の形式的システムを改変することは人間の特性ではなく、機械にもできる。
AI研究で開発されつつある多くのプログラムは、数論の真理を生成するプログラムとは、ごくわずかの共通点しかもっていない。
~省略~
それらの最高レベル、つまり「非形式的」なレベルでは、画像処理や類推の定式化、着想の忘却、概念の混同、区別をぼやかすこと、等々がありうる。
しかし、そのことは、脳がその神経細胞の誤りのない動作に頼っているのと同じくらい、AIプログラムがその基礎にあるハードウェアの誤りのない動作に頼っているという事実と矛盾しない。
だから、AIプログラムは依然「形式的システムの具体的事例」ではあるが、ゲーテルの証明のルカス式変異を適用できるような機械ではない。
ルカスの議論はAIプログラムの底のレベルにしか通用できないので、そのレベルでは、それらの知能は嘘をつかないのである。
どう考えても、以下のホフスタッターの主張が正しいとは思えない。
AIプログラムは依然「形式的システムの具体的事例」ではあるが、ゲーテルの証明のルカス式変異を適用できるような機械ではない。
なぜ、形式的ステムなのに、不完全性定理が適用できないのか?
1つの解は、上位形式システムが「矛盾」している場合である。
しかし、人間の知性の本質が矛盾するとは、どういう状況であろうか?
ケーテルや、チューリングは、矛盾した形式的システムこそ知性の源だと考えていたようだ。
ペンローズの「心の影」では、この矛盾した形式的システムからは、人間の知性は生まれないと主張している。
(ルカスの無矛盾性について)
もしわれわれが本当に矛盾を含む機械であるなら、我々は自分の不合理性に満足するはずであり、
矛盾のどちらの側をも喜んで肯定するであろう、
そればかりか、我々は全くどんなことでも言う用意があるであろう。
われわれはそうではない。
容易に示されるように、矛盾を含む形式的システムでは何でも証明できるのである。
この最後の文は、ルカスが次のように仮定していることを示している。
すなわり、命題計算は、推論を行うどんな形式的システムにも必ず組み込まれていなければならない。
特に彼は、命題計算の定理(<P∧~P>⊃Q)を考えている。
明らかに彼は、この定理が機械化かされた推論の避けられない特性であるという誤った信念を持っている。
しかし、命題推論のような論理的思考過程が、AIプログラムの一般的な知能の結果としてい発現するのであって、あらかじめプログラムされているのではないというのが、完全にもっともなことである。
ルカスの主張は正しいと思える。
ホフスタッターの主張が「命題推論のような論理的思考過程が、あらかじめプログラムされているのではない」であれば、AIプログラムの中身はいった何なのか?
これらをAIプログラムが動作中に学ぶなら、その学ぶルールが最初にプログラミングされているずである。
結論 人工知能は実現可能か?
「多分可能である」というのが、ホフスタッターの結論だろう。
しかし、以下のようなことを合わせて主張している。
・人工知能が完成したら、人間は「それ」を人工知能と呼ぶかは疑問だ。
・人間は人間を産む、これは、結果的に知性あるモノを作っていることだ。
・人工知能ができたとしても、これど同様なことかもしれない。
このような事を書いても、この本の素晴らしさはには影響しない。
20世紀中でも特異な著作だろうと思う。
参考:コンピュータと心
最近のコメント