松田先生:
 「それは私が述べた『理解とは何か』という事に関係します。『理解』は、マトリューシュカのような入れ子構造になった中国語の部屋に組み込まれたルールブックを参照する事です。
 この『入れ子構造』は大脳新皮質、大脳基底核、辺縁系、脳幹に至る脳構造と密接に関係します。中国語の部屋の最内奥は脳幹に対応すると思います。
 人間の判断のかなりな部分は辺縁系に起因する感情が支配すると思います。数覚とは多分、原始的な感情に起因するのでしょう。
 ところで人間が質問に答える場合、あるいは入試問題を解く場合、多くは一番表層のルールブックを参照する、つまり公式の丸暗記で解答しますね。その意味では過半の高校生は哲学的ゾンビであると言って良いでしょう。
 あるいは人と話をして上の空で答える、あるいは挨拶のようにルールブック通りに答える、この場合、問答は無意識的に機械的に行われますね。これも我々が哲学的ゾンビである瞬間です。
 意識的な問答とは、奥の中国語の部屋に問いを投げかけて、そこから回答を得る。例えば2次方程式を解けという問題を与えられたとする。最も表層的な解答は、解の公式をそのまま当てはめる。これは中国語の部屋的ゾンビ、『1次のゾンビ』と呼びましょう。
 それではダメだ、解の公式が導けなければダメだと先生が言う。しかし解の公式の導き方も機械的な式変形だから、それを覚えれば良い。これは『2次のゾンビ』と言いましょう。
 それではダメだ、なぜ式変形ができるか。それは等式の両辺に同じものを加えても等しいからだ。ここまで言えるのは『3次のゾンビ』です。
 等式の両辺に 同じものを加えても同じなのはなぜか。 2つのコップに同量の水が入っている。両者に同じ量の水を入れても、変わらないだろうと先生が言う。これで納得するのは、人の幼少時の体験から来ている。
 要するに理解とは、突き詰めると、幼少時の体験に起因する。しかし幼児の理解は、動物としての人間の生物性に帰着できる。
 機械はここが人間と異なるので、機械の理解と人間の理解は質的に異なる。」

小野寺:
 「ありがとうございます。腹落ち致しました。『入れ子構造』といったとき、1つの状況文脈のなかで、人間は同時に復数の異なる目標(短期・中期・長期の異なる時間軸での目標の場合があれば、同じ時間スパンのなかで復数の競合する目標があったり、互い補完しあう目標があったりする)を追求しなければならない場合をとりあつかう『サブサンプション・アーキテクチャ』(包摂アーキテクチャ。Subsumption Architecture)も関連がありそうですね。
 ところで、最初に頂きました『一番内側の部屋のルールブックは作り付け、つまりハードワイヤになっています。それは遺伝的に出来たものです。』というくだりにつきまして、より詳細に理解したいと思います。
 Self-reflectiveなAI Agent, 『メタレベルの自己』が『自己』を自己反省・自己参照する、この自己参照の関係が(無限参照ではないものの深い階層構造で自己相似的に)繰り返されるAI、といった『Self-reflective AI』の研究と関連があるでしょうか。」

松田先生:
 「それは分かりません。」

小野寺:
 「『一番内側の部屋のルールブックは作り付け、つまりハードワイヤになっています。それは遺伝的に出来たものです。』というくだりにつきましては、いかがでしょうか。より詳細に理解したいと思います。」

松田先生:
 「人間の理解の最内奥は身体性にある、それは幼少期に感じた熱い、痛いと言った感覚から生じる経験に帰着できると、私は思うということです。あるいは積み木を壊す快感から物理法則を学ぶとか言ったことです。
 シリーズAI探究①の記事で、あなたは次のように書いています。
 『そのため、物理学的に見れば人間と同一の世界に身をおいていても、AIの感覚器官(=センサー群)から取得した「世界についてのデータ」から、AIが行動・活動していく上で、「意義ある一塊の情報」として、どのような(世界の状況を記述することで理解し、把握するための)概念や知識を獲得するのかは、人間が五感と感情・理性を動員して獲得する世界に関する「概念」「知識」とはまったく異なるものになる蓋然性の方が高いということです。」
 ここであなたの言う『意義あるひと塊りの情報』は私の言うチャンクです。神経科学的には一群のニューロン間のシナプス結合だと思います。
 全く新しい情報が入って来たときに、それと共通項のあるチャンクを探します。共通項が見つかると、新しい概念を古い概念で説明します。これは例えとか類推というものです。チャンクは世界の(小さな)モデルです。新しい事象を自分の世界モデルと結びつけられたときに、理解できた、腑に落ちたというのでしょう。
 もちろんその類推は正しいとは限らず、間違った概念と結合すると、迷信、誤解、疑似科学になります。
 私が学習して感じたことは、全く新分野を勉強するのは非常に困難なことです。それは近くに適当なチャンクがないからです。ところが学習が進んでチャンクの数が増えると、学習が容易になります。それは共通項のあるチャンクがそばにある確率が高くなるからです。
 チャンクの数を知識量とします。分野を限った場合、チャンクの数の増える速度は、チャンク数に比例します。『dn/dt=a n』ですから、nは時間の指数関数で増大します。これを知識増大加速の法則と名付けましょう。勉強を続けると、あるところから急速に進み始めます。これは知識のシンギュラリティです。
 ただ上の議論は、分野を限定した場合、つまり土俵が一定の場合です。昨今の人工知能分野のように、土俵自体が拡大を続ける場合は地頭では追いつきません。そこで脳と機械を合体させて知能増強を図る必要が生じます。
 ところで新しいチャンクと古いチャンクを結びつけることを理解と申しましたが、頭の良さはどれほどの遠くのチャンクと結び付けられるかです。天才はとんでもなく離れた概念を結びつける人のことです。それは意識的な思考で行われる場合もあれば、無意識の思考で行われることもあります。天災の発見はそんなやり方で行われることが多いようです。
 チャンク間の結合も階層構造になっていて、偉い人の頭の中はとてつもなく離れたチャンク間に結合があります。
 人間ではこれには限界があるでしょうが、機械にはないでしょう。現在、最も頭の良い人は望月先生でしょうが、それ以上はないでしょうね。でも、機械ならこの限界、生理的、肉体的、頭蓋骨的限界を突破できるでしょう。超知能の持つ概念は非常に抽象的で人間には到底理解できないでしょう。」

(以上)
《3 「『時間』と『空間』を認識枠組みに持つAI』からすべてが始まるか」に続く》

The following two tabs change content below.
AI研究家 小野寺信

AI研究家 小野寺信

1944年、長野県生まれ。カナダ在住。1930年代の「物」論考、「哲学への寄与」論考など、いわゆるハイデッゲルの中期思想と、西田幾多郎ら京都帝大の「場所の論理学」の思想の架橋を志すも、九鬼周造の「偶然性の哲学」の文章に触れて、己の非才を悟り、断念。計算機科学と知能の計算論的再現に惹かれ、人工知能の研究に励む日々を送る。若いAI産業人や大学・大学院生に対して、カオス理論と身体性に立脚した「米国の後追い」ではない、我が国自身の「AI研究アプローチ」が実在することを知らせる必要性を痛感し、連載をスタートした。
1 2 3