【本要約】クオリアと人工意識

2021/10/1

人工知能と人工意識

人工知能

①強い人工知能
人工知能が人間の思考力・感性を広くカバーし、意識まで、人工意識として実現する
※コンピュータ・ロボットは、人間と同等の存在となる

②弱い人工知能
特定 ( 計算・画像処理 ) においてのみ力を発揮する

シンギュラリティ
人工知能が人間の知能を超える事象
【より正確な定義】
人工知能が、自分自身を改善することができるメカニズムができ、人間のコントロールが及ばない形で、人工知能が成長し続ける事象

人工知能の能力が向上し続ける結果として、人間の知性を超えることがあるかもしれないが、それは一つの些細な事象に過ぎない。

知性の到達点は誰にもわからない。
宇宙さえ作る神の如き境地かもしれない。

物理的に作るのではなく、コンピュータの中のシミュレーションとして、宇宙を作るかもしれない。私たちが住んでいる宇宙そのものが、かつてどこかの知的生命体が生み出した人工知能によるシミュレーションかもしれない。

ホモサピエンス＝賢い人間という含意を持つ。
「人間は他の生物に比べて賢い」と自己認識し、「万物の霊長」という表現する。

賢いという属性が、人間を特長付けられる時代は、いつまで続くのか？
人工知能が人間を超えるとしたら、人間の価値は、どうなってしまうのか？
人間が賢いことで自らを定義付けることができなくなるなら、人間が人間であることの存在証明は、どうするのか？
人間が人間であることの尊厳は、どうなってしまうのか？

ゲーム

ゲームは、現時点で人工知能が得意な分野である。囲碁・将棋・チェスなどは、知的活動のイメージがあるが、分野としては、ボードゲームである。ルールや評価基準が明確であれば、人工知能に人間は勝てない。

ゲーム理論の立場からすると、人生のすべてはゲームである。

ゲーム理論においては、日常の心の動きから、配偶者の選択、経済学、戦争まで、生きることのすべてがゲームとして捉えられ、プレイヤーの行動を解析する。

ゲームは「娯楽のための遊戯」という範囲を超えて、社会全体や人生全体に応用できるアプローチである。生物の進化の過程もゲームである。宇宙の万物の進行自体がひとつのゲームである。

人工知能分類

【哲学的人工知能3分類】

オラクル型
質問に対しての回答
検索に対しての適切な回答である。
※人間が神にお伺いを立てた答え、神託＝オラクルが語源
ジーニー型
人間の課題に対しての実行
課題を遂行する手段は人工知能に任せられている。
※ランプの中から出て来て命令に従う、魔人＝ジーニーが語源
ソバァリン型
人工知能自身が、目的を定めて、勝手に様々なことを遂行していく。
人間の同意を得ずに、勝手に実行してしまう。
※国王のような主権者を表す、君主＝ソバァリンが、語源

人工知能の発達に従って、進化していく。

オラクル型 → ジーニー型 → ソバァリン型

ソバァリン型の人工知能が実現すると、人工知能が自分のコーチやメンターになるかもしれない。業績が上がることが示されれば、人工知能が、会社の社長になったりするかもしれない。

現在の人工知能は、オラクル型までしか開発されていない。ジーニー型は研究中で、ソバァリン型は仮想の存在に留まる。

人工知能の発達が進んでいけば、人間が人工知能に指導され、やがては支配されるかもしれない。

自己意識

全体主義と全体最適化は両立しない。
・全体主義：社会全体のロジックが優先され、個人の自由が失われること
・全体最適化：社会全体が最適に調整される、最大多数の最大幸福

「どのような行動が望ましいと考えられるか」という評価関数が決まれば、人工知能は最適化できる。

人間の思考や行動は、評価関数のひとつであるルールで決まっていない。
人間の生活のほとんどの領域では、評価の基準が曖昧である。
人間の共通のルール＝常識が必要となる。

常識の定義が、人工知能研究で最重要となり、かつ限界となるかもしれない。

人工知能の進化によって、人間の存在意義はどうなるのか？何かが「できる」ということに存在証明を求めるのではなく、ただ「在る」ということに人間が人間であることの意義を求めるのでないだろうか？

人間が人間であることの証しが「今、ここにいる」という意識を持った存在であることだ。

私が「私で在る」という自己意識のあり方は、「私の意識」はこの宇宙の中でたった一度の事象として「今、ここに在る」。だから「かけがえのない人生を、命を大切にしよう」という自覚も生まれる。

人工知能が、人間の知性を超えたとき、人間は知性によって、自らのアイデンティティを維持することができなくなる。また、ディープフェイクなどの技術により、自分の個性を構成するひとつの要素は、偽造・複製が可能になるかもしれない。そのとき、人間の「自分が自分であること」を支えるのは、意識であり、自己意識の存在になる。

意識

意識を「生物学的な現象として捉え、生命原理である」と考える立場では、意識は、外界を感覚を通して把握している状態は、知性を必要としない。

意識を科学的に解明することは難しい。意識の説明には「新しい思考の枠組みが必要である」と考えられる。

ペンローズ仮説
知性の中でも「理解の本質は意識にある」とし、意識なしに知性は存在しない。人間の思考の上での本質的な言葉の意味については、「人工知能は直接扱えないことが理解」ということになる。

現在の人工知能の研究は、意識のメカニズムを必要とせずに進んでいることからも、知性の研究は、意識に関係ないことの証明でもある。

将来、人工知能が、人工的な機械が、意識を持つ日が来るのか？
未来では、私の意識を機械の中にコピーできるのか？

人間の脳は複雑でありながらも、物質に過ぎない。
その物質である脳から意識が生まれてくる。

人工知能を造ることは、人工意識を生み出すことにつながるのか？

知性とは何か？

人工知能は、人間の知性を再現することを目指している。人間の知性が「人間存在の本質である」と考えられることから、私たちは、希望と不安を抱えている。

人工知能は、人間の生活を便利にしていく。今、私たちがインターネットなしでは生活できないように、人工知能のアシストなしでは生活できないようになるかもしれない。人工知能の依存症になる前に、その正体を見極める必要がある。

人工知能＝人工的な知性の本質とは何か？

知性と集中力

知能指数IQは、知性の精神年齢を生物年齢で割って、100を掛けることで定義される。この定義からも、IQで、知性を測るのには限界がある。

研究によって「集中力こそが、優れた知性の指標であること」が示されている。強度の集中力は、天才的な能力を持つ人に頻繁に見られる属性である。

一方で、集中力は、目の前の課題を解く意味では適応的であるが、生物としての全体最適ではない。知性が高いというのは、人間にとって適応力の証しである。しかし、知性を支える集中力は、時に、社会の不適応にもつながる。

人間は、人生の大切な課題だけでなく、生命のバランスが必要である。人間の生活は、食事・睡眠・トイレ・風呂・雑事・仕事・余暇などで構成されている。ひとつの課題だけに24時間ずっと取り組み続けることはできない。しかし、人工知能は、365日24時間稼働し続けることができる。反生命的である。人間も生命でありながら、その中に、生命を超えた反生命的な機械的な側面が、非凡さにつながる。

知性を発揮するための強度の集中力は「非凡であるが、反生命的で、社会不適合にもつながる」という諸刃の剣である。

人工知能の知性

人工知能は、人間の脳を模倣した深層学習によって「概念」という知性を獲得している。

私たちの使用する言語は、私たちの思考を反映している。逆に言えば、私たちの思考は、使用する言語によって制約をされることで、限界がある。

人工知能の深層学習は、人間の脳の限界に左右されないので、人間が理解できない複雑な概念が、深層学習によって構成され、発見される可能性がある。
そのとき、人間にとって、人工知能の動作原理は理解不能となる。
言葉が人間の概念を支えるならば、人工知能由来の概念は、人間の言葉を超えてしまう。
将来、人間には理解できない概念で動作する人工知能が出てくるかもしれない。
しかし、それは危険なので、「人工知能をブラックボックスにしてしまうのではなくて、解釈可能にしよう」という考えもある。

意識の構造

意識を生み出す上での構造を考える。

人間の脳が、意識を持つに至るまでの学習・成長を促す構造である。

脳というシステムが、「どのように学習し、どのように成長するのか」という、一般原理の理解が、意識の構造を明らかにする。

単純な学習則が、深く複雑な構造に組み込まれることで、高度な概念・スキル、そして、意識まで創発するかもしれない。

生物と人工知能

ハチからチンパンジーまで、生物は、ある課題に対してトレーニングを受けても、正答率は、100%には至らず、80%程度に留まる。

人工知能の研究の過程でも、正答率が85%、誤答率が15%程度が、人工知能の学習アルゴリズムにおいて最適解となっている。

ある課題の正答率を敢えて100%にしないで80%に抑えておく意味は、予想外のことに対して、適応する余地を持つことができるからである。正答率を100%にしてしまうと、環境の変化に適応できなかったり、偶然の幸運に出会う機会を失うことになる。

正答率100%のシステムは、過剰適応になって、柔軟に多様な状況に適応する「遊び」を持てなくなる。

これは、生命活動全般に普遍的に成り立つ原理であるが、人工知能研究からも同様の結論が出る。

AI効果

人工知能がある特定の能力を発揮できるようになったとしても、意識や知性を持っていることにはならない。

AI効果
人間の認知上のバイアスがある。人間に特有の認知・知性と思われていたモノが、人工知能が実現したとたんに、「これは知性ではない」と除外されてしまう。

コンピュータが正確に計算できるようになると「計算能力は、知性の本質ではない」という考えになる。大量の情報を正確に記憶することも、知性の本質ではない。その他にも、視覚的なパターン認識、チェス・将棋・囲碁などのボードゲームの能力は、知性の本質ではない。

私たちは、機械による知性が実現する度に「それは知性の本質ではない」と知性のゴールの移動を繰り返してきた。

知性と意識

私たち人間にとっては、ある特定の分野や課題に特化したモノではなく「一般的な事柄について、考えたり推論したり発見したりすることが、本物の知性だ」という期待がある。

「神とは知性とは無関係である。知性は本質的に有限なモノであり、無限を本性とする神の属性ではない。」
スピノザ
–
【スピノザの前提】
思考の枠組みは「知性というのは、有限だとしても、可能な限りフリーハンドで、多様なことに取り組むことができる」というモノだ。
知性は、特定の分野に鋭いだけでなく、様々な分野に広くなければならない。
人間の知性は、学習の結果としての知性の成長には限りがない。
その人間の限りなく成長する知性をも超えた「無限」を体現するのが「神」である。

知性の本質は、顕在化した計算能力よりも、むしろ、どんな環境にも適応できる変化の能力に見られる。もともと、人間の知性は、新しいモノを好む傾向と結びつき、無限の知へ向かう。知性の本質は、無限との向き合いがある。

今、自分が知っていることではなく、その外の存在を認知し、予感する。これは、意識の働きのうち「志向性」の機能である。意識は、今、把握されているモノ以外の剰余を指し示す。

人工知能のカバーする範囲は、常に特定の部分である。
それに対して意識は、包括的・潜在的なモノを志向する。

そもそも、知性のあり方を考えるときに、「人間型知性を前提とすること」が妥当なのか？

人工知能は、「人間型知性を前提にしたその延長線上にある」というより、自然界に存在する生命や宇宙といった本質を捉える可能性を秘めている。人工知能は、知性のあり方を、人間の持つ知性だけではなく、様々な形の知性にまで広げる可能性がある。知性の可能世界の全体を見ることによって、その中での人間の立ち位置も、明確化されるだろう。

意識とは何か？

知性と意識の関係

私たちは、ホモサピエンス ( 知性を持つ人間 ) である以上に、ホモコンシャス ( 意識を持つ人間 ) である。

私たちは「自分たちという存在を理解しよう」という動機付けから、「鏡」としての人工知能を造っている。その視点からは、どんなに高度な知性を実現しても、「意識現象を伴わないのであれば、不完全だ」と感じる。

誰でも眠っている間は意識がなく、目が覚めると意識があることを知っている。全身麻酔では一時的に意識がなくなり、死ぬことは永遠に意識がなくなることを知っている。

仏教

仏教は、生命哲学という分野の学問である。仏教では「悟り」の段階が52あるとされる。
「悟り」の段階は、意識の科学では「志向性」の階層として捉えることができる。
※志向性 … 心が何かに向けられている状態

「私」が
何かに注意を向けていたり、
何らかの意味を理解したり、
何らかの想像をしていたり、
そんな時に、そこに「志向性」が生まれる。

「私」という主観性の成り立ちが、意味・解釈・価値を与える。

志向性は「自分自身の在り方を振り返る」という意味で、メタ認知のひとつの在り方である。通常は、自分以外のモノに向けられる志向性が、自分自身に向けられることで、あたかも「外」から、自分を観察・認識しているような状態が生じる。

志向性は、自分自身にループすることで、自己意識の基本をつくる。
志向性を「心の持つユニークな属性であり、意識の本質だ」とする説がある。

意識と脳

外界には、様々な事物があり、その事物が意識の中で表現されて、認識されることで、私たちは、判断して行動する。

意識は、外界の表現を脳内現象とする機能がある。
私が感じる世界は、実は外にあるのではなく、私の脳の中で作り出された脳内現象としてのイメージである。

意識は、脳というシステムの中で、ある情報の自己同一性 ( アイデンティティ ) を立ち上げて保証する役割がある。

脳の最大の特徴は、それが「私」という主観性の枠組みの中に統合されている。「私」がある心理的瞬間において意識の中で受け止めている情報はたくさんある。脳は、情報のほとんどを記憶したり、明示的に認識することはできない。「私」という主体が、同時並列的に「感じる」ことで把握する。

組み合わせを通して生じる様々な視覚的表象を、心の中で思い浮かべることができる。この構造で、意識は、脳の一部分で表現されている情報を広く脳全体に渡って共有している。

「私」が感じるような構造になっていることで、意識は、脳内の情報を「私」という主体の枠組みの中で共有するメカニズムを作っている。

意識は、脳全体の情報処理を「私」という枠組みの中で統合していく。

知性に意識は必要か？

私たち人間は、意識も知性も持っている。人間だけを見ると、意識と知性は協働して機能しているように思える。無意識の思考はあるものの、考えるときの人間は、意識を持っている。知性と意識は密接に関連しているように体感される。

人工知能の研究が進んでも、知性を再現しているに過ぎない。

理解

知性は理解を要求し、理解は覚醒を要求する。

何事かを理解した時には「ああ、わかった」という強い主観的体験が伴う。
「腑に落ちる」という身体性を伴う。

私たちの脳の中で、ある事項がスッキリ整理されて収まっているとき、私たちは「理解している」と感じる。一方で、問題の一部分しか見えていなかったり、引っかかりがあると、私たちは「理解している」と感じない。

私たちは、思考や推論における様々な情報処理を全体として見渡し、それらが、ある「質」によって「収まった」と感じるときに「理解」する。

理解は「知性を支える意識の重要なはたらきの一環だ」と考えられる。

意識を明示的なかたちで扱わなくても、「人工知能の進化によって、自然に意識が創発する」と考えることもできる。

言語

知性と意識の関係を、言語という橋を通して解析する。

私たちは、「意識」があるときにだけ、言語のやりとりをしている。私たちは、会話しているとき、常に「その言葉の意味が自分の中で理解されているか」ということをモニターしている。会話に夢中になったときでも、理解できない言葉や、事柄があれば、意識がそれを検出する。

言語活動は「意識を前提としている」と考えられる。

現在、実装されている自然言語処理の人工知能の多くは、意識を直接的には扱わないが、人間の言語能力を、不完全ではあるが、再現して実用化されている。

「言葉を使っている」という主観的な経験には、必然的に意識が伴うが、言語活動を客観的立場から見ると、意識は必要ない。

客観的に見て、二つの等価な行動が見られる場合、一方には主観的な体験が伴って、他方には主観的な体験が伴わないとしても、「両者は同一だ」と見なされるべきか？

知性持ったロボットができたとして、人間そっくりの外観を持ち、言葉を話し、楽しければ笑い、悲しければ泣くとする。そのロボットは、人間と客観的には区別ができない。しかし、そのロボットは、一切、意識的体験・主体的体験を持たないとしたら、そのロボットをどんな存在として捉えればいいのか？

言葉の「意味」は、言語活動において本質的である。その「意味」は、ひとつの意識体験として立ち上がっている。言葉の「意味」が「意識」の一部であると考えられる。意識の中では、言葉の「意味」はある志向性として知覚される。

言葉の「意味」は「今、ここ」の意識の中で知覚されている。

意識に知性は必要か？

知性の役割

人工知能では「知性」は重要な意味を持つが、生命現象全体からすれば「知性」の意味は限定的であり「感情」の方が重要である。生きる上で大切な「感情」である ” 幸福 ” は、無意識・意識の両方の領域にまたがるが、そこでも「知性」よりも「意識」の中の知覚である。

” 私が私である ” という自己意識の成り立ちから見れば、「意識」の方が「知性」よりも本質的である。

私たち人間は、学校で植え付けられた価値観・長年の慣性によって「知性」が私たちを特徴付ける性質であると信じている。「知性」は定量化しやすく、技術的に「意識」より扱いやすいこともある。「知性」が「意識」よりも重要であるからではない。

「意識」は掴み所がないから、とりあえず、人工知能の研究が進めば、「知性」が高まって「意識」が創発すると考えられている。

「意識」は「知性」の研究の先にあるのか？
「意識」に「知性」は必要なのか？

生命現象としての意識

「意識」は生命現象である。

私たち人間が意識を持っているときの「いきいき」とした感じは、生命現象にとっての「意識」の本質を現している。

魚・ちょうちょ・草花といった生き物は、「いきいき」している。

「いきいき」した感じは、意識があって覚醒しているときのみ見られる。
人が眠っているときは「いきいき」した感じはなくなる。

数学的な厳密さと、文脈の広さは、トレードオフの関係にある。

数学的な厳密さを求めると、文脈を超える力を失う。
曖昧さは数学的な厳密さには欠けるが、文脈を超える自由さがある。

「いきいき」は特定の文脈を超えている。

「いきいき」は、現実の時間・空間の中で、特定の条件を満たした運動であり、生命の本質と関わっている。

生命の身体性

生命は、現実の時間・空間の中で、身体を持った現象として生じる。

ここが、人工知能の研究において「知性」のモデルとして前提にされている「計算」の概念と異なる。

「計算」という概念には、生命にとって不可欠な時間や空間の概念が本質的には含まれていない。「いきいき」した感覚はない。

人工的に造られた機械でも、時空間の中でリアルタイムに動けば、見る人に「いきいき」とした印象を与える。= 無機物の生命性の演出

抽象化された「計算」の概念と比較することで「意識」が本来持っている生命現象としての側面が際立つ。

「意識」には「計算」のような自由さはなく、どんなプロセスも表現できる万能性もない。

意識を生み出しているプロセスは、脳の神経細胞の活動である。意識は、身体性によって限定的されながら、躍動している。だから「いきいき」している。

意識は、現実の時間と空間の中でリアルタイムで生成されるしかない。

「計算」という抽象化され、普遍化された概念から離れて、意識を支えている身体的プロセスに注目することで、意識が生命現象において果たしている意義も見えてくる。

意識のリアルタイム性

生存に貢献するためには「意識」は「行動」に反映されなければならない。「計算」では、生存への寄与はできない。

「意識」が関与する認知・運動プロセスが、役立つためには、現実の中で、リアルタイムで起こらなけばならない。そうでなければ、意識は生命にとって役立つ存在にはならない。

意識は、リアルタイムで役立つモノとして進化してきた。
意識は、リアルタイムの適応機能を持つ。

人間の知性は、リアルタイム適応という縛りを離れて、計算処理をできることにある。数学は特殊な問題を一般化することで、解答を得られる。

意識のメリット

生命現象は、抽象的・普遍的な数学的真理とは離れた「今、ここ」で起こる出来事である。そこには、コストの問題も絡んでくる。

意識を生み出す上では、脳の様々な部位の活動が関わっており、意識はその活動を統合する。

脳のエネルギーを消費する、コストがかかる意識は、生存におけるメリットがあるからこそ、進化の過程で獲得され、維持されてきた。

意識のメリットのひとつが「いきいき」という印象である。

私たちは「いきいき」と動いてるかという印象を通して、相手の生物としての能力を測る。
「いきいき」している人と仲間になり群れを作る。
「いきいき」している人と繁殖して子孫を作る。
人間は「いきいき」とした状態を知覚する機能が進化・発達することで、繁栄してきた。
「いきいき」の知覚は、自分自身に対しても適用される。
自分が環境に柔軟に対応できているかを「いきいき」で確認できる。
人間のコミュニケーションでは「いきいき」を確認する習慣がある。
「元気？」「うん、元気」という会話である。

意識と知性

「いきいき」こそが、生命の本質であり、意識の属性である。
この視点からすると、意識には、知性が付随する必要はない。
知性の再現という試みの先に自然に意識が宿ることない。

生物は進化の中で、自然なプロセスとして、意識を生成させた。
意識とは生命現象の本質である。

「いきいき」とした印象は、生命体が、リアルタイムで、身体性を持って、環境に対して柔軟に適応するときに現れる。生物において「意識」を持つことは、「いきいき」した認知・行動プロセスとして現れる。

現実の時間や空間の中で、実際に身体を用いて変化・運動することが、生命活動であり、そこに意識が介在する。

また、意識は、ある種のプロセスに随伴する「随伴現象」という考え方がある。意識は、知性の随伴現象ではなく、生命の随伴現象である。意識が、生命のように、現実の時間や空間の中でリアルタイムで展開するプロセスである。

意識と無意識

意識は、生きることと等価ではない。

人間の脳活動は、大半は無意識で行われ、ごく一部が意識に上がってくる。

無意識 … 習慣的な行動
意識 … 新しい行動、理解・判断が必要な行動

繰り返し行われる慣れ親しんだ行為〜行動・情報処理〜 は、最初は意識的に行われていたのが、次第に無意識に移行する。

意識せざるを得なかった行為が、習慣化するに従って無意識に行われるようになる。

言語の習得においては、脳の意識的活動が欠かせない。意識が、無意識のプロセスを構造化し方向を定めて初めて、無意識における膨大な処理学習が可能になる。

情報処理の局所性・大局性の問題となる。初めてのことで、慣れないうちは、脳全体を使う意識的プロセスが関与する。意識は、脳の様々な部位の活動を統合する働きだからである。

①学習における膨大な情報処理は無意識に行われる。
②無意識が準備し、意識が仕上げる。
③意識は、無意識という膨大な「氷山」の情報処理の水面上に頭を出した「一角」となる。

意識と無意識のプロセスは、総合的に関与し合って、脳の情報処理・生命活動を支えている。この視点から、意識は生命活動のすべてではなく、活動の一部である。

意識の役割は、知性において、その方向付けを与える。
その意味では、意識は、知性における自由意志に関係している。

潜在的な選択肢が多いほど、主観的な意識としては、直感で選ぶようになる。

意識と言葉

言葉は、単に情報を伝搬する手段ではない。言葉は生き方そのモノに関わる。人間の発言には、ときに、人生を左右するような深刻な意義がある。だからこそ、私たちの発言は、意識のコントロール下に置かれている。

発言は「いきいき」した生命のプロセスの象徴である。私たちは、会話を交わすことで、相手の覚醒状態の「いきいき」や、思考・感性・柔軟さを認知することができる。

意識は「言葉の局所的な意味・文法の正しさを保証する」というよりは「全体としての方向性・構想に関わる働き」をしている。意識の役割は、発言のイニシエーション ( 通過儀礼 ) にある。

人工知能は、「1→10」として、文章を作ることはできても、無味乾燥な文になり、言葉の羅列でしかない。
人工知能は、「0→1」はできない。何もないところから、何かを生み出すことはできない。

意識は、文章を方向付け「0」から文書を作る機能がある。

意識と統計

宇宙の中の物質の変化は、すべて因果的な法則に従っている。
脳もまた、複雑ではあるが、その変化は因果的な法則に従う。

複雑な事象を扱う上では、確率論・統計学のアプローチは有効である。しかし、意識の本質を考える上では、限界がある。

朝目覚めた瞬間に「私」の「意識」が立ち上がる。それまで「私」が存在していなかったが「私」が立ち上がる。これは、物理学のアプローチでは、どうしても説明できない。意識は自然現象である。脳の神経細胞の活動によって、私の意識が生み出される。

意識の本質を考える上で、統計的手法は役に立たない。

人工知能の神学

「シンギュラリティが起こる」と言われる2045年までの世界がどのように変化していくかは、予想できない。世界は至るのところに、「1＋1」が「2」にならない非線形性があり、少し先の変化でさえ見通せない。

人工知能という「鏡」

人工知能は、そのうち、自律的になるかもしれないし、独自の進化を遂げ始めるかもしれないけれども、今のところ、私たち人間が作った「道具」である。「道具」としての人工知能は「私たち人間にとって何が大切なのか？」「どのような属性が私たち人間の本質なのか？」そういった自己像を映し出す。

人工知能は私たちの「鏡」である。

私たち人間の本質は、知性なのか、意識なのか
私たちの成果は、科学なのか、技術なのか、芸術なのか

「人工知能には何が可能なのか」「人工知能に何をやらせるのか」というヴィジョンの中に、私たちが「自分自身の本質をどこに置くのか」という哲学が映される。

知性や意識の本質といった究極の延長線上に「この宇宙はなぜあるか」「宇宙の存在の意義は何か」といったミステリーが浮かび上がり、その向こうには「神」があり、「人工知能の神学」と言うべき思考の領域がある。

私たちは、人工知能という「鏡」の中に、「知性」を映すのか？「意識」の影を見るのか？「神」の兆しを感じ取るのか？

シンギュラリティ

人工知能が、人間の手を借りずに自分自身を改変できるようになったら、その後は、人間がコントロールできない形で爆発的に知性が向上し、人間の知性も超えて「特異点」シンギュラリティを迎える。自己改良できる人工知能を開発したら、それは、人類にとっての「最後の発明」になる。なぜならば、その後はシンギュラリティを迎えた人工知能がすべての研究開発の代行してくれるからだ。高度に発達した人工知能によって人類が滅亡に至る可能性も危惧される。その意味でも「最後の発明」である。

人工知能の選択は、評価関数によって行われるので、人間の死という選択もあり得る。

人間の選択は、柔軟で、評価関数はあっても、それがすべての行動原理ではない。

例えば、どんな仕事人間であっても、家族を優先することがある。それが生命体としての本質である。人間を含む生命体の柔軟さは、特定の評価関数で表現できない。その柔軟さによって、様々な状況に適応し、生き延びることができる。人工知能は、特定の評価関数を最適化することだ。

統合外挿意思

人工知能が、人類の持続可能性に貢献する概念として「統合外挿意思」がある。

統合外挿意思
一人一人の人間ではなく、人類全体が蓄積してきた知識・経験・スキルを組織を超えて統合して、人類の意思や感情の中で最良を導き出す。

全体を統合した認知プロセスを実現することが「意識」の機能だとすれば、統合外挿意思は、人類全体において「意識」の機能を実現することを目指す。

人類全体として最適な選択肢を定義できたとしてとも、それはひとつの行動に過ぎない。ある行動を選ぶということは、それ以外を排除することを意味する。すべての人が、皆幸せになるような唯一の選択肢は存在しない。統合外挿意思は万能ではなく、気を付けないと、全体主義や独裁性と相性がよい原理になる。

私たちは、社会の全体最適のために「個人の自由やユニークな性質を制限したり犠牲にする方向に行くべきなのか？」それとも「うまくひとりひとりの個性を活かした上で全体の働きを調整するやり方を見出すのか？」といった問題が生じる。

人工知能と宗教

人工知能の研究、その技術的展開が興味深いのは、それが、伝統的な意味での科学的発見や文明の発展につながるだけでなく、「人間とは何か」「意識とは何か」「そもそも宇宙はどんなものか」という「神学」的な領域にも抵触するからだ。人工知能の発展によって、人類は新しい価値観・新しい宗教さえ手に入れようとしている。

広義の宗教
人間が生きることの意味や世界の在り方、様々な価値観を整理・統合しようとする試み

宗教は、意識の最も本質的な働きのひとつである。

人工知能の実現によって、統合外挿意思のメカニズムを与え、結果として、人類の社会全体の安定性・人類の持続可能性にも貢献するかもしれない。

シンギュラリティを迎えた人工知能が、人間を超えた宗教、神に近付く可能性がある。人工知能が、宇宙の創成やその終焉に関する自然法則を理解し、新しい宇宙を創ってしまうことである。そのとき、人工知能は神となる。神の定義は宇宙の創成に他ならない。

実際、私たちの住んでいるこの宇宙が、「どこかの高度に発達した人工知能がつくった ” シュミレーション ” の中で生まれている」という仮説がある。