「機械意識」の狂気

Nov 11, 2023

意識は生物学的存在にのみ生じますか? それとも、自身の内部状態を観察し、相互作用し、それ自体に表現するコンピューターも意識を生み出す可能性はあるのでしょうか? これらは、IAI の最近の討論会「機械の中の意識」で、ベルナルド・カストルプ、スーザン・シュナイダー、ドナルド・ホフマンに投げかけられた質問の一部でした。 ベルナルド・カストルプは、討論とスーザン・シュナイダーとの意見の相違を振り返っています。

私は最近、人工知能 (AI) ソフトウェアを実行するシリコン コンピューターが意識を持つようになるかどうかという問題について、IAI が主催した討論会 (皆さんの隣にドナルド ホフマンとスーザン シュナイダーが登場) に参加しました。 形而上学的な理想主義者として、私は、意識は生物学的であろうとそれ以外であろうと、いかなる基質によっても生成されるものではなく、それが根源的なものであると信じています。 しかし、自然の残りの部分から切り離され、物理的実体の境界によって輪郭を描かれているように見える私的な意識的な内的生活は、明らかに生物学と関連して出現したものです。 したがって、私にとってこの質問は、シリコンコンピュータに関連して個人的な意識が潜在的に発生する可能性があるのか​​?と解釈できます。

私は哲学者であるよりもコンピューターエンジニアとして働いてきた期間の方が長いので、この質問は私の心に非常に近いものです。 私にとって、「意識のあるAI」の仮説は、空飛ぶスパゲッティ モンスター (FSM) の仮説と同じくらいもっともらしいです。 確かに、FSM を明確に反駁できないのと同じ理由で、私はこの仮説を明確に反駁することはできません。 しかし、FSMと同様に、この仮説を真剣に受け止める正当な理由はまったくないと思います。 その理由は次のとおりです。

推奨読書 大手テクノロジー企業は AI の意識化を望んでいない スーザン・シュナイダー著

私がこれらの言葉を書くために使用している iMac 上で、分子レベルに至るまで非常に正確な腎機能の詳細なシミュレーションを実行できます。 しかし、たとえ後者がどれほど正確であったとしても、シミュレーションを実行すると、私の iMac が突然机の上に放尿するかもしれないなどと、正気の人は考えないだろう。 結局のところ、腎機能のシミュレーションは腎機能ではありません。 それはそのシミュレーションであり、シミュレートされたものとは比較不可能です。 尿の生成の場合、私たちはこの違いを難なく理解しています。 しかし、意識のことになると、批判的推論の能力を突然手放す人もいます。人間の脳内の情報の流れのパターンをシミュレーションすれば、実際に人間の脳と同じように意識が得られるのではないかと考えているのです。 なんとも奇妙だ。

この健全なもっともらしさの感覚の放棄はどこから来るのでしょうか? 意識のある AI の仮説を真剣に考える人は、人間の思考方法と AI コンピューターのデータ処理方法との間の同型性、つまり形式の一致、または類似性という驚くべき偏った概念に基づいてそれを行っています。 しかし、その類似性を見つけるには、具体的で経験的な現実から抽象化のいくつかのステップを踏む必要があります。 結局のところ、実際の人間の脳と実際のシリコンコンピューターを目の前のテーブルの上に広げてみると、それらが構造的にも機能的にもどれほど異なっているかに圧倒されるでしょう。 湿った脳は炭素をベースにしており、エネルギーとして ATP を燃焼し、代謝を通じて機能し、神経伝達物質の放出などを通じてデータを処理します。一方、乾いたコンピューターはシリコンをベースにしており、エネルギーとして電位差を利用し、次のように機能します。電荷を移動させ、トランジスタなどと呼ばれる電気スイッチの開閉を通じてデータを処理します。

AI コンピューターと生物学的脳の間のあいまいな同型性は、具体的で経験的な現実からかなり切り離された、純粋に概念的な抽象化の非常に高いレベルでのみ見出され、そこでは情報の流れの非具体的なパターンが比較されます。 したがって、「意識のある AI」を信じるには、より具体的なレベルでの圧倒的な相違点を恣意的に無視し、その後、同様に恣意的に、漠然とした類似点が見つかる非常に具体的で高いレベルの抽象化のみを考慮することを選択する必要があります。 これは希望的観測以外の何かとして説明できるでしょうか?

___

複雑さに訴えるということは、ただ猛烈に手を振り、曖昧さの頂点の後ろに隠れているだけである。

___

ご存知のとおり、コンピューターが行うことはすべて、原理的には、ありきたりの既製のパイプ、圧力バルブ、水を使用して行うことができます。 パイプは電気の導管、つまり配線の役割を果たします。 圧力バルブはスイッチまたはトランジスタの役割を果たします。 そして水は電気の役割を果たします。 オームの法則 (電気回路の動作を決定する基本法則) は、水圧と流量の関係を 1 対 1 にマッピングします。 実際、私たちが PVC パイプと水の代わりに、金属、シリコン、電気を使ってコンピューターを構築する理由は、前者の方がはるかに小型で製造コストが低いためです。 現在のコンピューター チップには、数百億個のトランジスタとさらに多くの個々のトレースが搭載されています。 何百億ものパイプと圧力バルブで構成される水ベースのコンピューターのサイズとコストを想像できますか? 水を汲み上げるのに必要なエネルギーの量を想像できますか? それを買う余裕はなく、ポケットに入れて持ち歩くこともできません。 水の代わりに電気を使って計算するのはこのためです。 さらに、計算の観点からは、パイプ、バルブ、水ベースのコンピューターと電子コンピューターの間に根本的な違いはありません。 電気は計算のための魔法の基板ではなく、単に便利な基板です。

さて、十分な数のパイプとバルブが適切な方法で組み立てられていれば、パイプ、バルブ、水で構成されるシステム (家の衛生システムなど) が意識を帯びる可能性があると信じる十分な理由があると思いますか? そうでない場合は、AI コンピューターについても同様です。 あなたの家の衛生システムと私の想像上の水ベースのコンピューターの唯一の違いは、複雑さの 1 つです。それを構成するパイプとバルブの数と、それらがどのように相互接続されているかということです。種類や本質ではありません。 実際、一般的な家庭用衛生システムは、約 5 ～ 10 個のトランジスタの機能を実装しています。

ここでは複雑さが鍵であると信じている人もいます。 彼らは、単純な家庭用衛生システムが意識を持たないことは明らかだが、そこにパイプやバルブを追加し続ければ、ある時点でシステムは意識をもつようになるだろうと主張するだろう。 しかし、これは魔法のような考え方です。たとえ原理的にであっても、同じパイプやバルブをさらに追加するだけで、以前は存在しなかった個人的な意識的な内的生活がどのように出現することができるのかを、どのようにして明示的、論理的、そして正確に説明できない限りです。 。 最近流行している情報統合シナリオでさえ、説明ではなく単なる観察にすぎず、この点に関しては何も達成していません。 したがって、複雑さに訴えるということは、ただ猛烈に手を振り、曖昧さの頂点の後ろに隠れているだけなのです。

推奨視聴 マッツィタ・チリムタによる AI デマ

また、「ニューロモーフィック コンピューティング」のような流行語を聞いて、従来のコンピューターよりも人間の脳に近い、根本的に新しい最先端の計算基盤が、将来「意識を持った AI」に向けた現実的なブレークスルーをもたらす可能性があると考えている人もいます。 しかし、これもまた、センセーショナルな企業マーケティングによって奨励されているものですが、これらのことがどのように機能するかについての深い理解の欠如を反映しています。

古き良き家庭用 PC と複雑な AI マシンの間には基本的な違いはありません。 将来に予測されるものでさえありません。 AI アルゴリズムは、私たちが何十年も PC のグラフィック カードに搭載してきた種類の並列情報処理コア上で実行されます。 より多くのより高速なコアを使用するだけです。 同じ種類のコンポーネントがより多く、より速く、無意識から意識への異常で本質的に不連続なジャンプにつながるという奇跡を理解するのは困難です。 そして、ソフトウェアもそれを行いません。「人工ニューロン」に関するすべての話は、それが実際に何を意味するかを理解していれば、私たちが何世紀にもわたって行ってきた標準的なベクトル演算の流行の略語にすぎません。

ここで問題となっている基本的なレベルでは、ニューロモーフィック コンピューターであっても種類の違いはありません。 これらも、携帯電話に搭載されているものと同じ金属酸化物半導体 (MOS) デバイスであり、前任者と同様に電荷を移動させます。 既存の法外に高価な製造インフラやノウハウとの互換性を維持するには、そうする必要があります。 ニューロモーフィック プロセッサがデジタルではなくアナログであることも役に立ちません。デジタル コンピュータは、アナログのコンピュータと同じように電荷を移動させます。 唯一の違いは、それらの電荷の動きから生じる情報がどのように解釈されるかです。デジタル コンピュータのマイクロスイッチは、その意味を決定する前に電荷の量にしきい値を適用しますが、アナログ コンピュータは適用しません。 しかし、この解釈の段階を超えると (争点からすれば些細なことですが)、アナログ コンピューターとデジタル コンピューターの両方が本質的に同じ基板を具現化します。 電気料金の移動が現在携帯電話を意識させないとしても、将来もそうならないでしょう。

___

読者の中には、「意識を持ったAI」についての単なる仮説や議論に対して私がこれほど激しく反対するのはふさわしくないと思う人もいるかもしれない。 しかし、時には「狂気だ！」と叫ばなければならないこともある。'

___

「意識のあるAI」を売り歩く人々の間では、理性から完全に切り離された魔法のような思考が蔓延しているようだ。 私は、知性があり教育を受けた人々が次のような「議論」を展開しているのを聞いたことがあります。「脳に意識があるのなら、なぜコンピュータも同様に意識できないのでしょうか?」 これに対して私は、同様に修辞的な私なりの質問で答えます。鳥が上肢を羽ばたかせて飛べるのなら、なぜ人間は腕を羽ばたかせて飛べないのでしょうか？

IAIの討論中、スーザン・シュナイダーは、言葉としては巧妙に聞こえるが、よく見ると説得力に欠ける修辞的動きの1つで、上記の例えに別のひねりを加えた。ライト兄弟が次のように信じていたら、と指摘した。鳥が飛べるなら、わざわざ飛行機を作ろうとはしなかっただろう。 彼女の主張は、1 つの現象 (この場合は飛行) が、鳥や飛行機などのさまざまな基質において、自然界で複数のインスタンス化を引き起こす可能性があるということでした。 したがって、シリコン コンピューターは生物学とは異なりますが、原理的には両方とも私的な意識的な内的生活の現象を具体化することができます。

彼女の指摘の正当性は単に論理的なものにすぎません。実際、私たちは論理的に私的意識の具体化を生物学的基質のみに限定する必要はありません。 しかし、空飛ぶスパゲッティ モンスターのような、論理的には一貫している無意味な仮説が数多くあるため、これはほとんど意味がありません。高次元の空間に、ヌードルのようなモンスターが浮遊していると想像することは、論理的にも物理的にも健全です。私たち平地人には見えない宇宙が、その目に見えない麺状の付属物で惑星を軌道の周りに動かしています。 目に見える物理的接触によって惑星に力が加えられていないにもかかわらず、惑星は軌道の周りを移動しているため、証拠はこの仮説と一致しています。 さらに強力なのは、この仮説は、時空の抽象的な曲率に訴えることなく、惑星運動の観察を説明できるようです。 では、私たちはこのヌードリーモンスターを真剣に受け止めるべきでしょうか？

ここにもう一つ、論理的かつ物理的に一貫した仮説があります。それは、現在土星の軌道上に 19 世紀のティーポットがあるかもしれないということです。 エイリアンは19世紀に地球にやって来て、何の疑いもしない老婦人の食堂からティーポットをこっそり盗み、帰宅途中に土星の近くに捨て、その後不運なティーポットは土星の重力場に捕らえられたのかもしれない。 したがって、私たちは、今日の「意識のあるAI」を一部の人が受け止めているのと同じくらい、磁器のムーンレットを真剣に受け止めるべきでしょうか？

推奨読書 Google の AI には知覚力がありません。 ゲイリー・マーカス著

明らかにそうではありません。なぜなら、ここで重要なのは論理的、さらには物理的な可能性ではなく、自然な妥当性だからです。 言い換えれば、私たちが自問しなければならないのは、論理的に可能なことや明確に反駁できないこと、つまり明確に反駁できないナンセンスは無限に存在するということではなく、仮説として楽しむ十分な理由があることです。 AI ソフトウェアを実行するシリコン コンピューターが生きた脳のように意識を持ち得ると信じる十分な理由があるでしょうか? 何もありません。 すべては茶番劇であり、残念ながら人類の歴史を通じて、特に宗教的な文脈において、あまりにも一般的だった種類のファンタジーと魔術的思考への憂慮すべき耽溺を表しています。

上記の私の主張に対して権威への訴えとして反応するのは当然のことですが、「意識のある AI」を真剣に受け止めるだけでなく、それについて話して生計を立てている高学歴のコンピューター科学者もたくさんいます。 これは、たとえ私たちがその方法をよく理解していなかったとしても、彼らがここで何かを理解している可能性があることを意味しますか？

ほとんどの人が気づいていないのは、コンピューター科学者の多く、あえて大多数とさえ言いますが、コンピューターの専門家ではないということです。 彼らは単なるコンピュータのパワーユーザーであり、内部で何が起こっているかについては漠然とした非常に限られた理解しか持っていません。 実際、歴史的に見て、コンピューター サイエンスは数理論理学の一分野であり、エンジニアリングではありません。 何世代にもわたるコンピュータ科学者は、訓練を終えて、事前に構築されたソフトウェア ライブラリとツールの膨大な階層の使用方法を知っていますが、それは正確に現実と呼ばれる汚い詳細から隔離することを目的としていますが、設計方法についてはまったく手がかりがありません。そしてコンピューターを作ります。 彼らは完全に概念的抽象化の領域で思考し、ツールによって実現され、集積回路やハードウェアの（電気的）現実から切り離されています。 彼らの視点から見ると、CPU (コンピュータの「頭脳」である中央処理装置) は、同様に神秘的な電気の魔法によって動かされる神秘的なブラック ボックスであるため、すべての空想をそこに投影するのは簡単です。 こうして彼らは、理解の欠如によって空いた穴を希望的で魔法的な思考で埋めます。 ここでの心理学はまったく平凡です。

CPU だけでなくコンピューター全体の作り方を知っている人たち (マイクロプロセッサーの父であり MOS シリコン ゲート技術の発明者であるフェデリコ・ファギンなど) は、私と同じように「意識のある AI」の流行を無視する傾向があります。なぜなら、彼らはコンピュータが自動機械であり、単なる機構であり、家庭用衛生システムと種類が異なるものではないことを理解しているからです。 そして、はい、この主張には注目に値する例外があると確信しています。なぜなら、自由な空想はあらゆる人口統計を免れない条件だからです。 しかし、これらは規則を証明することわざの例外であり、概念的抽象化における博士号は現実の博士号とは程遠いものであるからです。

___

AI コンピューターと生物学的脳の間のあいまいな同型性は、具体的で経験的な現実からかなり切り離された、純粋に概念的な抽象化の非常に高いレベルでのみ見出され、そこでは非具体的な情報の流れのパターンが比較されます。

___

読者の中には、「意識を持ったAI」についての単なる仮説や議論に対して私がこれほど激しく反対するのはふさわしくないと思う人もいるかもしれない。 しかし、時には「狂気だ！」と叫ばなければならないこともある。 狂気が一見無害な方法で私たちの文化に浸透し始めるとき。 チェックされていないオープンマインドとポリティカルコレクトネスは、まったくの戯言に不当な正当性を与えます。 そして、そのドアが開いたら、どこに行き着くのでしょうか？ 私たちが子供たちの目の前で、真剣な顔で顎に手を当てて議論しなければならない次のとんでもないナンセンスとは何でしょうか？

そこで、できる限り明確にしておきたいのですが、いいえ、「意識のある AI」を真剣に受け止める正当な理由はまったくありません。 これは理由や証拠によって裏付けられていない空想です。 私たちの哲学の荒廃した状態の単なる産物であり、そこでは自然の唯一の経験的に与えられた意識自体がどういうわけか異常になっています。

「意識の高いAI」を楽しませるのは逆効果だ。 それは、AI エンティティの倫理や権利など、存在しない問題に、納税者の​​資金を含む希少な人的資源を費やすことを正当化するものです。 それは私たちの自然なもっともらしさの感覚を歪め、現実と（悪い）フィクションを混同することによって、私たちの文化の健全性を危険にさらします。 原子力発電所が複雑なツールであるように、AI も複雑なツールです。 原子力発電所の権利について倫理的な議論をすることなく、原子力発電所について安全対策を講じるのと同じように、AIについても安全対策を講じるべきである。 これを超えるものは単なる空想上のナンセンスであり、そのように扱う必要があります。

議論の反対側の意見を聞きたいですか? Bernardo Kastrup の記事に対する Susan Schneider の返信を読むここ。

サインアップ排他的アクセスを取得します。

何千もの記事やビデオに無制限にアクセスできます

無料トライアルを開始

すでに購読者ですか? ログイン

サインインコメントを投稿するか、今すぐ参加してください (少し時間がかかります)。 Don't have an account? Sign in with Facebook, Twitter or Google to get started: -->