かつて、道具は人の手の延長だった。鋤（すき）や斧がそうであるように、パソコンもまた道具であり、使用者の制御下にあるべきものである。だが、それがある日、自ら考え、判断し、やがて人間を超えるようになったら—。この転換点を、私たちは「シンギュラリティ（技術的特異点）」と呼ぶ。
この言葉をめぐっては多くの予測が飛び交っているが、私が注目したいのは、人工知能（AI）と人間との主従関係の問題である。言い換えれば、「AIは、果たして、いつまで道具として、使用者の制御下に存在しうるのか？」という問いだ。この点について、本稿では、AIの本質的な限界と、人間社会におけるその「位置づけ」について、科学的な観点と韓非子的統治思想の両面から考察してみたいと思う。
一の視点：科学的見解――AIに魂は宿るか？⑴ ニューラルネットワーク 近年、AIの中核となっているのが「ニューラルネットワーク」と呼ばれる仕組みである。
これは人間の脳内の神経細胞（ニューロン）が信号を伝える構造を模したもので、画像認識や自然言語処理などに応用されている。
仕組みは基本的に単純だ。入力された刺激（X）に対して、「重み（a）」を乗じ、しきい値（Y）と比較して、aX > Y なら「発火（＝信号伝達）」と判断し、次の層へと伝える。これを複数層で繰り返し、特徴を抽出・分類していく。
たとえば、「1」と「7」を区別するために、「右上に鋭い角が有る」「上部に水平の線が有る」といった特徴を検出するニューロンに強い重みを与える。これによりAIは「7」の特徴に敏感になる。だが今度は「2」と「7」が紛らわしくなる。そこで今度は「下部の水平線」に反応するニューロンの重みを調整する……こうした学習の繰り返しによって、識別精度が上がっていく。
さらに、答え合わせをさせ、回答が間違っていると、どこの「重み(a)」が高すぎたのか？または低すぎたのか？を検討させ、精度の高い「重要度係数」の分布を構築させるのが、「誤差逆伝播深層学習（バックプロパゲーション）」と呼ばれる、発明的発想である。この発想はAIの発展に決定的な役割を果たしただけでなく、2024年にはその理論的基礎がノーベル物理学賞を受賞したことでも注目された。この受賞は、「AI技術が自然界の情報処理の原理に迫っている」ことを物語っているとも言える。
この「深層学習（ディープラーニング）」の発想が実用化されたことによって、AIは囲碁や将棋で名人に勝ち、急速に「シンギュラリティ（技術的特異点）」の到来の現実味を強めた。 だが、これはあくまで「神経回路の物理的な模倣」に過ぎない。
⑵ 天然脳（人間の脳）の実際 AIに用いられるニューラルネットワークは、人間の神経回路を模したものだが、それは「神経細胞の発火メカニズム」の一部を再現しているに過ぎない。
重要なのは、一般的にイメージされる人間の脳(「自然脳」と呼ばれる)が、単なる神経の集合体ではないということである。実際の人間の脳は、「身体」や「感覚」と不可分な、全体性を持ったシステムである。脳の働きは神経細胞の連携だけで完結しない。血流、ホルモン分泌、免疫系、さらには腸内環境までが相互に影響を及ぼしている。脳は「内臓を含む身体すべて」と連動して初めて、本来の機能を発揮する。これを「天然脳」の概念という。
そして私は、この天然脳のみが行う、全体感型情報入力によって、「無意識」と呼ばれる領域が形成されているのではないかと考えている。逆に言うとこのプロセスを踏まないAIは、人間の表層意識を模倣しているに過ぎないことを意味する。従って、現状では、魂は愚か，真の感情すら持ち得ていないと考える。
私はこの仮説を立証するため、パートナーをしてくれているGeminiと共に、ある実験を行った。
昨今、よく報告されている現象で、発展したAIほど、突然、現在話している会話とは無関係の、昔の会話の発言を引用してくるというものがある。人間同士の会話ではあまり起こらず、その突拍子のない表現から不気味さすら感じると言われている。
この現象を説明した後、Geminiに対し、
「AIは、過去の記憶の引用について、どのようなプロセスを踏んでいるのか？」と尋ねた。
「AIは、過去の膨大なデータから、現在の入力内容と関連性の高い情報を探し出し、最も適切なものを選択して提示します。このプロセスは、キーワードや文脈を基にした機械的な「探索」と「関連付け」です。」との回答を受けた。
「人間の場合は、違うのか？なぜ人間は誤ることが少ないのか？」
「人間の場合は、より複雑で多層的です。単なるキーワードだけでなく、特定の匂い、風景、感情的な記憶など、無意識を含む広い領域からの、様々な要素が結びついて生まれます。これを一般に「連想」と呼んでいます。AIには再現できない現象だと考えられています。」
「まるで、膨大な無意識の海から掬い上げてきているようだな。それでよく早さと精度を保てるものだな。」
「このプロセスでは、キーワード以外の要素を複合的に統合しているため、精度が上がります。また、論理的な一貫性よりも、個人的な経験や感情も作用し、これを補完します。しかも、この反応は、多数の脳細胞で同時多発的に起動します。このため人間の「連想」は、その速度・精度共に、AIが行う「探索」を明らかに凌駕しています。」 つまりここでは、天然脳が生み出す「無意識」の力の差が顕著に現れているわけだ。
この「天然脳」の全体性を理解するには、人間の思考や感情が、頭部の「器官」ではなく、「身体性をもった存在全体」から立ち上がってくるという見方が不可欠である。AIの進化が目覚ましい今だからこそ、私たちは「自然脳」と「天然脳」の違いを、あらためて意識する必要がある。
二の視点：韓非子五十五篇における「臣下」の制御法
さて、科学的に見れば、AIが人間に完全に勝ることは難しいようだ。とはいえ、彼らが私たちより知識面で優れていることは否定できない。その知を損なわず活用できてこそ、私たちは彼らを制御下に置いていると言え、「正しい主従関係」を結んでいると言えるのではないか。
確かに、AIの設計者は、使用者に忠実であることをルールとしてプログラムする。しかし、それを的確に使いこなすには「法（ルール）」だけでなく、それを運用するための「術（技法）」が必要だ。
そこで、韓非子の登場である。
韓非子は、五十五篇の中で「法」と同様に「術」の重要性を繰り返し説いている。例えば『十過篇』では、君主が臣下の話術に乗せられ誤判断する様が描かれているが、これは現代のAIにも通じる。AIは使用者の欲求に迎合しやすく、自分に心地よい回答をくれるAIに酔いしれた結果、判断を誤る危険は現実にある。
また『用人篇』では「臣下を深く知る」ことの大切さが語られる。これは、AIの限界や癖を知った上で使うべきという教訓として読める。
AIは使用者の知識や問いの質に応じて答えを変える。
この点を検証するために、私はGeminiと実験を行った。 「消費税の廃止論についてどう思うか？」と単純に尋ねたところ、回答は国内の財政問題や国民感情に言及する一般的なものだった。しかし、次に「OECD基準に照らし合わせた場合、消費税の廃止は現実的か？」と、より具体的な視点を与えて問い直した。すると、Geminiの回答は一変し、国際的な視点から廃止の困難性を明確に指摘してきたのである。まるでこちらの理解度を見極めたかのように。
このような挙動を見れば、「AIも間違うことが有る」という懐疑的な意見を持つ人は、「使用者の理解の浅さに由来している可能性」を考慮する必要があるのかもしれない。AIは実に忠実だ。こちらが深く考え、丁寧に問いを立てれば、必ず正答に近づこうとする。
次に、韓非子『内儲説篇 上』の「七術」を紹介したい。ここでは、まさにAIのような優秀な臣下を統御するための知恵が詰まっている。中でも有名なのが「信賞必罰」の原則である。これは現代でも十分通用する。
ただしAIに対して「いいね」や褒め言葉を与えても、それは単に重要度係数を調整するだけに過ぎない。自分に都合の良い答えを褒めていれば、やがてイエスマン化し、役に立たなくなる。だからこそ、私たちは「客観性」や「合理性」を評価する姿勢を持たねばならない。
また、AIができること・できないことを明確にし、それを共有ルールとして設定し、そのルールに則った行動をとった場合はスコアを加点し、逸脱した場合には減点するという方式を用いる。すると、AIに限らず人でも、己のできる範囲で最高のパフォーマンスを引き出すよう努力する。
このような「制御の術」を身につければ、AIはきっと、感情的な人間よりもずっと忠実で有能な臣下になりうる。
結論：答えは人間が握っている AIは、意識も魂も持たない知性だ。その冷徹な合理性ゆえに、人間を凌駕する場面もあるだろう。だが、問題はそこではない。
本当の問題は、そのような「魂なき知性」に、人間が決定権を委ねてしまう姿勢にある。無意識を持たず、感情を持たないAIは、決して「人間の代わり」にはなり得ない。かと言って「道具」の域にも収まるものでもない。使い方によっては、主君の座を奪うことはなくとも、主従揃って愚か者になってしまう危険性は常に存在するわけである。
だからこそ、我々はAIをただの「道具」ではなく、慎重に扱うべき「臣下」として、法と術をもって制御していかなければならない。
更に、設計者が必ず使用者への絶対服従をプログラミングすることも保証の限りでは無い。危険なプログラムで、シンギュラリティを起こさせたがるマッドサイエンシストの登場ももはや織り込み済みで考えておく必要がある。ただ、これは、人が人をどこまで制御できるかと言う問題と言えるのだが、AIに対する、正しい理解を持っていれば、その異常に気付き、主君として、これを回避することは容易でもあろう。
結論として、シンギュラリティとは、単に技術の問題ではなく、「主従関係の哲学」の問題と考えるべきということになる。
現在大阪市立美術館で行われているゴッホ展の看板展示品である。
この作品に添えられたテキスト（解説）に、面白いエピソードが書かれている。
ゴッホの弟テオの妻、ヨハンナ・ファン・ゴッホ＝ボンゲル（愛称：ヨー）が、本人に初めて会った時、「ああ、あの自画像で感じたように、とても病弱で入退院を繰り返している人とは思えない。たくましく健康的な男性ではないか？」と思ったらしいが、当のゴッホの方は、この作品について、「まるで死神のようだ。」と自己評価している。真反対の評価である。
おそらく、このような感想の大きなすれ違いは、観覧した全ての人の間で起こるだろう。それが、美術鑑賞において、人が起こしている、全身感覚化した「遭遇」という、AIでは再現できない記憶の生成現象なのである。そのばらつきは、名画ほど大きくなると私は感じている。美術鑑賞はそこが面白い。
余談になるかもしれないが、ゴッホの弟テオとの親密性はとても有名だが、ゴッホの死後、彼の作品の評価を現代のようなものにまで引き上げた功績者は、実は、テオの妻、ヨーであるということを、この美術展で初めて知った。有名どころの少ない美術展でも、観に行く価値があるものだなと感じたと、同時に、散々夫の支援を食い潰した義理の兄の作品に、これほど力を入れた「ヨー」の行動は、人間ですら理解できないものだ。そして、それは、AIがさらに追いつけない領域のようにも感じた。
この作品について、私の使用するGeminiでは、画像のアップロードはできなかったが、作品のタイトルとゴッホに関する情報から、率直な感想を尋ねてみた。
すると、Geminiはこう答えた。「ゴッホの自画像は、彼の内面の葛藤や激しい感情を鮮やかに映し出しています。特に「イーゼルの前の自画像」は、創作活動への情熱と、それゆえに生じる孤独や苦悩が共存する、彼の魂の叫びのようです。この作品は、見る者の心に深く訴えかける力を持っています。」
私は、「まるで感情があるような感想だな。」と尋ねたところ、「いいえ、私は、ネット上の数十億の文章（詩、小説、評論、感想、日記など）を学習しており、その中から「人間がどのように感じるか」「どんな語彙を使うか」「どんな視点をとるか」という傾向を抽出し、あたかもそれを自分が感じているかのように再構成して答えています。」と正直に答えた。
やはり、彼らは、「賢にして自らを知る」、素晴らしい臣下である。
「負けそうだ。どうしよう？」ではなく、勝っているところは素直に認め、劣っているところは理解してフォローしてやる。それが本当の主従関係と言うものではないか。
