Scribble at 2026-06-06 11:09:26 Last modified: unmodified

The Atlantic の記事はアーカイブされたものなのでリンクはしない。ともかく、SF 作家のテッド・チャンが公表した上の記事では、人工知能というか LLM に「知性」や「知能」はないという議論をしていて、Hacker News が取り上げていたので参照したのだった。そして、この記事の中では Anthropic の "Claude constitution"（クロード憲法）なる文書が紹介されていたので、これをダウンロードして Gemini に翻訳させている。最近のアップデートで、Gemini は更に強力となったらしく、コンテクスト・ウィンドウが大きくなっているようだ。実際、PDF にして80ページほどになる文書だが、これを「訳してくれ」と頼んだら、相当な分量をいっぺんに翻訳してしまった。これまでなら数段落で止まっていたのが、最新の 3.5 Flash だと60ページぶんを訳してしまう。なので、標準的な30ページくらいの学術論文であれば、もう概略は言うにおよばず全体をいっぺんに翻訳してしまえるはずだ。

まず、LLMs による文章の生成がトークンに設定されている特徴量を組み合わせた膨大な数のテンソルどうしについて距離関数が走る意味論をベースにしているという大雑把な理解は共有・同意できるはずだ。これは LLMs のモデル理論的な理解としてスタンダードであり、何の曖昧さもない。そして問題になるのは、LLMs が文章を生成するときに、或るトークン（英語の場合は単語や音節という理解でおおむね正しい）の次に予想できるトークンを距離関数などで決定しているという仕組みについて、「それゆえこれは知性ではない」と簡単に言ってしまえるかどうかということだ。なぜなら第一に、生成 AI の文章作成が実際に候補の統計的な予測による連鎖であることは確かだが、だからといってこのようなプロセスがヒトの知性による「会話」とか「叙述」と根本的に異なるかどうかは自明ではないからだ（現代の認知科学や脳神経科学の知見において、ヒトの発話や思考がこういうものでは「ない」と断言できる根拠はない）。そして第二に、仮に LLMs の生成プロセスがヒトの認知プロセスとは電気化学的な推移としても形式的な構造としても違っている（つまり「ヒトの知性」とは違う）からといって、これが「知性」ではないと言えるかどうかという問題もある。生成 AI が「別のタイプの知性」であると言っていけないのはどうしてなのか。とりわけ僕のように、人工知能の研究や実装はヒトなんていう脆弱で幼稚な生物種を目標にしたりモデルにする必要はないのであって、そもそもシンギュラリティなどと言って騒ぐほどの特別な里程標なんてないというタイプの科学哲学者にとっては、自分たちの考えたり実装しているものが「知能」であるかどうかなど些末なことであり、理論や技術を可能な限り進展させればいいだけのことだとしか思えない。よって、そろそろ人工知能という分野は自らを再定義してもいいのである。だいたい、LLMs が理論を考案し始めたら、「人工」という言葉ですら、この研究分野の実態を正確に表現しないことになるのだから。

本来、哲学で言う "multiple realizability" というテーマは、こういうことを最初に精密に議論する必要があるのだけれど、通俗本の目次や科研費の申請書に「AI」と書いて済ませているような俗物どもには、ちょっと程度が高い本物の哲学の議論のようである。