Scribble at 2026-02-22 12:23:47 Last modified: unmodified

この論説は主旨がクリアでシンプルだから、もうプロパーなら数十秒も読めばおおよそ概略を掴むだろうし、いちいち Gemini の概要は掲載しない。代わりに、少し思うところを書いておきたい。

このところ、というか以前もご紹介したユドコウスキーとピグリウーチの対談でも出た話だけれど、AI が「拡張（extension）」であるという議論があって、もちろんこれは AI を「代替（replacement）」だと考える人々に対する反論だ。とりわけ、システム開発やソフトウェア・エンジニアリングでは生成 AI による工程の変化が起きているため、生成 AI を開発工程でどのように扱うか、扱うべきかという脈絡で、この対立は数年にわたって続いているところだ。言っておくが、血税で炎上システムしか作れない富士通やアクセンチュアが「自動開発」なんて言っていようと、ああした手合のプロモーションなどわれわれ科学哲学者にとっては牛のチン毛みたいなものだ。

ひとまず現行の生成 AI を道具として考え、そして代替というのが時期尚早であると言える限りにおいて、では生成 AI が拡張であると言うときに、それは「何の拡張」なのであろうか。一つは、「われわれ自身の拡張」であるとする立場があるだろう。HCI のテクノロジーを使って、いまや視力がない人々にも一定の視覚に準じる刺激をもたらすようなデバイスを制御する AI が開発されている。かたや、もう一つの解釈として「道具の拡張」であると考えることもできる。Gemini の deep research などエージェントは検索エンジンの拡張でありうるし、画像生成 AI はタブレットか Photoshop の拡張だと見做せる。実際、一部の漫画家やイラストレーターや芸術家は、既にそのように考えて画像生成 AI を使っている。

おそらく、シンギュラリティはこういう道具による人の介入や作業というチャンスが失われる限界のことを言っているのでもあろうが（おお、馬鹿にしている割にまともな扱い方をしている！）、responsible AI あるいは explainable AI でない限り、それらの成果が「われわれにとって」有益であるかどうかをわれわれは理解できないし評価できないのだから、そんな道具に科学の研究と研究成果の評価を委ねることはできない。少なくとも、論文の前半では、ポール・ハンフリーズの議論を参照しながら、このような議論が展開される。

しかし、著者はこのような理解だけではなく、いわば操作主義的な理解もあろうと主張する。成果を評価する能力や価値観などによって道具の是非を決めたり道具の何であるか、道具の役割を理解するだけではなく、それら道具の対象をうまく扱えるかどうかというスキルないしは制御可能性という観点で理解することもできるだろうというわけである。

しかし、これはブラックボックスであっても良いという話でもあり、現今の生成 AI の利用を後押しする議論とはなろうが、かなり危うい議論でもあると思う。そもそも、何の評価基準もなしに道具をうまく扱えるということだけが独立した価値になるなんていうのは、派手なポーズだけで不味いカクテルしか作れないバーテンダーのようなものであって、本当にそんなことを独立に評価できるのかという気がする。