Scribble at 2024-01-30 18:25:55 Last modified: unmodified
The prospect of consciousness in artificial systems is closely tied to the viability of functionalism about consciousness. Even if consciousness arises from the abstract functional relationships between the parts of a system, it does not follow that any digital system that implements the right functional organization would be conscious. Functionalism requires constraints on what it takes to properly implement an organization. Existing proposals for constraints on implementation relate to the integrity of the parts and states of the realizers of roles in a functional organization. This paper presents and motivates three novel integrity constraints on proper implementation not satisfied by current neural network models. It is proposed that for a system to be conscious, there must be a straightforward relationship between the material entities that compose the system and the realizers of functional roles, that the realizers of the functional roles must play their roles due to internal causal powers, and that they must continue to exist over time.
確か、オープン・アクセスの論文だけを掲載する RSS を subscribe していたはずなのに、有償の論文も交じるようになっている。わざとなのか、それとも RSS の生成に問題があるのかは知らない。ともかく、１本で単行本の価格を超える5,000円なんて論文は、コストの算出にどういう事情があろうと、とても読む気になれない。
ということで概略しか読んでないのだけど、意識を別の組成で成立させよう（シリコンでもいいし、それこそコウモリの脳みそに「再現」する可能性も考えて良い）という議論において、どうも昔から変な思い込みがあるように思える。つまり、端的に言えば僕を別の生き物やロボットに乗り換えるという発想だ。これは、もちろんデネットらがホムンクルスと呼んでいるものだろうし、僕に言わせれば「兜甲児モデル」と呼んでもいい。マジンガーZ から新型のマジンガーZ に「乗り換える」みたいな発想で意識を移すことが求められている。なぜか。たぶん、こういう議論の根っこにはやはり「死にたくない、自意識をどうにか他の安定した構成の何かに移して、不老不死を得たい」みたいな動機があるからじゃないのかな。だから、自分に都合の良い脈絡でしか機能主義や multiple realizability の議論や理屈を定式化する錯覚に気づかないという自己欺瞞に陥るのだ。
そもそも、仮に他の何かに意識を移すのであれ、あるいは移さなくても似たような意識を作るのであれ、それがどういう意味で「完全」でなければいけないのか。意識の「完全」な再現とか、意識の「完全」な働きってなんだろう。というか、なんで「完全」でなくてはいけないのか。80% だけ俺というのだって、ちゃんと何かに移せたら、こういう人たちが渇望している不老不死はそこそこ達成できるのではないかね。ていうか、こうは言ってても、その 80% ってなんなんだよっていう気もするが。