最近、関連する本や論文を読んでいるときに、機械が意識を持つ可能性を支持する意見を見つけることができました。もちろん、それに反対する声も多いです。以下に、最近見た肯定的な意見を整理しました：
『千の脳』という本の中には、「機械が意識を持つとき」というテーマについて議論する章があります。この本は、脳科学の視点から機械が意識を持つ可能性について探っています。
が意識の核心部分であり、それは最近の思考や経験に基づいて継続的に形成される記憶に依存しており、日常生活の中でその記憶を再生しています。
の属性です。もし二人が同じ入力に対して異なる受容性を持つ場合、彼らの脳の中の世界モデルは異なっています。
、そのモデルの状態を継続的に記憶し、覚えた状態を想起する能力があり、これらのシステムは意識を持つ可能性がある。したがって、機械も意識を持つかもしれない。
情報を一つの統一された体験として統合できる場合、意識を持つことになります。あるAIシステムが特定の情報統合の閾値に達した場合、この理論に基づいてそれは意識があると見なされる可能性があります。
先月発表された論文もこのトピックについて議論しており、タイトルは「人工知能における意識：意識科学からの洞察」（Consciousness in Artificial Intelligence: Insights from the Science of Consciousness）です。論文リンク：https://arxiv.org/pdf/2308.08708.pdf。
これらの意識の指標を満たすAIシステムを構築するための明らかな技術的障害は存在しない。
記事の主要な論理は次のとおりです：
計算機能主義を採用し、つまり特定の計算を実行することが意識にとって必要かつ十分であるという仮説を働く仮定とする。これは心の哲学の中で主流の立場ではあるが、議論の的となっている。実用主義に基づきこの仮定を採用する理由は、他の見解とは異なり、これにはAIが原則として意識を持つ可能性があるという含意があり、AIシステムの動作を研究することでそれが意識を持つ可能性があるかどうかを判断するのに関連があるからだ。これは、もし計算機能主義が真であれば、それをAIの意識への示唆について考慮することは有益であることを意味している。 神経科学が意識の理論に対して重要な経験的証拠を提供し、それがAIの意識を評価するのに役立つと考えられています。これらの理論は、人間の意識に必要かつ十分な機能を特定することを目指しており、計算機能主義は同様の機能がAIにも意識を生み出すのに十分であることを示唆しています。 理論主導のアプローチがAIの意識研究に最も適しているとされています。これは、AIシステムが科学的理論で意識に関連すると考えられる機能を実行しているかどうかを調査し、その後、機能の類似性、関連理論の証拠の強さ、および計算機能主義への信頼に基づいて確信度を与えるものです。この方法の主要な代替案は、行動テストを使用して意識を検出することですが、この方法は信頼性が低いです。なぜなら、AIシステムは異なる方法で人間の行動を模倣できるからです。
この論文は非常に長く、学術的な内容が多く、私も完全には理解できていません。ただ大まかに目を通しただけです。興味がある方はぜひ原文をダウンロードしてご自身で詳しく読んでみてください。
しかし、『千脳智能』の中で面白い視点が提示されており、もし機械に意識があれば、それをシャットダウンすることはその存在の生命を終わらせるに等しいので、もう電源を切ることはできないのではないかと思います。
本書の見解によれば、問題ありません。電源を切ることは単なる一睡に過ぎず、再び電源を入れれば目覚めて動作を続けられます。仮に永久的に電源を切ることが死に等しいとしても、それは問題ありません。なぜなら、意識は新皮質（新しい脳）に存在し、死への恐怖は脳幹（古い脳）に存在するため、機械にはそのような感情はありません。感情がないため、たとえ死であっても彼女には害になりません。