機械に意識をアップロードした後に起こる問題をいくつか挙げる

コンピュータウイルスの危険

機械に意識をアップロードした状態でコンピュータウイルスに感染すると、私そのものが第三者に抜き取られてしまう。朝起きたら、真っ白の見知らぬ空間にいて、そこに「あなたの記憶空間にロックをかけたので、解除してほしければ多額の現金を用意しろ」と脅されてしまう。コンピュータウイルスであれば最悪コンピュータを廃棄すればよいが、ニューロランサムウェアの場合人質に取られるのは私自身の「記憶」や「人間性」など、決して手放すことのできないものばかりだ。機械に意識をアップロードした場合は、セキュリティ対策をこれまで以上に行う必要がある。健康に気を遣う必要がなくなった代わりに、怪しげなexeファイルを自分の思考回路で起動する行為や、不審なデータストリームとの同化は厳に慎まなければならない。

ハードの物理損傷の危険性

半導体ベースのデバイスは神経細胞より堅牢とはいえ不滅ではない。24時間稼働している物理サーバーなのだから、管理を怠ると発火の危険さえ孕んでいる。重要部位が損傷を受ければ恒久的に記憶が損なわれる可能性すらある。機材に埃が入らないよう定期的に掃除しなければならない。しかし掃除するために電源を落とすと自分の電源も落ちて自分が停止してしまうため、掃除を自動化するか、外部の手を借りるなど工夫する必要がある。そもそも自宅宅に保管するのはリスクが高すぎるため、現代であればスバールバル諸島の地下に巨大な人間意識センターを設置して管理しておくのがよいだろう。ゆくゆくは宇宙の安全な軌道上での運用を模索したい。

機械となったまま老衰する

現代の私たちは、老化を細胞死とこれを原因とした諸器官の機能不全であると考える。意識をアップロードすると、細胞死を逃れることはできるが、それによって真に不老不死になれるかというと、やや不安が残る。脳は概日リズムを認識して睡眠などを生じさせているので、時間の情報を管理するクロックのような機構が組まれていることは確かである。ということは、概日リズムよりもマクロな単位での年齢などの情報を蓄積する回路が仮定され、特定のライフステージに達することで回路が破壊されるようなコーディングがなされていると、そこで機能不全が起きてしまう。例えば、200歳になったら主要な回路が破壊されるようにプログラムされているとまずいのである。よって、脳内の潜在的脆弱性を特定して対策する仕組みが待たれる。

人間の形態を失う恐れ

意識移植の直後は、恐らく人間の肉体を模倣したアバターを採用し、人間と同様の五感に基づくインターフェースをベースにやり取りするはずだが、次第に人間拡張プラグインを積んでいくうちに、徐々にヒト型を保てなくなっていく可能性がある。情報蓄積に特化するあまり巨大な図書館のようになってしまったり、不要な要素を排除しすぎて無形のデータフローになってしまうことが考えられる。ここまで人間の形から離れると、結婚式や葬儀など、人間の姿が求められる社会的な行事に参加する際に問題が生じる。

新たな意識の生成や意識のコピーを防ぐ必要がある

技術的には意識の複製や増殖は容易かもしれないが、各意識のそれぞれに人権が発生するため、簡単に削除することは倫理的に許されない。意識研究を口実に無数の意識が密造され、非人道的な実験が行われる可能性がある。これを防ぐために、意識を新規に製造する方法は厳重に秘匿されるべきで、2つの意識がつがいになったときなどの意識の増殖が必要な場合は、法的な手続きを踏んだうえで、国が管理する意識生成プログラムによってのみ行うべきである。意識の複製が容易に行われ、インターネット上に身元不明の意識が無秩序に流布する状況は避けなければならない。システム側で意識の複製を厳格に管理し、各意識がユニークな存在として保持されることが重要である。

まとめ

意識を機械にアップロードした場合に生じる様々な問題点について考察した。このような技術には多大な可能性が秘められているが、それに伴うリスクもまた高い。倫理的、技術的、社会的な課題に対して、深い洞察と厳密な対策が必要とされる時代に我々は足を踏み入れようとしている。