人類が滅亡しても安倍晋三という概念だけは残りそうな気がする、安倍晋三は始まりであり終わりでもある…

フィクションではない！｢AIによる人類滅亡｣
最も避けたいテクノロジーの悲惨な末路とは

2つのテクノロジーを正しく扱えなかった場合
人工的な知能と、生命を操るテクノロジー。いま人類は、知能と生命という、自らを形成する最も重要な2つに関する技術を手にし、熱心に育てている。

人工知能は突発的な出来事にも臨機応変に対応できる能力、さらには人間を超える知能を視野に、研究開発が進む。

もう一つの技術「ゲノムテクノロジー」は、膨大な遺伝子情報「ゲノム」を解析し、意図どおりに書き換える、いわば遺伝子を操る技術である。病気の治療から食糧危機まで、地球上の多くの課題の解決策になるため、AI同様に熱視線が注がれている。人間の能力を拡張したり、遺伝子操作された人間を生み出したりする手段にもなり得るこの技術により、2018年には世界初のゲノム編集ベビーが誕生し、論議を呼んだ。

この2つの技術は、われわれの根源である知能と生命に直接的に大きな影響を与えるためいっそう輝かしく、その一方で、従来の技術とは異質の脅威、闇を作り出す〝潜在力〞も持つ。

なぜ、この2つの技術には闇を作り出すリスクがあると主張するのか。画期的なテクノロジーほど暗転したときのリスクが大きくなるのは、〝核〞をはじめとした歴史が示したとおりである。そして、進化とともに多大な影響力を持つことになる2つのテクノロジーが、もうすぐターニングポイントを迎えることになる。

ゲノム編集の分野では、技術的には肉体的に操作され、個性や外観を変えられたデザイナーベビーがすでに現実味を帯び、ゲノム情報の解析が超高速化し、コストも限りなくゼロに近づくことで、生命の操作が容易になる。AIの分野では、人間の知能を人工知能が凌駕する場面が目立ち、シンギュラリティは体感となり始める。2030年代から2040年代にかけて、「生命」と「知能」に関する技術がこのような転換点を迎える可能性は濃厚になりつつある。

これは人類にとって、明暗を分ける岐路である。転換点にかけての人類の行動が、強力なテクノロジーを最良な手段とするか、最悪な方向に暗転させる地雷とするかを決めると言ってもいい。そして、「悪意」が制度の甘さに付け込むことや、利益を追求する「悪意なき悪意」によって2つの強大な科学技術を制御できなくなれば、将来的には「人類滅亡」という悲惨な末路につながる可能性がある。

未来に運命を委ねるのではなく、より良い未来を作る
「欲望」とともに子の遺伝子改変に歯止めが利かなくなれば、世代を追うごとに人間の有り様は、現在の状態から逸脱していく。人工知能が「知能」の領域で人間を圧倒するようになれば、自らの能力開発の手を緩め、やがて政治経済をはじめとしたガバナンスを明け渡し、人類による統治は幕を下ろすことになる。

本書（『人類滅亡2つのシナリオ』）では、2つの先端科学技術がいかなるプロセスをたどって「最悪な未来＝人類滅亡」の原因になってしまうのか、そのシナリオを示している。人類が判断を誤れば、この数十年で〝最悪な未来〞への道を歩み始め、来世紀を迎える頃には、様相が修復不可能なほど悪化していることも想定しておかなければならない。そうなれば、「滅亡」は数世紀以内に起こる可能性が高まる。

ゲノム編集技術で、人間の能力を拡張したり、理想的な人間を生み出したりすることに優位性を求め、もしくは何かしらの理由でそうせざるを得なくなり、歯止めが利かなくなったとき。あるいは人間が、知能に基づく多くの活動を人工知能に委ね、自然の流れで自らが進化する力を弱体化させたとき。そんなときに、「人類滅亡」という最悪のシナリオは現実のものとなりかねない。「人類滅亡などSFにすぎない」と思われるかもしれない。だが実際、地球の歴史が始まって以降、何度も生物の大量絶滅は繰り返され、種の絶滅は頻繁に起きてきた。

まだ多くの議論の余地は残されているが、本書では、あえて「現生人類としてのホモ・サピエンスが甚だしく遺伝子改変された状態」を種の延長線上に置かず、「現生人類の終焉」を人類滅亡と解釈することをシナリオの前提とした。それくらいシビアに受け止めるべき分岐点に人類が立たされていると認識し、戒めとするためだ。

AIは「人工」であり、ゲノムテクノロジーは「操作」である。結局は、いずれも人間が主語だ。未来に人類の運命を委ねるのではなく、人類がより良い未来を作らなければならない。

https://toyokeizai.net/articles/-/703435?page=2