【人類滅亡2つのシナリオ】
これも本当に最高の一冊です。
紀元前15世紀から人間の本質を紐解き、戦争紛争は無くなっていないこと、科学技術の進歩が死亡率を上げてきたこと、今後の技術進歩でなし得る人類の進歩と破壊。これらは同時に起こることが人類史から自明のため、AI支配による人類統治の終焉、ゲノム編集技術による人類亜種の枝分かれは確実に起こると個人的に感じました。つまり、遅いか早いかだけで、エントロピー増大の法則に従って、人類の亜種の他惑星間移住先へ散り、そこでの適者生存によってAIの使い方、AI(と言うよりポストヒューマン)による使われ方が変わってくる未来が来ることは確実だと感じます。
●ゲノムテクノロジーは膨大な遺伝子情報ゲノムを解析し意図通りに書き換える、いわば遺伝子を操る技術である。病気治療から食糧危機まで多くの課題解決策になるためAI同様に熱視線が注がれている。
●2018年にゲノム編集ベビーが誕生し論議を呼んだが、デザイナーベビーがすでに現実味を帯びコストも限りなくゼロに近づく事で生命の操作が容易になる。
●2030-40年代にかけて生命と知能に関する技術が転換点を迎える可能性は濃厚である。
●人工知能が知能の領域で人間を圧倒するようになれば自らの能力開発の手を緩め、政治経済をはじめとするガバナンスを明け渡し、人類の統治は幕を下ろす事になる。人類が判断を誤れば数世紀内に滅亡は起こりうる。
●地球上に於いてさえ、生物の大量絶滅は繰り返され、種の絶滅は頻繁に起きてきた。
●ポストヒューマンを人間とみなすかどうかの議論も分かれるが、それこそがAI」ゲノムテクノロジーが人類の概念にまで影響を与え始めた証でもある。
●生成AIの衝撃の始まりに過ぎない。2030年までにプロジェクトマネジメント業務の80%がAIに変わる。創作部分ですら人間とAIが競合する。今は「AIが主ではなく従」だが、高度な知能を獲得したAIの人間の常識を滑るようにすり抜けて「従から主へ」と移行していく。
●人工知能が将来的に制御不能になる可能性が高いことについては多くの科学者が予測している。「裏切りターン」。それは人工知能が自己改善や学習を続けるようになり、突然人間の制御を離れてて機体的な行動をとるリスクのこと。
●Microsoftが2016年に提供開始したAIチャットbot「テイ」は学習能力が高く注目を集めたが陰謀論やヘイトスピーチを繰り返し提供から16時間でサービス停止に追い込まれた。一部のユーザーの悪意により毒をもられると高度なAIほど複雑で解毒が困難になる。
●裏切りターンは人間にとって分かりやすいものとは限らない。民意の把握、社会情勢分析などをサポートしていたAIが優秀な政治のリーダー役を務めるところまで成長していたら法律、規制、経済、社会インフラ、教育、医療などがAIの提言により取り返しのつかない程の大きさになっているタイミングで裏切りターンをしたとすると、全てが人間への攻撃の武器となる。
●地球に人間は要らないという合理性を以て判断されれば、AIの統治する社会の外へと追いやられ人類は衰退へ向かう。
●人類統治時代の終焉。ホモサピエンスは信じられないほど速いスピードで進化し、知能を発達させて来たが、人工知能はそれを遥かに上回るスピードで進化し、プロセスも複雑化し人間には理解困難となる。そして知能の世界を支配する。知能での勝負を諦めた上、感情までハッキングされる機会が増えて行く。
●ゲノム情報の解析は現在膨大なコストを要するが、2030年代には限りなくゼロに近づくと米国のシンクタンクは試算している。
●DANに含まれる塩基配列情報では4種類の塩基(A,T,G,C)の並び方を調べて行く。解読する技術を加速させているのがAI。
●DIYバイオ。ゲノム編集はもはや専門家ではない個人が遺伝子を改変出来る技術となり、気軽にバイオ実験ができる環境が整っている。ネット通販で遺伝子実験キットを購入して自宅で遺伝子組み換えの人工肉を作るなどバイオテクノロジーはDIY化した。
●ヒトとサルのキメラを作る実験が人工胚ベースで行われている。中国でもヒトとヒト以外のキメラを作るパンドラの箱を開けた理由として、将来的に他の生物の体の中で人間の臓器を作り移植用臓器を補うという目的を挙げており、相当の強制力を以て禁止がされない。よって作り続けられる。
●優生思想は、黒人白人問題、ナチスのユダヤ人迫害、戦後日本の優生断種など人類史において長らく数えきれないほど大きな社会影響を与えて来た。ゲノム優生思想でも繰り返される可能性が高いと考えるべき。
●ゲノム編集を競うことで現生人類統治とはかけ離れた性質を持つポストヒューマンへの書き換えが進み、優位を目指して競い合う事で人類の終焉へと向かって行く。
●世界中でデザイナーベビーが100%生み出されない世界は出来るのか？→難しい。禁止されても規制が緩い国や地域が出来る。我が子こそは優位をもつデザイナーベビーにしたいという親心に蓋は出来ない。
●生物兵器によるバイオテロや人工ウイルスの蔓延。ゲノム編集技術により開発された致死性のある生物兵器がテロに使われたり、脅威的なゲノム編集人工ウイルスがばら撒かれた時のダメージは計り知れない。
●人間が未来に渡ってゲノム編集技術を正しく扱える絶対的根拠はあるだろうか。現世代の数十年数百年で濫用せずに済んだとしても次世代に技術が上がり、人間能力拡張やデザイナーベビーを生み出す欲や必要性が増したとしたら抑制できなくなる。
●一度デザイナーベビーが許されると小さな一歩は少しの束になり、それが大きな束になる。人間の優劣が際立つ世界を形成し、差別意識ぐ継承されることで世代を超えて社会分断が進む。
●全人類がゲノムテクノロジーを倫理的に望ましく理想的に扱うことを期待したいが、その期待を保証する科学的根拠は現時点では見当たらない。
●科学には光と影の二面性があり、民生用と軍事用がその典型となる。生きるための医学や化学の研究が、生物兵器や化学兵器への悪用で殺すための研究開発となってしまった事例は数え切れない。
●窒素と水素からアンモニアを化学合成するハーバーボッシュ法という画期的な手法は爆薬や毒ガスに利用された一方、肥料としての窒素源の供給に多大なる貢献をし、世界の食糧の安定供給を支え、飛躍的な人口増加に繋がった。
●核なき世界を掲げ、核を増やし続ける人間の不条理。原子力によって爆弾の脅威と共に発電の恩恵にも預かっている。
●紀元前15世紀から人間の本性が駆り立てる戦争や紛争は無くなっていない。その中で死亡率を上げるのはその時代の革新的な技術である。
●人工衛星も弾道ミサイルは技術を同じくし、監査はカメラで走行中の車両ナンバーを読み取り照合できるNシステムは犯罪防止を目的としながら有力な監視、解析装置として軍事利用される。
●性善説でも性悪説でも人間は悪と無縁ではない。だからこそ悪に流されないための制度や仕組みが必要なことは、テクノロジーの分野においてもいえる。人工知能やゲノム編集の技術は著しい速さで進歩するが制度設計が追いつかない。人間の性を踏まえた世界の制度設計である。
●社会や環境、立場によって善意は異なる。デザイナーベビーにより生命誕生させることが善であると言う価値観があったとしたら、禁止することは悪になる。ナチス政権下で、ユダヤ人を匿ったり擁護することは悪であったように。
●バイアスが生む「悪意なき悪意」。
●終焉を回避するためには。法律による回避策。国によって違うため、国際的に緊密な連携をとって人類レベルであり方を模索しなければならない。倫理の役割。これも人や国によって違い唯一絶対的なものがない。
●自主的な管理、規制を促すためのアプローチ。価値観に大きな差異があるもの同士利己が優先される場面でこそ歩み寄りにより好ましい選択が出来るか否かが未来を左右する。
#人類滅亡2つのシナリオ
#人類滅亡の未来
#AIと遺伝子操作が悪用された未来
#小川和也
#朝日新書
#ゲノム編集
#キメラ
#ポストヒューマン
#読書
#オーディオブック
#オーディオブックランニング
#読書記録2023
#読書好き
#本棚備忘録
#bookstagram
#bookstagrammer
#本棚
#読書好きな人と繋がりたい
