Comments
This is a Japanese translation of “This Can't Go On”[1]
By Holden Karnofsky 2021年8月3日
この記事では、私たちは非凡な時代だけでなく、非凡な世紀に生きているという論を展開していきます。このシリーズのこれまでの記事では、100年先に起きるか10万年先に起きるかわからないものの、ゆくゆくは到来する可能性がある、奇妙な未来について話しました。
この記事の概要：
- 私たちは、世界経済が年率数パーセントのペースで成長していくことが当たり前だと思っています。それが何世代にもわたって続いてきたからです。
- しかし、これは非常に異常な状況なのです。歴史をより全体的に概観してみると、成長率が加速してきたこと、歴史的な最高値に近くなっていること、そして、そのペースは今後あまり長く維持できないことがわかります（銀河には、この成長率をさらに1万年間維持できるだけの原子が存在しません）。
- 世界はいつまでもこのペースで成長し続けることはできないのです。私たちは停滞（成長の鈍化または成長の終了）、劇的な成長（成長がさらに加速化し、限界に達する）、崩壊（何らかの災害によって経済が破綻する）といった他の可能性に備える必要があります。
私たちが生きている時代は、異常で不安定です。経済や科学が劇的に進歩し、技術的成熟に達するといった奇抜な出来事があっても不思議ではありません。むしろ、そのような劇的進步は、おそらく現在の路線上にあると言えるでしょう。
私たちの記憶にある限り、世界経済は平均で年に数パーセントのペースで成長してきました1。年によって成長率が高くなったり低くなることがありますが、2 これをこれまで通りの現状維持的世界と呼ぶことにします。
この「現状維持的」思考では、世界は絶えず変化しており、その変化に気づくことはできますが、その性質は圧倒的であったり、そのペースについていけないというのものではありません。新たな機会やチャレンジが絶え間なくありますが、これまで通りのやり方をほぼ維持しつつも、それらの機会に適応するのに数年余分の時間をかけたい場合、通常は（個人的には）それでも問題はないでしょう。日常生活について考えれば、2019年は、2018年とほぼ同様で、2010年とは明らかとはいえ大幅に異なることはありませんでした。1980年とは著しく異なるものの、その違いは想像を絶するほどのものではありませんでした。4
これがほぼ正論であるかのように聞こえ、それに慣れていて、将来もこのような展開になると想像しているなら、あなたは現状維持派に属するといえます。過去と未来について考えるとき、あなたはおそらく次のように考えるでしょう。
私は、より激動の過去とより不確実な未来という、異なる意識のもとで生きています。これを「既定路線破綻」論と呼ぶことにします。こちらは私が作成したグラフです：
どのグラフが正しいでしょうか。これらはまったく同じ履歴データを使用しています。違いは、現状維持派のグラフが1950年以降のデータを示しているのに対し、既定路線破綻論者のグラフは紀元前5000年まで遡っているという点です。歴史を包括的に網羅しているのは「既定路線破綻論」なのです。「現状維持派」はそのごく一部を表しているに過ぎません。
私たちは皆、年率数パーセントの成長が常識だと思っています。しかし、総合的な歴史的背景を考えると、年間数パーセントという成長率は異常です。（これは青い線がほぼ垂直の角度になっている部分で表されています。）
この成長は私たち個人の記憶よりも長い期間持続してきたとはいえ、人類の数千年の有史においては、200年という期間はあまり長い期間とはいえません。これは著しい加速であり、これ以上あまり長続きするとは言えないでしょう。（「既定路線はもうすぐ破綻する」論については、後に詳述します。）
最初のグラフは、規則性と予測可能性を示しています。2つ目のグラフは、変動性と、劇的に異なる2つの将来の可能性を示しています。
1つの可能な未来は「停滞」です。これは、経済的「最大規模」に達し、成長は基本的に停止するというものです。今ある資源をどのように分配するかが大きな課題となり、パイのサイズを拡大させたりダイナミックな経済を成長させる時代は永遠に終わるでしょう。
もう一つは劇的成長です。成長はさらに加速化し、世界経済が毎年、毎週、または毎時間倍増するほどのレベルに達します。デュプリケーター（自己複製技術）のようなテクノロジー（デジタルヒューマンや、後の記事で扱う予定の高度なAIなど）が、このような成長を後押しする可能性があります。これが起きた場合、何もかもが、人間が処理できるよりもはるかに速いスピードで変化することになります。
もう一つのシナリオは崩壊です。世界的な大災害により文明が機能しなくなったり、人類が絶滅したり、今日の成長レベルに二度と達することがなくなるような事態を指します。
他にも可能なシナリオがあるかもしれません。
現状維持が不可能な理由
Overcoming Biasのこの分析が優れた出発点となりますが、これについては私が作成した独自のバージョンをここに提供します。
- 世界経済が現在、年率2%で成長しているとしましょう。5 これは、世界経済が約35年ごとに2倍の規模になることを意味します。6
- このペースが維持された場合、今から8200年後の世界経済は、現在の3×1070 倍の規模になっているでしょう。
- 私たちの銀河系に存在する原子の数は1070 個未満であるとされています。7 8200年をかけても、私たちはこの銀河系の外に出ることはできません。8
- つまり、経済規模が現在の3×1070 倍で、銀河に1070 個以下の原子しか存在しない場合、私たちは、原子1個あたりの規模を今日の全世界の経済と同じ規模として、複数の経済を維持しなければならないことになります。
8200年というと非常に長く感じられるかもしれませんが、それは人類が誕生してからの時間に比べればはるかに短い時間です。実際、これは、人類の（農耕型）文明が誕生して以来の時間よりも短い期間です。
原子1個あたりで現在の文明の規模に相当する経済を何倍分もサポートできる技術の発展を想像することは可能でしょうか。それは確かに可能ですが、それを実現するためには私たちの生活や社会を、これまでの人類の歴史をはるかに超える規模で根本的に変革する必要があります。今後数千年にわたって物事がこのような方向に展開していくとは思えません。
それよりも、科学的な新発見や技術革新、資源が「枯渇」し、「年率数パーセントでより豊かになる」体制が破綻する可能性の方がずっと高いでしょう。なんといっても、この体制が確立されてから200年程度しか経っていないのです。
（この記事は、経済ではなくエネルギーに着目して同様の分析を行っています。これによれば、限界に達する時期はより早いと予想されています。ここではエネルギー消費量の年間成長率を（1600年代以降の米国における歴史的な増加率より低い）2.3%と想定し、それは、この銀河系のすべての星が過去2500年間に生成したエネルギーに匹敵すると推定しています。9）
劇的成長と崩壊
さて、考えられる将来のシナリオの1つは停滞です。これは、成長率が徐々に低下し、最終的には無成長型経済になるというものです。しかし、私はそれが最も可能性の高い未来だとは思いません。
上のグラフは、成長が鈍化せず、劇的に加速する状況を示しています。単純に、今後同じような加速度が予測されると仮定したら、どのような結果が予想されるでしょうか。
人間の軌跡のモデル化（Open PhilanthropyのDavid Roodman著）は、過去の経済成長のパターンに「曲線をあてはめる」ことにより、まさにこの質問への回答を試みています。10 これを外挿すると、今世紀は無限の成長が予想されることになります。無限の成長は数学的な抽象論ですが、それは「限界に達する前に最速の成長を遂げる」ことを意味するものと解釈できます。
ザ・デュプリケーターで、私はこの可能性に関するより広範な議論をまとめています。要するに、人間の頭脳を「コピー」する技術や、デジタルヒューマンや十分に高度なAIといった同じように効果的な目的を果たすことができる何かがあれば、劇的な成長は可能です。
劇的な成長では年間成長率が100%に達する（世界経済が毎年2倍になる）可能性があり、それが約250年継続すれば、上述したような限界に達します。11 あるいは、世界経済が毎月2倍またはそれ以上の規模に拡大するような、さらに速い成長が得られる可能性があります（その場合、その成長が20年も持続すれば上述の限界に達することになります12）。
それは、人間にとって有意義に追跡可能なレベルを超えたパフォーマンスを誇るAIが推進する、目をくらませるほどの急成長になると思われますが、瞬く間に可能性の限界に到達し、その後は成長が鈍化するでしょう。
停滞と劇的な成長に加えた、第三の可能性が崩壊です。世界規模の大災害が起きたら、文明は今日の成長レベルを取り戻すことが不可能な状態に陥ることでしょう。人類の滅亡は、そのような崩壊の極端なバージョンといえます。この未来はグラフが示すものではありませんが、それが可能であることは明らかです。
トビー・オードが著書の『The Precipice』で論じるように、小惑星やその他の自然リスクがこれをもたらす可能性は低いように思われますが、気候変動、核戦争（特に核の冬）、パンデミック（特に生物学の進步が厄介な生物兵器につながる場合）、高度なAIによるリスクといった、深刻で、かつ定量化が非常に困難とされるリスクがいくつかあります。
これら3つの可能性（停滞、劇的な成長、崩壊）は、次のようにまとめることができます。
- 私たちは、これまでの人類の歴史において最も急速に成長した世紀（20世紀と21世紀の2世紀）に生きている。
- これは、少なくとも有史で成長率が最も急速な世紀約80のうちの一つとなる可能性が高い。13
- 適切な技術が登場し、劇的な成長の原動力となった場合、それは有史上最高の成長率の世紀になる可能性がある。
- 事態が非常に悪いものとなった場合、これは人類最後の世紀になる可能性がある。
したがって、今世紀はかなり非凡な世紀になりそうですが、最も非凡な世紀になる可能性もありそうです。これはすべて、（今後の記事で扱う予定の）AIに関する詳細な推論に基づくものではなく、かなり基礎的な観察に基づいた見解です。
科学技術的進歩
科学技術がどれほど速いペースで進歩しているかを示す簡単なグラフを作るのは、経済成長のグラフを作成するのと同様に、容易ではありません。しかし、もしそれが可能だとしたら、経済成長率を示すグラフとほぼ同様のグラフになるでしょう。
私がお薦めする楽しい本に、『アイザック・アシモフの科学と発見の年表』があります。この本は、人類史上最も重要な発明や発見を、年代を追って紹介するものです。冒頭では「石器」、「火」、「宗教」、「芸術」といった項目が、末尾の方では「ハレー彗星」、「高温超伝導」などが紹介されています。
この本の興味深い点は、最初のエントリーが紀元前400万年から始まるにもかかわらず、654ページ中553ページは1500年以降のものを扱っているという点です。この種の他の本でも同じようなパターンが認められるでしょう。14 実際、過去500年間になされた科学技術の進步は、それ以前の何百万年になされた進步よりも多いと思います。15
以前の記事で、私は、歴史上最も重要な出来事は、この時系列が示すように、私たちが生きている時代に集中しているように思われると論じました。ここで注目したのは何十億年という単位の時間枠です。しかし、何千年という単位にズームインしても、最大の科学技術的進歩が現在に非常に近い時代に集中しているという点は同じです。これを説明するため、交通とエネルギーに焦点を当てたタイムラインをここに示します（どのカテゴリーを選んでも、結果は類似したものになったでしょう）。
経済成長と同様に、全体的な歴史における科学技術的進歩のペースは非常に速いものです。経済成長と同じように、テクノロジーの高度化もいつか限界に達すると考えられます。また、経済成長と同様に、ここからの科学技術の進步は以下のように展開する可能性があります。
- 停滞。もうそうなっていると懸念している人もいる。
- 劇的成長。何らかのテクノロジーが開発され、「頭脳」（人、またはデジタルヒューマンまたは高度なAI）の数を大幅に増加させ、科学技術的進歩を推進した場合。16
- 崩壊、何らかの世界的大災害によるもの。
看過されている可能性
私は、当面の将来は基本的に安定した定常的な成長率を維持すると仮定した上で世界をより良くする方法について考える、現状維持の考え方を持つ人が、世の中にある程度いるべきだと思います。
一方で、停滞、劇的成長または崩壊による影響と、私たちの行動が結果の方向性を変えられるかどうかについて考える既定路線破綻論者もいるべきです。
しかし現在では、ほぼすべてのニュースや分析は現状維持派に属しているため、バランスが大きく崩れているように思われます。
このような私の考えを説明すると、世界は滑走路を爆走する飛行機に搭乗している人々のように感じられると喩えることができます。
つまり、私たちは通常よりはるかに速い速度で進んでおり、目前の滑走路の距離は残り少なくなっており、飛行機は加速しています。
世界で起きていることについての解説を読むと、人々はいつも、シートベルトの着用は生活の一環であるという前提のもと、できるだけ快適にシートベルトを着用する方法について論じたり、人生で最高の瞬間は家族と一緒に座って超高速で目の前を通り過ぎていく白い線を眺めている時だと言ったり、背景の轟音のせいでお互いの声が聞き取りにくいのは誰のせいかについて議論し合ったりしています。
私がこの状況におかれたとして、次に何が起こるのか（離陸）を知らなかったら、必ずしも正しく理解できるとは限りませんが、少なくとも「この状況は尋常ではなく、異常であり、一時的なもののようだ。さらに加速するか、停止するか、他の奇妙なことが起きるだろう」と考えるでしょう。
この投稿に使用したグラフィックを提供したMaría Gutiérrez Rojas、そしてこの投稿のタイムラインのグラフィックの基盤となるグラフィックを提供したLudwig Schubertに感謝します。
- ^
本文中の注に関しては原文を参照してください。
