This is a Japanese translation of "What is effective altruism?"

はじめに

効果的利他主義（effective altruism）は、他者を助けるための最良の方法を発見し、実践することを目標に掲げたプロジェクトです。

効果的利他主義は、この世界の最も切迫した問題とその最良の解決策の特定を目指す研究領域であるとともに、そうした発見を活用して〈よいこと〉を行うことを目指す実践コミュニティでもあります^[1]。

効果的利他主義のこのプロジェクトが重要なのは、〈よいこと〉を行おうという多くの試みが失敗に終わる一方で、一部の試みは途轍もなく効果的である、ということがあるからです。例えば、同じ量の資源を与えられたときに、一部の慈善団体は他の団体よりも100倍、さらには1000倍もの数の人びとを助けることすらあります。

これはつまり、支援のための最良の方法について慎重に考えることで、この世界の大問題に対して、ずっと多くのことを成し遂げられるということです。

効果的利他主義はオックスフォード大学の学者が定式化したものですが、現在では世界中に普及し、70以上の国々の、何万人もの人びとが効果的利他主義を取り入れています。^[2]

効果的利他主義に触発された人びとは、マラリアを防ぐための2億帳もの蚊帳の配布に資金を提供したり、AIの未来に関する学術研究や次のパンデミックを防ぐための政策キャンペーンを行うなど、様々なプロジェクトに取り組んできました。

効果的利他主義者を束ねているのは、世界の諸問題に対する特定の解決策ではなく、考え方です。すなわち効果的利他主義者は、一定量の努力で桁外れの効果を生み出すような、桁外れに〈よい〉支援方法を見つけ出そうとします。以下では効果的利他主義者のこれまでの取り組みをいくつか紹介し、そのあとで、効果的利他主義者たちを束ねる諸価値について述べます。

効果的利他主義の実践例は？

次のパンデミックを防ぐ

この問題に取り組む理由

効果的利他主義に携わる人びとは典型的には、規模が大きく、取り組みやすく、不当に無視されてきた問題を同定しようとします。^[3] 目標は、現段階でなされている試みの最大の盲点を見つけ出し、追加の人材が最大のインパクトをもてる領域を発見することにあります。こうした基準を満たすように思われる課題のひとつが、パンデミックを防ぐことです。

効果的利他主義の研究者は2014年時点で既に〈パンデミックの発生と常に隣り合わせだったこれまでの歴史を踏まえると、大規模なパンデミックが我々の生きているうちに起こる見込みは高い〉と論じていました。

しかし次のパンデミックを防ぐために投入された資金の額は、他の世界的問題と比べてとても少なかったですし、それは今も変わりません。例えば、過去10年間、米国はパンデミックを防ぐために年間およそ80億ドルを投入しているのに対して、テロ対策に費やした額は年間約2,800億ドルです。^[4]

テロを防ぐのは確かに重要です。しかし問題の規模は比較的小さいと考えられます。例えば、死者数だけに焦点を当てれば、過去50年間でテロによって殺害された人の数は約50万人です。しかしCOVID-19だけで2,100万以上もの人びとの命が奪われています。^[5]あるいは、HIV/AIDSによって4,000万人もの命が奪われたことも考慮すべきです。^[6]

加えて、将来のパンデミックはCOVID-19よりもずっと深刻なものに容易になりえます。すなわち、オミクロン株よりも感染力が強く、かつ天然痘と同じくらい致命的な病気が発生する可能性を排除するものは何もありません。（比較についてより詳しくは脚注4を参照してください。）

ひとたび規模が大きく、かつ見過ごされている問題が特定されるなら、効果的利他主義のコミュニティはその問題の解決に大きく寄与する可能性があり、かつその問題に現在取り組んでいる他の人びとには見過ごされている解決策を探し出そうとするわけですが、これが次の話題につながります。

これまでの取り組み

2016年、効果的利他主義に触発されてできた財団である Open Philanthropy はジョンズ・ホプキンズ大学健康安全保障センター（Johns Hopkins Center for Health Security）の最大の資金提供者となりました。このセンターはパンデミックに対応するより良い政策を案出するための研究を行う数少ない団体のひとつであり、COVID-19への対応でも重要な役割を果たした団体でした。^[7]

COVID-19 の発生時、効果的利他主義コミュニティのメンバーたちは、1DaySoonerという非営利団体を設立し、ヒトチャレンジ試験（human challenge trials）を支持しました。この種のワクチン試験では、健康なボランティアを意図的に病気に感染させることで、ほとんど即座にワクチン試験が可能になります。1DaySoonerは、この介入策を支持する数少ない団体の一つとして、3万人以上のボランティアと契約し^[8]、世界初のCOVID-19に関するヒトチャレンジ試験を開始する上で重要な役割を果たしました。このモデルは、私たちが次のパンデミックに直面したときにも再利用することができます。

効果的利他主義コミュニティのメンバーは、次のパンデミックを防ぐために立案された何十億ドル規模の政策提案 Apollo Programme for Biodefense の作成に一役買ったこともあります。

貧困国に基礎的な医療品を提供する

この問題に取り組む理由

「慈善（charity）は身内から^[9]」と言われるのが常ですが、効果的利他主義では、慈善は我々が最大の支援を行えるところから始まります。そしてこれはたいてい、現行のシステムのなかでもっとも見過ごされている人びとに注意を向けることを意味しますが、それはしばしば、自分たちからずっと離れたところにいる人びとでもあります。

7億人以上の人びとの生活費は一日1.90ドル以下です。^[10]

それと比べて、貧困ライン近くで生活する米国人の生活費はその20倍で、米国の平均的な大卒者の生活費は約107倍です。このため、米国の平均的な大卒者の収入は世界全体で見ると上位1.3%に入ります。^[11]（こうした数字は、同額のお金でも貧しい国ではより多くのものを買えるという事実を踏まえて調整済みです。）

世界の不平等は途轍もありません。このため、世界の極貧の人びとに資源を移譲することで莫大な量の〈よいこと〉を行うことができます。米国や英国などの豊かな国の政府は典型的には、一人の命を救うために100万ドルを喜んで出費します。^[12] そうする価値は十分にありますが、世界の最も貧しい国々では一人の命を救うのに必要な費用はそれよりもずっと低いのです。

GiveWell は、エビデンスにより最もよく支持され、費用対効果が最も高い健康・開発プロジェクトを見つけ出すために踏み込んだ研究を行う組織です。GiveWell は、多くの援助はうまく機能していない一方、殺虫剤処理された蚊帳を提供するといった一部の援助は、平均約5,500ドルほどでひとりの子どもの命を救うことができることを発見しました。これは〔米国やイギリスでひとりの命を救うのに必要な費用と比べて〕180分の1の費用です。^[13]

こうした基本的な医療的介入はとても安価で効果的であるために、援助に対するもっとも強力な懐疑主義者たちでさえ、そうした援助の価値を認めています。

これまでの取り組み

110,000人以上の個人寄付者が GiveWell の研究を利用して、 GiveWell が推薦した慈善団体に10億ドル以上の寄付を行い、 Against Malaria Foundation のような組織を支援しています。この団体はこれまでに、2億帳にのぼる殺虫剤処理された蚊帳を配布してきました。こうした努力は合算すると、159,000人の命を救ってきたと見積もられます。^[14]

無償の慈善活動だけではなく、ビジネスを通して世界の最も貧しい人びとを支援することも可能です。Wave は、効果的利他主義コミュニティのメンバーが創設したテクノロジー・カンパニーで、アフリカの国々に既存のサービスより迅速かつ何倍も安価に送金することを可能にします。特に、移民が故郷の家族に送金するのに便利なので、ケニヤやウガンダ、セネガルといった国々の80万人以上の人びとに使われてきました。セネガルだけでも、Wave の利用者は何億ドル分もの送金手数料を節約することができました。この額はセネガルのGDPの約1%にあたります。^[15]

AIアライメントという研究分野の確立を支援する

この問題に取り組む理由

効果的利他主義に携わる人びとは、直観に反し、曖昧で、大袈裟に誇張されているように見える問題に焦点を当てることが多々あります。しかしそれはなぜかと言えば、（その他の部分が等しければ）他の人びとによって無視されている問題に取り組む方がよりインパクトが大きく、かつその種の問題は（ほとんどその定義によって）奇異な問題に映るだろうからです。ひとつの例はAIアライメント問題（AI alignment problem）です。

人工知能（AI）は急速に発展しています。先端的なAIシステムはいまや、一定の限界はあれど会話に従事することができ、大学レベルの数学の問題を解き、ジョークを説明し、テキストに基づいて途轍もなくリアルな絵を描き、基本的なプログラムも書いてしまいます。^[16]このうちのどれをとっても、たった10年前でさえ可能ではありませんでした。

先端的なAI研究所の最終的な目標は、あらゆる課題に関して人間と同じくらいかそれ以上に優れたAIを開発することです。テクノロジーの将来を予測するのは極めて困難ですが、その目標が今世紀中に達成される確率の方が〔起こらない確率より〕高いと様々な議論や専門家へのアンケート調査が示しています。また標準的な経済モデルに従えば、ひとたび汎用AIが人間のレベルのパフォーマンスを行えるようになれば、テクノロジーの発展は劇的に加速するかもしれません。

そこからはおそらく1800年代の産業革命と似た、あるいはそれよりも大きな意義をもった巨大な変革がもたらされるでしょう。うまくいけば、この変革は全ての人びとに豊かさと繁栄をもたらすことになるでしょうし、下手をすれば、ごくわずかなエリートたちの手に権力を極端に集中させることになるかもしれません。

最悪の場合、私たちはAIシステムそのものに対するコントロールを失うことにもなりかねません。自分たちよりもはるかに優れた能力を備えた存在を制御することができなくなることで、チンパンジーがその未来を制御することがほとんどできないのと同じように、私たちも自分たちの未来をほとんど制御できなくなるということにもなりかねません。

つまりこの問題は現在世代だけではなく、将来の全世代に渡って劇的なインパクトをもつ可能性があります。この問題が「長期主義者（longtermist）」の観点からは特別切迫した問題であるのはこのためです。長期主義 (longtermism) とは、長期的な視点から未来の状態を改善することは、この時代における重要な道徳的な優先事項のひとつであると主張する、効果的利他主義における思考潮流のひとつです。

AIシステムが、その能力の点で人間と同等の（ないし、それより優れた）ものとなっても、人間にとっての価値を促進し続けることをどう保証するのかという問題は、AIアライメント問題と呼ばれ、この問題の解決にはコンピュータサイエンスの発展が必要になります。

その潜在的な歴史的重要性にもかかわらず、このAIアライメント問題に取り組んでいる研究者は数百人に留まりますが、それに対して、AIシステムをより強力なものにしようと努力する研究者は何万人もいます。^[17]

数段落でこの問題が重要である理由を要約するのは難しいので、もっと詳しく知りたいと思われた方には、この記事やこの記事、そしてこの記事から読み始めることをお勧めします。

これまでの取り組み

優先課題のひとつは単純に、この問題の認知度を高めることです。2014年、AIアライメントの重要性を論じた著作『スーパーインテリジェンス : 超絶AIと人類の命運 』（ ニック・ボストロム著、 倉骨彰訳、日本経済新聞出版社、2017年、原題：Superintelligence: Paths, Dangers, Strategies）が出版され、New York Times のベストセラーになりました。

また別の優先課題は、AIアライメント問題に焦点を当てた研究分野を確立することです。例えばAIのパイオニアであるスチュアート・ラッセル（Stuart Russell）や効果的利他主義に影響を受けたその他の人びとは カリフォルニア大学バークレー校で人間共依存型AIセンター（ The Center for Human-Compatible AI ）を創設しました。この研究機関はAIの開発に、人間にとっての価値を促進する働きを中心においた新しいパラダイムをもたらそうとしています。

その他の人びとは、DeepMind や OpenAI などのAI研究の重要な拠点でAIアライメントに焦点を当てたチームの発足を支援し、Concrete Problems in AI Safety をはじめとする成果物の中で、AIアライメントのための研究アジェンダを立案しています。

工場式畜産を終わらせる

この問題に取り組む理由

効果的利他主義に携わる人びとは関心の範囲を──離れた国に住む人びとや将来世代にだけではなく──人間以外の動物にまで広げようとしています。

米国では毎年100億近い動物たちが工場式畜産農場の中で──しばしばその一生のほとんどを向きを変えることもできぬまま、もしくは麻酔なしに去勢された状態で──生き、死んでいます。^[18]

多くの人びとは、動物を不必要に苦しませるべきではないことに同意しますが、その注意の大半がペット・シェルターに向けられています。米国ではペット・シェルターの1,400倍の数の動物が工場式畜産農場の中で生きています。^[19]

それにもかかわらず米国では、工場式畜産を終わらせようとするアドボカシー団体は年間9,700万ドルしか受け取っていません。他方、ペット・シェルターは年間約50億ドルを受け取っています。^[20]

これまでの取り組み

ひとつの戦略はアドボカシーです。Open Wing Alliance は、効果的利他主義に触発された資金提供者から大々的な資金提供を受け、ケージで飼われた鶏の卵を買わないことに大企業がコミットするよう促すキャンペーンを展開しました。こんにちまでに、Open Wing Alliance は2,200を超えるコミットメントを勝ち取りました。その結果、1億羽の鶏がケージから逃れることができたのです。^[21][22]

もうひとつの戦略は、代替プロテインを開発することです。代替プロテインが工場式農場で育てられた肉よりも安価で美味しくなるなら、肉の需要をなくし、工場式畜産を終わらせることができるかもしれません。Good Food Institute は、中国の Dao Foods や米国の Good Catch のような企業の設立を支援し、（世界最大の食肉企業JBSなどの）巨大企業がこの産業に参入するよう促し、何千万ドルもの政府の財政支援を確保することで、この産業の発展に弾みをつけるための努力を行っています。^[23]

Open Philanthropy は Impossible Foods への初期投資家でした。Impossible Foods は、肉とかなり近い味をした完全ヴィーガン・バーガーであり、バーガー・キングでも販売されている、インポッシブル・バーガー（Impossible Burger）を開発した企業です。

意思決定を改善する

この問題に取り組む理由

〈よいこと〉をしたいと望む人びとはしばしば、様々な問題に直接取り組むことを好みます。というのも、自分の行為の目に見える成果を確認することは、よりモチベーションを高めるからです。しかし重要なのは世界がよりよいものになることであって、それが自分の手によるものであることではありません。したがって効果的利他主義を応用する人びとは他者をエンパワーすることによって間接的に役立とうとすることも多々あります。

そのひとつの例は意思決定過程を改善することにあります。すなわち、鍵となるアクター──政治家や民間セクター／第三セクターの指導者、あるいは助成団体の助成決定者など──が概して意思決定に優れていればいるほど、将来の地球規模の問題が何であれ、そのいずれに対処するうえでも、よりよい態勢を社会は整えることになるでしょう。

したがって、重要なアクターの意思決定を向上するための方法で、これまで見過ごされてきた新たな方法を見つけることができるなら、大きなインパクトをもつための道が切り開けるでしょう。そしてこれを達成することのできるような、見込みある提案がいくつかあるように思われます。

これまでの取り組み

多くの地球規模の問題は、信頼できる情報がなければ悪化します。Metaculus は、重要な問題（例えばロシアがウクライナに侵攻する見込みなど）を特定し、何百人もの予測士（forecaster）の予測をとりまとめ、予測士たちの過去の精度と照らしてそうした予想を重みづけする未来予測テクノロジー・プラットフォームです。 Metaculus は2022年の1月中旬時点で、ロシアがウクライナに侵攻する確率を47%だと見積もり、2月24日の侵攻直前 ──多くの評論家、記者、専門家が侵攻は絶対にないと言っていたとき──には80%の確率を与えていました。^[24]

オックスフォード大学の Global Priorities Institute は哲学と経済学の交差領域で、重要な意思決定者はどうしたら世界で最も切迫した問題を特定することができるのかに関する基礎研究を行っています。Global Priorities Institute は研究アジェンダを作成し、何十本もの論文を出版し、ハーバード大学やニューヨーク大学、テキサス大学オースティン校、イェール大学、プリンストン大学をはじめとする様々な大学で関連する研究が開始されるきっかけともなることで、世界的優先課題研究（global priorities research）という新しい学術分野の確立に寄与しています。

効果的利他主義を束ねる価値は何か

以上の様々なプロジェクトは効果的利他主義を定義するものではありませんし、効果的利他主義が焦点を当てて取り組む対象は容易に変わります。効果的利他主義を定義するのは、他者を助けるための最良の方法を見つけ出そうとする営みの根底にある、以下の諸価値です。

1. ものごとには優先順位をつけられる（Prioritization）：〈よいこと〉をすることについての私たちの直観（intuition）は、通常は結果の規模を考慮に入れません。例えば、100人を助けることが、1000人を助けるのと同じくらいの満足感をもたらすことが多々あります。しかし〈よいこと〉をする一部の方法は他の方法と比べて、劇的により多くのことを達成する以上、様々な行為がどれほどの助けになるのかを大まかに計るための、数値化の試みは必須です。目標は単に何らかの違いをもたらすために働くことではなく、他者を助けるための最良の方法を見つけ出すことにあります。
2. 不偏的利他主義（Impartial altruism）：私たちは、全ての人びと等しく重要であると考えています^[25]。もちろん自分自身の家族や友人、自分の人生に、特別な関心をもつのはもっともなことです。しかし可能な限りで最大の〈よいこと〉を行おうとする場合、私たちは、生きている場所や時代にかかわらず、全員の利害に等しい重みを与えることを目指しています。つまり私たちは最も無視されてきた集団に焦点を当てることを目指していますが、それは大抵の場合、自分自身の利益を確保する力を十分にもたない存在に焦点を当てることになります。
3. 開かれた真理の探求（Open truthseeking）：ある特定の課題やコミュニティ、アプローチへのコミットメントを出発点に取るのではなく、支援のための様々なやり方を検討し、そのなかで最良のものを見つけ出そうすることが重要です。そのためには、自分自身の信念について熟考し、それを顧みることに相当の時間を費やし、新たなエビデンスや議論に対して開かれた心と関心を常にもち、自分の意見を根底から変えてしまえる用意があるのでなければなりません。
4. 協働する精神（Collaborative spirit）：協働することでより多くのことを達成することができます。しかし協働を効果的に達成するためには、高度の誠実さや親しみやすさ、そして集団の観点に立って物事を考える能力が必要です。効果的利他主義ということで問題になっているのは「目的が手段を正当化する」という類の理由づけではありません。〈よりよい〉世界に向かって野心的に働きかけながら、良き市民であることが問題になっているのです。

以上の価値を共有し、他者を助けるためのよりよい方法を探している人なら誰しも効果的利他主義に与しているわけです。どれくらいの時間と資金を費やしたいのか、どの課題を選んで取り組むのかは関係がありません。

効果的利他主義を科学的手法と対比することもできます。科学は、たとえ結果が直観に反していても、あるいは伝統に歯向かうものであっても、真理の探求にエビデンスと推論を用います。効果的利他主義は〈よいこと〉を行う最善の方法を探求するためにエビデンスと推論を用いるのです。

科学的手法は単純な考え（例えば自分の信念を検証しなければならないというような）に基づくものであるものの、世界についての〔常識とは〕根本的に異なる描像（例えば量子力学）に行き着きます。効果的利他主義も同様に、単純な考え──私たちは人びとを等しく扱うべきであり、またより少ない人びとよりもより多くの人びとの助けになる方がよりよいのだという考え──を土台に据えて、〈よいこと〉をすることについての型破りで、発展し続ける描像に行き着くのです。

行動の起こし方

効果的利他主義に関心をもつ人びとはほとんどの場合、次の様々な仕方でその考え方を自分の生活に取り入れています。

• 切迫した問題に取り組むことができるようなキャリアを選んだり、80,000 Hours からの助言を利用するなどして、手持ちのスキルを使ってそうした問題に貢献する方法を見つける。
• GiveWell や Giving What We Can などの調査を利用するなどして、慎重に選ばれた慈善団体に寄付を行う。
• 切迫した諸問題への取り組みを支援する新たな組織を設立する。
• 切迫した問題に取り組むコミュニティの形成を支援する。

これより長い、行動リストもご覧ください。

上記のリストは包括的なものではありません。〈よいこと〉をすることにどれくらい注力したいのかにかかわらず、またあなたの人生のどの側面でそうしたいのであれ、効果的利他主義を取り入れることは可能です。重要なのは、成したいと思う貢献の寡多ではなく、あなたのその努力が上記4つの価値に導かれていることと、自分の努力を可能な限り効果的なものにしようとしていることです。

そのためには、見過ごされている地球規模の大問題と最も効果的な解決策、そして、そうした解決策に寄与するための方法を見つけ出す努力が必要となるでしょう。ただし、費やそうとする時間やお金の量は関係がありません。

以上を行い、慎重に考え抜くことで、あなたが費やしたいと思う時間やお金を使って遥かに大きなインパクトを与えられることに気づくことができるでしょう。あなたのキャリア全体を通じて、何百もの人びとの命を救うことも可能です。そして、コミュニティ内の人びとと力を合わせることで、こんにちの文明が直面する最も重要な問題に対処する試みの一翼を担うことができるのです。

1. ^{^}

   ［訳注］効果的利他主義を卒引する哲学者であり、Center for Effective Altruism による効果的利他主義の定義の作成も主導した William MacAskill はその論文 “The Definition of Effective Altruism”の中で、効果的利他主義における「よいこと」は「不偏的厚生主義的」（impartial welfarist）観点から暫定的に理解されると述べています。これは、次のことを意味しています。
   
   「暫定的な仮説ないし第一次近似として、よいことを行うこと〔doing good〕は、誰しもの福利〔everyone’s wellbeing〕を等しく数えつつ、福利を促進することである。より正確には、有限の数の同じ個体を、またそれのみを含むふたつの世界AとBについて、AからBへの1対1写像が存在し、Aにおけるどの個体もBにおけるその対応物と同じ福利をもつなら、AとBは等しくよい。」（accessed 12 Sept. 2022. p. 14）
   
   倫理学では、福利を含むような “the good”は「善さ」と訳すのが一般的ですが、衒学的に聞こえるきらいがあり、現在のテキストの入門的な性格も考慮して、以下でこの類の語はより柔らかく、ひらがなで「よさ」や「よいこと」と訳すことにしました。訳語の選択については、髙橋礼 、福島弦両氏に助言を頂きました。ここに記して感謝申し上げます。また、ここでも以下でも、角括弧（〈 〉）は読みやすさのために訳者が補ったものであり、亀甲括弧（〔 〕）は訳者の補足を表します。

2. ^{^}

    Effective Altruism Forumでは、各地域のEA団体が世界中に分布しているのを見ることができます。これを見ると、70以上の国にEA団体があるのが分かります。

3. ^{^}

   ある問題が見過ごされている度合いが少なければ少ないほど、より多くの最善の試みが既になされていることになるため、追加の人材がインパクトを与えるのはより難しくなるでしょう。

   実際、ある問題への資源の投入に対するリターンが概ね対数関数に従うと考えるよい理由があります。リターンが対数関数に従うとは、これまでに10倍の資源が一方の課題に投入されている場合には、追加の資源は〔その10分の1の資源しか投入されていない課題に投入される場合と比べて〕約10分の1程度の進捗しか生まないということです。

   もしふたつの問題が等しく重要であり、かつ一方がより見過ごされている場合〔そのため一方の課題には他方の課題の10分の1の資源しか投入されていない場合〕、ある人物が〔その見過ごされている方の課題に取り組むべく〕追加されるなら、そのひとは〔他方の課題に取り組むよりも〕10倍のインパクトをもつことになるでしょう。

^{^}

2010年から2019年までの間に米国連邦政府が健康安全保障のために提供した資金は1,410億ドルと推定されます。このうちの55%がおそらくは将来のパンデミックを防ぐ方策に費やされたと私たちは考えています。例えば4%は進行中のエボラウィルスの流行に対処するために費やされ、これは他の潜在的なパンデミックを防ぐためのインフラを整備することにもつながりました。しかし、当該の資金のうち17%は将来のパンデミックの発生に影響を与えないような仕方で、化学的脅威や核放射線の脅威に対処するために費やされました。

1,410億 × 0.55 = 790億

2010年から2019年までの10年間について年換算するなら、年間80億ドルになる。

Federal funding for health security in FY2019 Watson, Crystal, et al., Health security 16.5 (2018): pages 281-303. Archived link, accessed 5 March 2020.

Open Philanthropy は、コロナ・パンデミック以前からこの問題に取り組んでいた他の基金や慈善家も特定していますが、これらを合わせてもその資金総額は1億ドルに満たないと思われます。

Costs of War プロジェクトの理事であるクローフォードは、2001年から2022年までの米国のテロ対策費を5兆8千億ドルと算出しています。

5.8兆ドル/20年＝年間2,900億ドル

United States budgetary costs of Post-9/11 wars Crawford, Neta C., Watson Institute for International & Public Affairs, Brown University, 2021. Archived link, accessed 26 July 2022.↩

^{^}

Global Terrorism Database 2020（Accessed 11 August 2022.）によると、1970年から2020年までのテロによる死者数は約456,000人です。

ただし Our World in Data は次のように指摘しています。「Global Terrorism Database はテロ攻撃に関する入手可能なデータ・セットの中で最も包括的であり、近年のデータは完全です。しかし我々の分析に基づくと、より長期にわたるデータは（米国と欧州を除けば）不完全だと予想されます。したがってテロ活動の発生頻度に関する地球規模での長期的な傾向を推論するのにこのデータ・セットを利用することは推奨しません。」

これが意味しているのは、上記のソースは、テロ活動による確認された死者数に関して数え漏れがありそうだということです。しかし1970年からの死者数が、テロによる死者数が最多を記録した十年間（2010-2020）と同じ水準だったと仮定した場合でさえ、総死者数は120万人に過ぎず、パンデミックによる死亡者数よりはるかに少ない数になります。

COVID-19による死者数：
エコノミスト誌（The Economist）は、COVID-19による累積超過死者数は、2022年6月時点で2,147万人と推定しており、かつこの数は今も増え続けています。

このデータと推定に使われたモデルはOur World in Data (archived page, retrieved 28 July 2022)で確認することができます。

私たちはこのデータが、COVID-19による総死者数に関する現段階で最も質の高い推定だと考えています。確認された死者数は600万程度と前述の数よりも低いですが、この数は間接的に引き起こされた死や報告されていない死者の数を含めていません。エコノミスト誌の手法は、期別平均死者数と超過死者数を比較し、合計で何人が追加で死亡したかを推定するとともに、過少報告分を調整したものです。

パンデミックとテロによる死者数はいずれも裾の重い分布（ヘビーテイル）になるため、過去の死亡率は通常、リスクの大きさを控えめに見積もることになります。

例えば、テロリストが大都市で核兵器を作動させることもありえますが、その場合、100万人以上が死亡するかもしれません。これは、過去50年間には起こりませんでしたが、もし起こっていたら、死者数の増加の主な要因になっていたでしょう。同様に過去50年間にCOVID-19やHIV/AIDSよりもずっと深刻なパンデミックも起こりえたのです。

そうすると、重要な問題は、歴史的な記録はテロ活動とパンデミックのどちらのリスクをより低く見積もっているか（すなわち、テロ活動による死者数はパンデミックによる死者数よりも、より裾の重い分布になるかどうか）という点になります。

パンデミックの最悪のシナリオはテロ活動の最悪のシナリオよりも深刻だと考えるのがもっともらしいように思われます。COVID-19よりも感染力が高く、死亡率が10-50%、またはそれ以上であるようなパンデミックが生じる可能性を排除するものは何もありません。また、歴史的な記録をみれば、テロ活動と比べてパンデミックの方がより多くの〔深刻な事態の発生を間一髪で逃れた〕ニアミス事例があるようにも思えます。

そうであるならば、サンプル内の裾の部分に当たる出来事を逃してしまうという問題はテロ活動よりもパンデミックの方が深刻でしょう。実際、テロによって10億人以上の人びとを殺害しようと思えば、パンデミックを引き起こすのがおそらく一番有力な方法になるでしょう。

テロ活動の防止がパンデミックの防止よりも最大で100倍の資金を受け取る一方で、パンデミックは歴史的にテロ活動の10-100倍の死をもたらしてきたとしたら、現在の資源の配分をよりバランスの取れたものにするために、パンデミックを優先する方向で大規模な修正が必要になるでしょう。

以上の分析は、重要でありながら比較的計測の容易な尺度であるため、死者数のみを考慮に入れていました。パンデミックとテロによる死者は重要な間接的コストも生みだしますし、完全な比較を行おうと思えば、それぞれの〔間接的コストの〕規模を比較することになるでしょう。

^{^}

「エピデミックの開始以来、4,010万[3,360万-4,860万]人がAIDS関連の疾病により死亡しました。」
Global HIV & AIDS statistics — Fact sheet UNAIDS, 2022. Archived link, accessed 11 August 2022.

^{^}

Open Philanthropy は効果的利他主義の考え方に基づき設立された財団です。Open Philanthropy が最初にジョンズ・ホプキンズ大学健康安全保障センター（CHS）に資金提供をしたのは2016年でした。その後も2017年には1600万ドルの、2019年には1950万ドルの追加の資金提供を行い、その他にも幾度か大規模な助成金を提供してきました。

^{^}

2022年7月7日の時点で、ボランティアの数は38,659人です。1Day Sooner

^{^}

 [訳注] 新約聖書テモテヘの第一の手紙第5章第8節に由来するとされる諺。

^{^}

COVID-19以前、一日1.90ドル以下で生活する人びとの数は2017年には6億8900万人に減っていました。しかし現在、極度の貧困にある人の数は、1998年以来初めての増加に向かうと推定されており、現在一日1.90ドル以下で生活していると推定されている人びとの数は7億3100万人です。

UN SDG 1 - End poverty in all its forms. UN Statistics, 2022. Archived link, accessed 26 July 2022.

こうした推定は、同額のお金でも貧しい国ではより多くのものを買えるという事実（購買力平価）を踏まえて修正済みです。その推定作業は複雑さを極めますが、所得に関して最低生活水準すれすれで生活している人びとが何億人もいることは明らかです。。もっと詳しく知りたい場合は、 “how accurately does anyone know the global distribution of income?” を読んでみてください。

^{^}

米国の1人当たりの貧困ラインは年収13,590ドルです。

13,590 / 365 = 一日当たり37.23ドル

これは購買力平価を考慮に入れても、国際的な貧困ラインである1.90ドルの20倍です。

2019年の米国勢調査によると、大卒またはそれ以上の学歴をもつ25から65歳のフルタイム労働者の年収の中央値は年間74,000ドルでした。

74,000ドル / 365 = 一日当たり202.7ドル
202ドル / 1.9 = 107倍

SmartAsset によると、74,000ドルの収入があり、ニューヨークに住む単身世帯は53,000ドルの手取り収入を受け取ります。
Giving What We Can の計算機によると、53,000ドルの手取り収入があれば、あなたは世界の上位1.3%に入ることになります。

^{^}

英国国立医療技術評価機構（UK’s National Institute for Health and Care Excellence）は、介入策が信頼のおけるものである場合には、質調整生存年数（quality-adjusted life year, QALY）1年毎に30,000ポンドまで出費することを推奨しています。

「QALYが一年延びる毎に30,000ポンドという最も妥当な増分費用効果比（ICER）を超過する場合には、諮問機関は、問題の介入策が国民健康サービス（NHS）のリソースの効果的な利用方法であることを支持する、より強い議論を提示する必要があるだろう」（ Methods for the development of NICE public health guidance. UK National Institute for Health and Care Excellence, September 2012. Archived link, accessed July 28, 2022.）

グローバルヘルスの分野ではひとりの命を救うことは30年分のQALYと等価であるとよく言われます。出典: World Bank (Box 1.1)

これはつまり、ひとりの命を救う費用は、30 × 30,000ポンド = 900,000ポンド = 110万ドルであるということです。

米国では、複数のグローバルに展開する機関が「命の価値」を算定し、この数値を異なる出資プロジェクトの間で優先順位をつけるために利用しています。アメリカ合衆国連邦緊急事態管理庁（Federal Emergency Management Agency）は2020年、命の価値を750万ドルと見積もっていますが、この見積もりは文脈により増減してきました。例えば、アメリカ合衆国運輸省は2014年に、命の価値は520万ドルから1300万ドルのあいだだと推定しました。

^{^}

ひとりの命を救うのに必要な費用に関する GiveWell の見積もりは（GiveWell の研究や、どのような手段が利用可能であるかによって）時間を通じて変化しますが、通常は2,500ドルから7,500ドルの間に収まります。2021年にはGiveWellは、殺虫剤処理された蚊帳を配布するのに使われるなら、期待値として5,500ドルでひとりの命を救うだろうと見積もりました。

GiveWellの最新の推定値を知りたければ、費用対効果の完全な分析を載せたGiveWellの報告書を見てください：How We Produce Impact Estimates, GiveWell, July 2022. Archived link, accessed 28 July 2022.

^{^}

「110,000以上の寄付者がその寄付先を決めるのに GiveWell を頼ってきました。弊団体の推薦する組織への寄付の総額は10億ドル以上に達します。こうした寄付は150,000人以上もの命を救い、世界中の貧困層に1億7500万ドル以上の現金支援を行ってきました。」

^{^}

「Wave がセネガルで事業を始めた時点で、既存の携帯送金システムの中で最大のものを利用する場合、Waveを経由しない送金費用は〔Wave を利用した場合と比べて〕平均で3-5倍かかりました。月毎のアクティブ・ユーザー数である何百万という数を掛け合わせると、毎年2億万ドル以上の節約になりますが....〔これは〕セネガルのGPDの約1%です。」
Working at Wave is an extremely effective way to improve the world. Ben Kuhn, July 8 2021. Archived link, accessed 26 July 2022.

^{^}

会話：「最も成功したエンド・トゥ・エンドの訓練を経た当社のMeenaモデルは....SSA[分別度と具体度の平均値（Sensibleness and Specificity Average）]スコアで72%を達成しました。....私たちの達成した72%のSSAスコアは、平均的な人が達成する86%のSSAとからそれほど遠くないところまで来ています。」  Towards a Conversational Agent that Can Chat About ... Anything. Adiwardana et. al., Google, 28 January 2020. Archived link, accessed 28 July 2022. 

数学：添付した記事のグラフは、Google の Minerva が「大学受験レベルの問題」の50%以上に正しく答えることを示しています。その他の最新式モデルは10%以下の正答率でした。

Minerva: Solving Quantitative Reasoning Problems with Language Models. Dyer et. al, Google, 30 June 2022. Archived link, accessed 28 July 2022. 

ジョーク：GoogleのAI、PaLMは、インターネット上のどこにも見つからないジョークも含めて、一度も見たことのないジョークに説明を与えることができます。例えば、

「ジョーク：Googleは自社のTPUチームに口の達者なクジラを雇ったらしいよ。そのクジラときたら、ふたつの〈ポッド（pods）〉のあいだでどうやったらコミュニケーションができるかを教えたんだってさ！

説明：TPUはGoogleが深層学習に使用しているコンピュータ・チップの一種です。「ポッド（pod）」という言葉は、TPUの一種を指すと同時に、クジラの群れのことも指します。このジョークのポイントは、クジラは実際にはふたつのクジラの集団のあいだでコミュニケーションをとることができるだけであるにも関わらず、ジョークの話し手が、クジラが二種類のTPUのあいだでもコミュニケーションをとることができるかのような話しぶりをしている点にあります。」

Pathways Language Model (PaLM): Scaling to 540 Billion Parameters for Breakthrough Performance. Narang et. al., Google, 4 April 2022. Archived link.

絵画：OpenAIのDAll-E 2が描いた絵の例はこちらで見ることができます。

コーディング：CodeGenは、SalesforceのAIツールであり、人間の指示をコードに変換するものですが、CodeGenに関する Salesforceの研究論文“A Conversational Paradigm for Program Synthesis”の第3.1節では、CodeGen がHumanEvalスコアで75％を達成していることが概略的に報告されています。このことが意味しているのは、CodeGenは、人間の自然な言語で記述されたHumanEvalのセット内のプログラミング課題であれば、そのうち75%を解決できるということです。

^{^}

あるトピックに取り組んでいる研究者の数を推定するのは困難です。なぜなら、そのトピックを定義することがそもそも難しく、多くの研究者が複数のトピックに取り組んでおり、かつ「研究者である」と言えるための基準を特定するのが難しいからです。そのため、ここでの数はその1/3から3倍程度の幅を持った見積もりだと理解されるべきですし、この問題の解釈に応じて一桁違うこともありえます。

2020年には、87,000人がarXiv上にAI関連の研究を公開しました。Element AI の 2020 Global AI Talent Report は、ソーシャル・メディア上でAIの研究や設計に取り組んでいると表示している人の数は155,000人にのぼるため、世界中でAIの開発に取り組んでいる人の数は、arXivに研究を公開した人数よりも多いと推定しています。しかしAIの設計に取り組んでいる人の一部はAIに新しい進展をもたらすエンジニアリングに取り組んでいるわけではないと予想されます。私たちの推定では、より少ない見積もりとして87,000人を優先し、かつその数を大雑把に半分に割って、40,000人という見積もりを出しています。

2021年、 Gavin Leech は270人から830人分のフルタイム勤務に相当する人びとがAIの安全性の問題に取り組んでいると見積もっています。しかしこの推定範囲の上限は、何がAIアライメント研究とみなされるのかに関する広すぎる理解に基づいており、かつこの合計の大部分は、自分の時間のほんのわずかな時間しかAIの安全性の問題の研究に費やしていない多数の研究者の時間を加算することで出てきたものです。しかし私たちの目標は、AIの安全性の問題に焦点を当てて取り組んでいる研究者の数を数値化することでした。

AI Watch はAI Safetyの研究者の頭数を特定しようと試み、AI Safetyに取り組んできた特筆すべき研究者を160名特定しました。ここには、過去一年間の間に AI Safety に関する研究を発表していない人びとも多く含まれますが、 上記の87,000人という見積もりに関していえば、そのすべてが過去一年間に研究を発表しています。他方で、「特筆すべき（notable）」研究者とみなされるための基準は、 arXivに研究を公開するよりも高くなるでしょう。 

私たちの最終的な見積もりは、 AI Safetyに焦点を当てて取り組んでいる研究者は300人であるというものです。

^{^}

2018年、米国では、95億6千万の畜産動物が食肉用に屠殺されました。それ以降、この数は増えている確率が高いです。屠殺された畜産動物の内訳は以下の通りです。鶏91億6000万羽、七面鳥2億3700万羽、豚1億2500万頭、牛3400万頭、羊200万頭。出典：visualization at Our World in Data, using data from the UN Food and Agriculture Organization.

^{^}

2021年、約650万の動物が米国のアニマル・シェルターに送られました。この数は2011年には720万でした。一定の割合で数が減少していると想定するなら、このことが意味するのは、2018年には約670万の動物たちがアニマル・シェルターに送られているということです。

工場式畜産農場には、95.6億/670万 =〔シェルターと比べて〕1,427倍の数の動物が収容されています。

Pet Statistics. American Society for the Prevention of Cruelty to Animals, 2021. Archived link, accessed August 2021.

^{^}

アニマル・シェルターの支出：

Andrew Rowan は2018年時点で米国のアニマル・シェルター団体上位 3,000団体への支援金は50億ドルにのぼると算出し、次の論文にまとめています。“Cat Demographics & Impact on Wildlife in the USA, the UK, Australia and New Zealand: Facts and Values” Rowan et. al. (2020), Journal of Applied Animal Ethics Research, pages 7–37.

Andrew Rowan は私たちとのやりとりのなかで、この計算の元となったデータを示し、その正しさを裏づけています。

畜産動物アドボカシーへの資金提供：

ここに公開された Open Philanthrophy の研究によれば、畜産動物に関するアドボカシー団体を対象とする2018年の助成金は以下の通りです。

1) 既存の米国の団体（PETA, PCRM, HSUS, ALDF, ASPCA）に3,230万ドル
2) 米国に拠点をおく新たな団体のうちで主要なもの（CIWF, WAP, RSPCA, HSI）に3,260万ドル
3) 他の米国の団体に3,220万ドル

3,230 + 3,260 + 3,220 = 9,710万ドル

^{^}

[訳注] 注19にもある通り、この数は、ケージフリー・コミットメントを宣言した企業が実際にコミットメントを実行したと仮定した場合の数であり、この記事を翻訳している2022年時点では、企業が実際にケージフリー・コミットメントを実現するのかどうかが畜産動物に関わるアドボカシー団体に共通の課題として認識されています。

^{^}

USDA Egg Markets Overview の報告によれば、2022年5月時点で米国だけでも1億650万の雌鶏たちがケージフリーの収容方式で飼育されています。この数は2016年には1,700万でした。Open Wing Alliance の取り組みの結果、欧州ではさらに1億羽の雌鶏たちがケージから解放されたと考えられますが、この数を Open Wing Alliance だけの成果に帰するのは〔米国と比べて〕より難しいと思われます。

加えてアドボカシー団体がとりつけた企業のケージフリー宣言は、もしそれが実行されるなら、どの時点をとっても生きている5億羽以上の雌鶏を救うことになります。

^{^}

Good Food Instituteとの交渉後、米国政府はタフツ大学での細胞農業研究所の創設に1千万ドルの助成を行うと発表しました。イギリスの独立機関、National Food Strategy は、1億2500万ポンドを代替プロテインの研究と開発に投資するよう推奨しました。
出典：GFI Year in Review 2021 (page 3)

^{^}

様々な予測のタイムライン全体は Metaculus 上で見ることができます。

^{^}

 [訳注] ここで著者は「人びと（people）」という言葉を使っていますが、「工場式畜産を終わらせる」という項目が立てられていたように、効果的利他主義は決して、人間だけの利害を考慮に入れるものではありません。確かに道徳的な配慮に傾斜をつけることも考えられ、その意味で真に「不偏的」なのは人間に対してだけだと効果的利他主義の枠内で考えることもできますが、他方、訳注の1で参照した MacAskill は「人びと（people）」ではなく「誰しもの福利（everyone’s wellbeing）」という言い方をしていたことも、ここで指摘しておきたいと思います。

Show all footnotes