This is a Japanese translation of “Our final century?”
この章では、存亡リスクを取り上げよう。存亡リスクとは、人類の長期的な潜在的可能性の破壊を招くリスクのことだ。
以下では、存亡リスクが道徳的な優先課題である理由を検討し、それにもかかわらず存亡リスクが社会的に見過ごされた問題であることを確認する。また、我々が直面するかもしれない重大なリスクのひとつとして、COVID-19よりも危険な、人工的なパンデミックのリスクも詳しく見ていくつもりだ。
また、以下の概念も導入する予定だ。
- 重要性・見過ごされている度合い・取り組みやすさのフレームワーク
最も重要な問題は一般に、多くの人びとに影響し、投入されている資源が比較的少なく、僅かな働きかけで重大な成果を出すことができるような問題である。 - 限界効用で考える
あなたが1ドルを寄付しようとしているとしたら、世界をよりよいものにするために最も費用対効果の高い介入にその1ドルを寄付すべきだ。1ドル当たりに与えられるインパクトの平均値が高くても、限界効用で考えた場合のインパクトが低い介入は数多く存在する。そうした介入は、規模が十分大きくなると、同じ効率を達成できない（「収穫逓減」を示す）のだ。
決定的考慮事項（crucial considerations）[1]
ある行為があなたの目標追求の助けとなるか、それとも害を為すのかを見分けるのが極端に難しい場合がある。複雑な社会システムに影響を及ぼそうとか、長期的な影響を及ぼそうとしている場合には特にそうだ。これが、目下検討中の介入策を逐一分析にかけるのが理にかなっているひとつの理由である。
- ^
EA Forumのまた別のエントリー「決定的考慮事項」によると、この概念はニック・ボストロムが彼の2007年の論文 “ Technological revolutions: ethics and policy in the dark” の中で導入した概念である。
「[...]決定的考慮事項 ── これによって私[ボストローム]は〈もしそれを考慮するなら、それを考慮に入れないでいたら我々の努力を向けるべき方向について私たちが到達していたであろう結論を覆すことになるような考慮事項〉のことを意味している。」（Bostrom 2007, 23）
元論文には「決定的考慮事項」の例も挙げられている。