This is a Japanese translation of “The Bottom Line”

By Eliezer Yudkowsky　2007年9月29日

AとBの2つの密閉された箱がオークションに出品されている。そして、そのうちの1つの箱には、高価なダイヤモンドが入っている。それぞれの箱には、中にダイヤモンドが入っているかどうかを示唆するような特徴や印があるが、どれも完全に信頼できるものではない。例えば、一方の箱には青いスタンプが押されているが、ダイヤモンドの箱は空の箱よりも青いスタンプが押されている可能性が高いことを私は知っている。また、ある箱の表面には光沢があるが、ダイヤモンドの入った箱には、決して光沢などないのではないかという疑念が（定かではないが）ある。

ここで、一枚の紙を持った巧妙な論者がいるとしよう。その人はAの箱とBの箱の持ち主にこう言うのだ。「私のサービスに入札してください。落札したあかつきには、あなたの箱にダイヤモンドが入っていると私が論じましょう。そして、その箱にはより高い値がつくことになるでしょう」。そこで箱の持ち主たちがそれぞれ金額を提示した結果、Bの箱の持ち主が落札し、巧妙な論者のサービスを獲得することになった。

巧妙な論者は、自身の考えを整理し始める。まず、紙の一番下に「したがって、Bの箱にはダイヤモンドが入っている！」と書く。そして、紙の一番上に「Bの箱には青いスタンプがある」と書き、その下に「Aの箱は光っている」と書き、さらに「Bの箱はAより軽い」と、多くの特徴や印について書き連ねる。しかし、巧妙な論者はAの箱にダイヤモンドが入っていることを暗示するような特徴に関しては全て無視する。そして、私のもとにきて、今しがた紙に書き起こした内容を読んで聞かせてくるのだ。「Bの箱には青いスタンプが押されていて、Aの箱は光っている」などとはじまり、最後は「したがって、Bの箱にはダイヤモンドが入っている」と締めくくられる。

しかし考えて欲しい。巧妙な論者が結論を書き留めた瞬間、つまり紙にインクを塗った瞬間に、その物理的なインクと物理的な箱の証拠としてのもつれが固定化されたのだ。

Aの箱とBの箱にダイヤモンドが入る客観的な頻度が存在する世界の集合体（エベレットの多世界解釈やテグマークの複製）をイメージするとわかりやすいかもしれない^[1]。

紙の上のインクが奇妙な形や曲線に形成され、「したがって、Bの箱にはダイヤモンドが入っている」というような文章に見える。もしあなたがたまたま書かれた言語の読み書きができる人であれば、困惑しながらも、この形のインクがどういうわけかBの箱にダイヤモンドが入っていることを意味していると思うだろう。印刷された絵の色を答えるよう指示された被験者が、「赤い」インクで書かれた「緑」という文字を見せられると、「赤」ではなく「緑」と答えることがよくある。インクの形状に惑わされないためには、読み書きができないことが有効なのだ。

私たちにとって、あるものの真の重要性は、他のものとの絡み合いである。もう一度、世界の集合体、エベレットの多世界解釈やテグマークの複製を考えてみよう。すべての世界のすべての巧妙な論者が紙の一番下の行にインクをつけた瞬間（これが一瞬だとしよう）、インクと箱の相関関係が固定化される。巧妙な論者は消えないペンで書くので、インクが変わることはない。箱も変化しない。インクが「したがって、Bの箱にはダイヤモンドが入っている」と示す世界の部分集合の中には、Aの箱にダイヤモンドが入っている世界がすでに一定の割合で存在している。これは、上の空白行に何が書かれようとも変わらない。

そのため、インクの証拠としてのもつれは固定化され、それが何であるかはあなたの判断に委ねられる。おそらく、より有利な主張ができると考える箱の所有者は、広告主を雇いやすいだいろうし、自身の能力不足を恐れる箱の所有者は、より高い金額を入札するだろう。箱の所有者自身が箱の特徴や印を理解していなければ、所有者の財布事情や入札の傾向については何かわかるかもしれないが、インクと箱の中身のもつれは完全に失われる。

ここで、その場にいた別の人が純粋な好奇心を持ち、まず両方の箱の際立った特徴をすべて紙に書き出し、次に自分の知識と確率法則を適用して、一番下に以下のように書き込んだと考えてみよう。「したがって、Bの箱には85％の確率でダイヤモンドが入っていると推定される。」 この筆跡は何の証拠になるだろうか？この物理的な紙に書かれた物理的なインクに至る因果の連鎖を調べてみると、その因果の連鎖は、箱が持つすべての特徴や印を経由しており、それらに依存していることがわかる。なぜなら、箱に異なる印が施された世界では、異なる確率が書き記されるからである。

したがって、好奇心から調査した者の筆跡は、特徴と印、そして箱の中身と絡み合っている。一方、巧妙な論者の筆跡は、どちらの所有者が高い入札額を支払ったかということの証拠にしかならない。インクが示すことには大きな違いがあるが、そのインクの形を愚かにも読み上げる者にとっては、その言葉の響きは同じようにしか聞こえないかもしれない。

合理主義者としてのあなたがどれほど有能かは、どのアルゴリズムが実際にあなたの思考の最下行を書き込むかによって決定される。例えば、車のブレーキを踏むと金属の軋み音がするとして、ブレーキを交換する金銭的コストを避けたいのであれば、車の修理が必要ではない理由を探すことができる。しかし、エベレットの多世界解釈やテグマークの複製の世界であなたが生き残る実際の割合（ここでは合理主義者としてどれほど有能かを示すとする）は、どの結論に対する論拠を探すかを決定するアルゴリズムによって決まる。この場合であれば、実際のアルゴリズムは「高価なものは修理しない」である。これが良いアルゴリズムであれば問題ないが、悪いアルゴリズムであればそれはもう仕方ない。その後に書く、結論の上に記される論拠は何も変えることがない。

これは、あなた自身の考え方に対する注意を意図して書いているのであって、気に入らないどんな結論に対しても使えるような完全な一般的反論方法ではない。なぜなら、もしあなたが自身の最初の信念を保持するよう動機づけるのであれば、「私の議論相手は賢い論者だ」と主張するのが実際賢い論法になるからだ^[2]。世界一賢い論者は、太陽が輝いていることを指摘するかもしれないが、それでもまだ昼間であるのだろう。