This is a Japanese translation of “What is evidence?

by EliezerYudkowsky 22nd Sep 2007

「雪は白い」がであるのは、雪が白いとき、またその時に限る。
— アルフレッド・タルスキー

存在するものを存在すると言い、あるいは存在しないものを存在しないと言うは真である。
— アリストテレス『形而上学 IV』

道を歩いていると、靴紐がほどける。その後まもなく、奇妙なことに、あなたは自分の靴紐がほどけたと信じ始める。太陽から出た光が靴ひもに当たって跳ね返り、一部の光子が目の瞳孔に入って網膜に当たり、光子のエネルギーが神経インパルスを誘発し、神経インパルスが脳の視覚処理領域に伝達され、そこで光学情報が処理されて3Dモデルに再構築され、ほどけた靴ひもとして認識される。このように、世界と脳の内部では因果の連鎖があり、その結果として、あなたはあなたが信じていることを信じるようになるのだ。このプロセスの最終的な結果は、実際の靴ひもの状態を反映した心の状態なのである。

証拠とは何だろうか?それは、原因と結果のつながりによって、あなたが知りたいと思うものと絡み合う事象のことだ。例えば、あなたが知りたいことが靴ひもであるなら、瞳孔に入る光は靴ひもと絡み合った証拠だ。これは、物理学で使われる専門的な意味の「もつれ(entanglement)」と混同されないよう注意しなければならない。ここで言っているのは、2つのものの間に原因と結果のつながりがあるために、相関した状態になってしまうという意味での「絡み合い(entanglement)」である。

すべての影響が、証拠に必要な「絡み合い」を生み出すわけではない。宝くじの当選番号を入力すると「ピッ」と鳴る機械があっても、その機械が落選番号を入力したときにも「ピッ」と鳴るのでは意味がない。靴ひもを結んでもほどいても、光子の物理的状態が同じになるのであれば、靴からの反射光は靴ひもに関する有用な証拠とはならない。
抽象的な言い方をすれば、ある事象が考察対象に関する証拠となるには、考察対象が取りうる

異なった状態と絡み合うように、事象の起こり方も異なっていなければならない。(技術的な言い方をすれば、証拠となる事象と考察対象との間に、シャノンの相互情報があるべきで、またそれは、あなたが双方に関して現在持つ不確実性の度合いと相対している必要がある。)

絡み合いは、正しく処理されれば人へとうつっていく。だから、目と脳が必要なのである。もし光子があなたの靴ひもに反射して岩に当たったとしても、岩はほとんど変化しないだろう。この岩が役に立つ形で、靴ひもを反映することはない。靴ひもが結ばれているか解かれているかによる検出可能な違いはないだろう。それゆえ石は、法廷において役に立たない証人なのである。写真フィルムは、入ってくる光子から靴紐の絡まりを収縮させ、写真自体が証拠として機能することが可能になる。あなたの目と脳が正しく機能するのであれば、あなたがあなたの靴ひもと絡み合うことにもなる。

だからこそ合理主義者は「ある信念が本当に価値があるのは、それが真でないと信じるよう説得することが原理的に可能な場合だけだ」という逆説的に見える主張を重んじているのである。もしどんな光が入っても網膜の状態が同じになるのであれば、あなたは盲目だということであろう。信念体系の中には、それ自身を強化するためのかなり明白なトリックとして、特定の信念が本当に価値を持つのは、それらの信念をただ無条件に信じる場合にのみである、と言うものがある。何を見ても、何を考えようと、最終的には脳の状態は同じになることになっている。だから、「盲信」という言葉があるのだ。もしあなたが信じるものが、あなたが見るものによって変わることがないのであれば、あなたは、目玉をえぐられるのと同じくらい効果的に盲目にされていしまっているといえる。

あなたの目と脳が正しく機能すれば、あなたの信念は事実と絡み合うことになるだろう。合理的な思考はそれ自体が証拠となる信念を生み出す。

あなたの舌が真実を語るのなら、それ自体が証拠となるあなたの合理的な信念は、他の誰かにとっての証拠となりうる。絡み合いは、因果の連鎖によって伝達される。あなたが話し、他の人が聞けば、それも原因と結果である。携帯電話で「靴紐がほどけちゃった」と言えば、靴紐との絡み合いを友人と共有することになる。

それゆえ、合理的な信念は、お互いが正直であると信じ合っている正直な人々の間でうつっていくのである。だからこそ、自分の信念はうつらないという主張、つまりうつらない私的な理由で自分は信じているという主張が非常に疑わしいものになるのだ。もしあなたの信念が現実と絡み合っているのなら、正直者の間でうつるはずなのである。

もしあなたが抱く現実のモデルが、あなたの思考プロセスによる出力は他の人にうつるべきではないと示唆しているのであれば、あなたのモデルは、あなたの信念はそれ自体証拠にはならない、つまり現実と絡み合ってはいないと言っている、ということだ。よく反省した上で修正を行い、信じるのをやめるべきである。

確かに、もし直感レベルで、このすべてが意味することを感じたら、自動的に信じることを止めるだろう。なぜなら「私の信念は現実と絡み合っていない」ということは「私の信念は正確でない」ということを意味しているからである。「雪は白い、は真だ」と信じることをやめたら直ちに、「雪は白い」と信じるのを(自動的に!)やめなければ、何かが大きく間違っている。

では、なぜあなたが用いるような思考プロセスが、現実を反映した信念を体系的に生み出すのか、説明してみてほしい。なぜ自分が合理的だと思うのか、説明してみてほしい。なぜあなたは、あなたが用いるような思考プロセスを用いれば、雪が白い、その場合に限り「雪は白い」とあたまでも信じることになると思うのだろうか。もしあなたが自分の思考プロセスによる出力が現実と絡み合っていると信じていないのなら、なぜ自分の思考プロセスによる出力を信じられるのだろうか?それは同じことである、もしくは、同じであるはずだ。

2

0
0

Reactions

0
0
Comments


No comments on this post yet.
Be the first to respond.
Curated and popular this week
Garrison
 ·  · 7m read
 · 
This is the full text of a post from "The Obsolete Newsletter," a Substack that I write about the intersection of capitalism, geopolitics, and artificial intelligence. I’m a freelance journalist and the author of a forthcoming book called Obsolete: Power, Profit, and the Race to build Machine Superintelligence. Consider subscribing to stay up to date with my work. Wow. The Wall Street Journal just reported that, "a consortium of investors led by Elon Musk is offering $97.4 billion to buy the nonprofit that controls OpenAI." Technically, they can't actually do that, so I'm going to assume that Musk is trying to buy all of the nonprofit's assets, which include governing control over OpenAI's for-profit, as well as all the profits above the company's profit caps. OpenAI CEO Sam Altman already tweeted, "no thank you but we will buy twitter for $9.74 billion if you want." (Musk, for his part, replied with just the word: "Swindler.") Even if Altman were willing, it's not clear if this bid could even go through. It can probably best be understood as an attempt to throw a wrench in OpenAI's ongoing plan to restructure fully into a for-profit company. To complete the transition, OpenAI needs to compensate its nonprofit for the fair market value of what it is giving up. In October, The Information reported that OpenAI was planning to give the nonprofit at least 25 percent of the new company, at the time, worth $37.5 billion. But in late January, the Financial Times reported that the nonprofit might only receive around $30 billion, "but a final price is yet to be determined." That's still a lot of money, but many experts I've spoken with think it drastically undervalues what the nonprofit is giving up. Musk has sued to block OpenAI's conversion, arguing that he would be irreparably harmed if it went through. But while Musk's suit seems unlikely to succeed, his latest gambit might significantly drive up the price OpenAI has to pay. (My guess is that Altman will still ma
 ·  · 5m read
 · 
When we built a calculator to help meat-eaters offset the animal welfare impact of their diet through donations (like carbon offsets), we didn't expect it to become one of our most effective tools for engaging new donors. In this post we explain how it works, why it seems particularly promising for increasing support for farmed animal charities, and what you can do to support this work if you think it’s worthwhile. In the comments I’ll also share our answers to some frequently asked questions and concerns some people have when thinking about the idea of an ‘animal welfare offset’. Background FarmKind is a donation platform whose mission is to support the animal movement by raising funds from the general public for some of the most effective charities working to fix factory farming. When we built our platform, we directionally estimated how much a donation to each of our recommended charities helps animals, to show users.  This also made it possible for us to calculate how much someone would need to donate to do as much good for farmed animals as their diet harms them – like carbon offsetting, but for animal welfare. So we built it. What we didn’t expect was how much something we built as a side project would capture peoples’ imaginations!  What it is and what it isn’t What it is:  * An engaging tool for bringing to life the idea that there are still ways to help farmed animals even if you’re unable/unwilling to go vegetarian/vegan. * A way to help people get a rough sense of how much they might want to give to do an amount of good that’s commensurate with the harm to farmed animals caused by their diet What it isn’t:  * A perfectly accurate crystal ball to determine how much a given individual would need to donate to exactly offset their diet. See the caveats here to understand why you shouldn’t take this (or any other charity impact estimate) literally. All models are wrong but some are useful. * A flashy piece of software (yet!). It was built as
Omnizoid
 ·  · 9m read
 · 
Crossposted from my blog which many people are saying you should check out!    Imagine that you came across an injured deer on the road. She was in immense pain, perhaps having been mauled by a bear or seriously injured in some other way. Two things are obvious: 1. If you could greatly help her at small cost, you should do so. 2. Her suffering is bad. In such a case, it would be callous to say that the deer’s suffering doesn’t matter because it’s natural. Things can both be natural and bad—malaria certainly is. Crucially, I think in this case we’d see something deeply wrong with a person who thinks that it’s not their problem in any way, that helping the deer is of no value. Intuitively, we recognize that wild animals matter! But if we recognize that wild animals matter, then we have a problem. Because the amount of suffering in nature is absolutely staggering. Richard Dawkins put it well: > The total amount of suffering per year in the natural world is beyond all decent contemplation. During the minute that it takes me to compose this sentence, thousands of animals are being eaten alive, many others are running for their lives, whimpering with fear, others are slowly being devoured from within by rasping parasites, thousands of all kinds are dying of starvation, thirst, and disease. It must be so. If there ever is a time of plenty, this very fact will automatically lead to an increase in the population until the natural state of starvation and misery is restored. In fact, this is a considerable underestimate. Brian Tomasik a while ago estimated the number of wild animals in existence. While there are about 10^10 humans, wild animals are far more numerous. There are around 10 times that many birds, between 10 and 100 times as many mammals, and up to 10,000 times as many both of reptiles and amphibians. Beyond that lie the fish who are shockingly numerous! There are likely around a quadrillion fish—at least thousands, and potentially hundreds of thousands o