This is an Italian translation of Independent impressions

La tua opinione indipendente su qualcosa è essenzialmente ciò che tu penseresti su quella cosa se non revisionassi le tue credenze in seguito al disaccordo con altre persone - ovvero, se tu non prendessi in considerazione la tua conoscenza di ciò che le altre persone pensano e quanto degno di fiducia sembri il loro giudizio su questo argomento. La tua opinione indipendente può prendere atto delle ragioni di queste persone che le portano ad avere certe credenze (nella misura in cui conosci tali ragioni), ma non il mero fatto che credono in ciò che credono.

Nel frattempo, la tua credenza-tutto-considerato può (e probabilmente dovrebbe!) anche prendere in considerazione il disaccordo con altri.

Armato di questo concetto, provo ad aderire a queste regole epistemiche e di discussione. Credo che altri farebbero bene a fare lo stesso.

  • Provo a tenere traccia delle mie opinioni indipendenti separandole dalle mie credenze-tutto-considerato.
  • Provo a sentirmi a mio agio con il comunicare le mie opinioni indipendenti, anche se so che sono diverse da quelle di persone con più competenze sull’argomento.
  • Provo a essere chiaro su se, in un dato momento, io stia riportando la mia opinione indipendente o la mia credenza-tutto-considerato.

Una ragione di questo mucchio di regole è l’evitare cascate di informazione.

All’opposto, quando prendo davvero delle decisionicerco sempre di prenderle in base alle mie credenze-tutto-considerato.

Per esempio, la mia opinione indipendente è che sia plausibile che una distopia impossibile da abbattere sia più probabile dell’estinzione e che dovremmo dare la priorità a questo rischio molto più di come facciamo ora. Ma questa idea sembra relativamente infrequente tra le persone che hanno riflettuto molto sui rischi esistenziali. Questa osservazione porta la mia credenza-tutto-considerato di una qualche misura lontano dalla mia opinione indipendente e verso quella che molte persone sembrano condividere. E questa credenza-tutto-considerato è ciò che guida la mia ricerca e le mie decisioni di carriera. Ma credo sia ancora utile per me tenere traccia della mia opinione indipendente e tornarci su ogni tanto, altrimenti le comunità di cui io faccio parte potrebbero ritrovarsi con credenze esageratamente radicate e omogenee.

 


 

Questo termine, questo concetto e queste norme che ho suggerito non sono tutte farina del mio sacco - vedi in particolare Naming beliefsquesto commento e diversi post taggati Epistemic humility [“umiltà epistemica”], soprattutto questo. Ma io puntavo a una descrizione chiara e concisa di questo specifico insieme di norme, cosicché potessi riferirmi a esse ogni volta che affermo di riportare la mia opinione indipendente o chiedo a qualcuno se un pensiero che stanno comunicando sia la sua opinione indipendente o la sua credenza-tutto-considerato.

Comments


No comments on this post yet.
Be the first to respond.
Curated and popular this week
 ·  · 10m read
 · 
I wrote this to try to explain the key thing going on with AI right now to a broader audience. Feedback welcome. Most people think of AI as a pattern-matching chatbot – good at writing emails, terrible at real thinking. They've missed something huge. In 2024, while many declared AI was reaching a plateau, it was actually entering a new paradigm: learning to reason using reinforcement learning. This approach isn’t limited by data, so could deliver beyond-human capabilities in coding and scientific reasoning within two years. Here's a simple introduction to how it works, and why it's the most important development that most people have missed. The new paradigm: reinforcement learning People sometimes say “chatGPT is just next token prediction on the internet”. But that’s never been quite true. Raw next token prediction produces outputs that are regularly crazy. GPT only became useful with the addition of what’s called “reinforcement learning from human feedback” (RLHF): 1. The model produces outputs 2. Humans rate those outputs for helpfulness 3. The model is adjusted in a way expected to get a higher rating A model that’s under RLHF hasn’t been trained only to predict next tokens, it’s been trained to produce whatever output is most helpful to human raters. Think of the initial large language model (LLM) as containing a foundation of knowledge and concepts. Reinforcement learning is what enables that structure to be turned to a specific end. Now AI companies are using reinforcement learning in a powerful new way – training models to reason step-by-step: 1. Show the model a problem like a math puzzle. 2. Ask it to produce a chain of reasoning to solve the problem (“chain of thought”).[1] 3. If the answer is correct, adjust the model to be more like that (“reinforcement”).[2] 4. Repeat thousands of times. Before 2023 this didn’t seem to work. If each step of reasoning is too unreliable, then the chains quickly go wrong. Without getting close to co
 ·  · 1m read
 · 
JamesÖz
 ·  · 3m read
 · 
Why it’s important to fill out this consultation The UK Government is currently consulting on allowing insects to be fed to chickens and pigs. This is worrying as the government explicitly says changes would “enable investment in the insect protein sector”. Given the likely sentience of insects (see this summary of recent research), and that median predictions estimate that 3.9 trillion insects will be killed annually by 2030, we think it’s crucial to try to limit this huge source of animal suffering.  Overview * Link to complete the consultation: HERE. You can see the context of the consultation here. * How long it takes to fill it out: 5-10 minutes (5 questions total with only 1 of them requiring a written answer) * Deadline to respond: April 1st 2025 * What else you can do: Share the consultation document far and wide!  * You can use the UK Voters for Animals GPT to help draft your responses. * If you want to hear about other high-impact ways to use your political voice to help animals, sign up for the UK Voters for Animals newsletter. There is an option to be contacted only for very time-sensitive opportunities like this one, which we expect will happen less than 6 times a year. See guidance on submitting in a Google Doc Questions and suggested responses: It is helpful to have a lot of variation between responses. As such, please feel free to add your own reasoning for your responses or, in addition to animal welfare reasons for opposing insects as feed, include non-animal welfare reasons e.g., health implications, concerns about farming intensification, or the climate implications of using insects for feed.    Question 7 on the consultation: Do you agree with allowing poultry processed animal protein in porcine feed?  Suggested response: No (up to you if you want to elaborate further).  We think it’s useful to say no to all questions in the consultation, particularly as changing these rules means that meat producers can make more profit from sel
Relevant opportunities