This is an Italian translation of AI Safety researcher career review
In breve: Per mitigare i rischi posti dallo sviluppo dell’intelligenza artificiale, è necessario fare ricerca su come risolvere le sfide in ambito tecnico e i problemi in ambito di progettazione per assicurarci che le intelligenze artificiali più potenti facciano ciò che vogliamo – e che portino benefici – senza nessuna conseguenza catastrofica involontaria.
Consigliata: Se si è individui molto adatti a questo tipo di carriera, potrebbe essere il modo migliore per avere un impatto sociale.
Stato della recensione: Basata su studi di media profondità
Come già argomentato, nei prossimi decenni potremmo assistere allo sviluppo di potenti algoritmi di machine learning con la capacità di trasformare la nostra società. Ciò comporterebbe importanti vantaggi e svantaggi, inclusa la possibilità di un rischio catastrofico.
Oltre al lavoro sulle politiche e sulle strategie discusse in questa recensione di carriera, un’altra strada maestra per limitare questi rischi consiste nel fare ricerca sulle sfide tecniche poste da intelligenze artificiali avanzate, come il problema dell’allineamento. In breve, come possiamo progettare IA potenti in modo che facciano ciò che vogliamo senza conseguenze indesiderate?
Questo ambito di ricerca ha iniziato a decollare. Esistono oggi importanti poli accademici e laboratori di IA dove si può lavorare su questi problemi come il Mila di Montreal, il Future of Humanity Institute di Oxford, il Center for Human-Compatible Artificial Intelligence di Berkeley, DeepMind a London e l’OpenAI a San Francisco. Abbiamo svolto attività di consulenza per oltre 100 persone in questo ambito, con molte di esse che già lavorano nelle istituzioni summenzionate. Il Machine Intelligence Research Institute di Berkeley lavora in questo campo dal 2005 e possiede una prospettiva e un programma di ricerca non convenzionali rispetto agli altri laboratori.
Abbondano i finanziamenti per i ricercatori talentuosi, incluse borse di studio universitarie e donazioni filantropiche dai principali sovvenzionatori come Open Philanthropy. È possibile inoltre ottenere finanziamenti per il proprio progetto di dottorato. La principale necessità di questo campo consiste in più persone capaci di impiegare questi fondi per portare avanti la ricerca.
L’obiettivo in questo percorso sarebbe quello di ottenere un lavoro in uno dei migliori centri per la sicurezza delle IA – nel profit, nel no-profit o in ambito accademico – e poi lavorare sulle questioni più urgenti, con l’eventuale prospettiva di diventare un coordinatore dei ricercatori che supervisiona la ricerca sulla sicurezza.
In generale, le posizioni tecniche sulla sicurezza delle IA si possono distinguere in ruoli di (i) ricerca e di (i) ambito ingegneristico. I ricercatori guidano progetti di ricerca. Gli ingegneri implementano i sistemi e compiono le analisi necessarie per portare avanti la ricerca.
Anche se gli ingegneri hanno minore influenza sugli obiettivi di alto livello della ricerca, è comunque importante che si occupino della sicurezza, in modo che comprendano meglio gli obiettivi finali della ricerca stessa (e in questo modo darsi meglio le priorità), siano più motivati, orientino la cultura dominante verso la sicurezza e usino il capitale di carriera guadagnato per contribuire a altri progetti futuri sulla sicurezza. Questo significa che l’ambito ingegneristico è una buona alternativa per coloro che non vogliono essere diventare ricercatori.
Può essere utile che ci siano persone che capiscono le sfide poste dalla sicurezza delle IA che lavorino in squadre di ricerca in questo ambito che non siano direttamente orientate alla sicurezza. Lavorare in queste squadre può metterti nella posizione di aiutare a promuovere la preoccupazione sulla sicurezza in generale, soprattutto se finirai per ricoprire una posizione dirigenziale con influenza sulle priorità dell’organizzazione per cui lavori.
Saremmo entusiasti di vedere più persone che sviluppano competenze nel lavoro sulla sicurezza delle IA in Cina o in contesti legati alla Cina – leggi di più nella nostra recensione dei percorsi di carriera sulla sicurezza e sulla gestione dell’IA in contesti legati alla Cina, alcuni dei quali si compiono nella ricerca tecnica.
Catherine Olsson ha iniziato il suo dottorato all’Università di New York, lavorando sui modelli computazionali della visione umana. Alla fine ha deciso di lavorare direttamente sulla sicurezza delle IA e ha ottenuto un impiego alla OpenAI, seguito da uno a Google Brain, per poi spostarsi ad Anthropic.
SCOPRI DI PIÙ
Daniel Ziegler dopo aver abbandonato il suo dottorato sul machine learning a Stanford, che ha sempre adorato costruire cose e ha sempre sognato di definire lo sviluppo delle IA, ha fatto domanda per lavorare alla OpenAI. Ha impiegato sei settimane a prepararsi per l’intervista e ha ottenuto il lavoro. Il suo dottorato, invece, lo avrebbe impegnato per sei anni. Daniel pensa che il suo grande balzo di carriera possa essere possibile per molte altre persone.
SCOPRI DI PIÙ
Chris Olah ha avuto un percorso affascinante e non convenzionale. Chris non solo non possiede un dottorato di ricerca, ma non ha ottenuto nemmeno una laurea triennale. Dopo aver abbandonato l’università per aiutare un suo conoscente a difendersi da false accuse penali, Chris ha iniziato a lavorare da sé alla ricerca sul machine learning, ottenendo infine un tirocinio presso Google Brain.
SCOPRI DI PIÙ
La ricerca tecnica con l’impatto maggiore sulla sicurezza delle IA sarà svolta da persone nei migliori ruoli summenzionati. Quindi, per decidere se questo percorso faccia al caso tuo, è importante chiederti se tu abbia una ragionevole probabilità di ottenere quei lavori.
Il primo passo in questo percorso di solito consiste nell’intraprendere un dottorato di ricerca in machine learning in una buona scuola. È possibile entrare in questo campo anche senza un dottorato, ma è probabile che venga richiesto per ruoli di ricercatore nei poli universitari e in DeepMind, i quali coprono una buona fetta delle migliori posizioni. Un dottorato di ricerca in machine learning apre anche strade nelle politiche sulle IA, nelle IA applicate e nel guadagnare per donare, quindi questo percorso ha buone opzioni di riserva se dovessi decidere che la sicurezza delle IA non fa per te.
Comunque, se preferisci l’ambito tecnico alla ricerca, un dottorato non è necessario. Puoi invece seguire un master o sviluppare competenze nel profit.
È anche possibile iniziare questo percorso a partire dalle neuroscienze (soprattutto quelle computazionali), quindi, se possiedi già esperienza in quest’area, non è detto che dovrai tornare a studiare.
Se hai già molta familiarità con la sicurezza delle IA come area critica, il nostro miglior consiglio è di dare un’occhiata a questa guida passo-dopo-passo per intraprendere una carriera nella sicurezza tecnica delle IA scritta da Charlie Rogers-Smith.
Ultimamente si sono concretizzate opportunità anche per scienziati sociali che contribuiscano alla sicurezza delle IA.
Puoi trovare ulteriori dettagli nelle risorse al termine della recensione.
Visto che si tratta di uno dei nostri percorsi prioritari, se pensi che questo percorso possa essere un’ottima occasione per te, saremmo particolarmente entusiasti di consigliarti sui tuoi prossimi passi. Possiamo aiutarti a considerare le tue opzioni, a creare connessioni con altri che lavorano nello stesso campo e, se possibile, anche aiutarti a trovare un lavoro o delle opportunità di finanziamento.
CANDIDATI PER PARLARE CON IL NOSTRO TEAM
Ulteriori letture essenziali (in inglese):
Ulteriori letture (in inglese):
