Macchine di amorevole grazia. Come l’IA potrebbe trasformare il mondo in meglio

Rifletto e discuto molto sui rischi di un’IA potente. L’azienda di cui sono amministratore delegato, Anthropic, svolge numerose ricerche su come ridurre tali rischi. Per questo motivo, a volte le persone giungono alla conclusione che io sia un pessimista o un “catastrofista” che ritiene che l’IA sarà prevalentemente negativa o pericolosa. Non la penso affatto così. In realtà, uno dei motivi principali per cui mi concentro sui rischi è che sono l’unica cosa che si frappone tra noi e quello che vedo come un futuro fondamentalmente positivo. Penso che la maggior parte delle persone stia sottovalutando quanto potrebbero essere radicali i vantaggi dell’IA, proprio come penso che la maggior parte delle persone stia sottovalutando quanto potrebbero essere gravi i rischi.

In questo saggio cerco di abbozzare come potrebbero essere quei vantaggi: come potrebbe essere un mondo con un’IA potente se tutto andasse per il verso giusto. Ovviamente nessuno può conoscere il futuro con certezza o precisione, e gli effetti di un’IA potente saranno probabilmente ancora più imprevedibili rispetto ai cambiamenti tecnologici del passato, quindi tutto questo consisterà inevitabilmente in ipotesi. Ma il mio obiettivo è quello di formulare ipotesi almeno informate e utili, che catturino l’essenza di ciò che accadrà anche se la maggior parte dei dettagli dovesse rivelarsi errata. Includo molti dettagli principalmente perché ritengo che una visione concreta contribuisca maggiormente a far progredire la discussione rispetto a una visione altamente cauta e astratta.

In primo luogo, tuttavia, volevo spiegare brevemente perché io e Anthropic non abbiamo parlato molto dei vantaggi di un’IA potente, e perché probabilmente continueremo, nel complesso, a parlare molto dei rischi. In particolare, ho fatto questa scelta per il desiderio di:

• ♦ massimizzare l’effetto leva. Lo sviluppo di base della tecnologia IA e molti (non tutti) dei suoi benefici sembrano inevitabili (a meno che i rischi non mandino tutto all’aria) ed è fondamentalmente guidato da potenti forze di mercato. D’altra parte, i rischi non sono predeterminati e le nostre azioni possono modificarne notevolmente la probabilità.
• ♦ Evitare la percezione di propaganda. Le aziende di IA che parlano di tutti gli incredibili benefici dell’IA possono apparire come propagandisti, o come se stessero cercando di distogliere l’attenzione dagli svantaggi. Penso anche che, per una questione di principio, sia dannoso per l’anima dedicare troppo tempo a “difendere la propria posizione”.
• ♦ Evitare la grandiosità. Spesso mi infastidisce il modo in cui molte figure pubbliche che si occupano dei rischi dell’IA (per non parlare dei leader delle aziende di IA) parlano del mondo post-AGI, come se fosse loro missione realizzarlo da soli, come un profeta che guida il proprio popolo verso la salvezza. Penso che sia pericoloso considerare le aziende come entità che plasmano unilateralmente il mondo, e pericoloso considerare gli obiettivi tecnologici pratici in termini essenzialmente religiosi.
• ♦ Evita il bagaglio “fantascientifico”. Sebbene pensi che la maggior parte delle persone sottovaluti i vantaggi di un’IA potente, la piccola comunità di persone che discute di futuri radicali dell’IA spesso lo fa con un tono eccessivamente “fantascientifico” (con riferimenti, ad esempio, a menti caricate, esplorazione spaziale o atmosfere cyberpunk in generale). Credo che questo induca le persone a prendere meno sul serio tali affermazioni e a conferire loro una sorta di irrealtà. Per essere chiari, la questione non è se le tecnologie descritte siano possibili o probabili (il saggio principale ne discute in modo dettagliato) — è piuttosto che l’“atmosfera” introduce implicitamente una serie di preconcetti culturali e di presupposti non dichiarati su quale tipo di futuro sia auspicabile, su come si evolveranno varie questioni sociali, ecc. Il risultato spesso finisce per sembrare una fantasia per una ristretta sottocultura, risultando al contempo scoraggiante per la maggior parte delle persone.

Eppure, nonostante tutte le preoccupazioni di cui sopra, penso davvero che sia importante discutere di come potrebbe essere un mondo migliore con un’IA potente, facendo del nostro meglio per evitare le insidie sopra menzionate. In effetti penso che sia fondamentale avere una visione del futuro genuinamente ispiratrice, e non solo un piano per spegnere gli incendi. Molte delle implicazioni di un’IA potente sono conflittuali o pericolose, ma alla fine dei conti, deve esserci qualcosa per cui stiamo lottando per, un risultato a somma positiva in cui tutti stanno meglio, qualcosa che spinga le persone a superare i propri litigi e ad affrontare le sfide future. La paura è un tipo di motivazione, ma non è sufficiente: abbiamo bisogno anche di speranza.

L’elenco delle applicazioni positive di un’IA potente è estremamente lungo (e include la robotica, la produzione, l’energia e molto altro), ma mi concentrerò su un numero ristretto di aree che mi sembrano avere il maggior potenziale per migliorare direttamente la qualità della vita umana. Le cinque categorie che mi entusiasmano di più sono:

1. Biologia e salute fisica
2. Neuroscienze e salute mentale
3. Sviluppo economico e povertà
4. Pace e governance
5. Lavoro e significato

Le mie previsioni saranno radicali secondo la maggior parte degli standard (ad eccezione delle visioni fantascientifiche sulla “singolarità”²), ma le intendo con serietà e sincerità. Tutto ciò che sto dicendo potrebbe facilmente essere sbagliato (per ribadire il mio punto di vista di cui sopra), ma ho almeno cercato di fondare le mie opinioni su una valutazione semi analitica di quanto i progressi in vari campi potrebbero accelerare e cosa ciò potrebbe significare nella pratica. Ho la fortuna di avere esperienza professionale sia in biologia che in neuroscienze, e sono un dilettante informato nel campo dello sviluppo economico, ma sono sicuro che sbaglierò molte cose. Una cosa che scrivere questo saggio mi ha fatto capire è che sarebbe utile riunire un gruppo di esperti del settore (in biologia, economia, relazioni internazionali, e altre aree) per scrivere una versione molto migliore e più informata di ciò che ho prodotto qui. Probabilmente è meglio considerare il mio lavoro qui come uno spunto iniziale per quel gruppo.

Presupposti di base e quadro di riferimento

Per rendere l’intero saggio più preciso e fondato, è utile specificare chiaramente cosa intendiamo per IA potente (cioè la soglia a partire dalla quale inizia a scorrere il conto alla rovescia di 5-10 anni), oltre a delineare un quadro di riferimento per riflettere sugli effetti di tale IA una volta che sarà presente.

Come sarà l’IA potente (non mi piace il termine AGI)³ e quando (o se) arriverà, è un argomento enorme di per sé. È un argomento di cui ho discusso pubblicamente e sul quale potrei scrivere un saggio completamente a parte (probabilmente lo farò a un certo punto). Ovviamente, molte persone sono scettiche sul fatto che un’IA potente verrà costruita presto e alcune sono scettiche sul fatto che verrà mai costruita. Penso che potrebbe arrivare già nel 2026, anche se ci sono modi in cui potrebbe richiedere molto più tempo. Ma ai fini di questo saggio, vorrei mettere da parte queste questioni, supporre che arriverà abbastanza presto e concentrarmi su ciò che accadrà nei 5-10 anni successivi. Voglio anche ipotizzare una definizione di come sarà un sistema del genere, quali saranno le sue capacità e come interagirà, anche se su questo c’è spazio per il disaccordo.

Per IA potente, intendo un modello di IA — probabilmente simile agli attuali LLM nella forma, anche se potrebbe basarsi su un’architettura diversa, potrebbe coinvolgere diversi modelli interagenti e potrebbe essere addestrato in modo diverso — con le seguenti proprietà:

• ▶︎ In termini di pura intelligenza⁴, è più intelligente di un vincitore del Premio Nobel nella maggior parte dei campi rilevanti – biologia, programmazione, matematica, ingegneria, scrittura, ecc. Ciò significa che può dimostrare teoremi matematici irrisolti, scrivere romanzi di altissima qualità, scrivere codici complessi partendo da zero, ecc.
• ▶︎ Oltre ad essere semplicemente una “cosa intelligente con cui parlare”, dispone di tutte le “interfacce” a disposizione di un essere umano che lavora virtualmente, inclusi testo, audio, video, controllo tramite mouse e tastiera e accesso a Internet. Può intraprendere qualsiasi azione, comunicazione o operazione remota resa possibile da questa interfaccia, tra cui compiere azioni su Internet, ricevere o fornire indicazioni agli esseri umani, ordinare materiali, dirigere esperimenti, guardare video, realizzare video e così via. Svolge tutti questi compiti con, ancora una volta, un’abilità che supera quella degli esseri umani più capaci al mondo.
• ▶︎ Non si limita a rispondere passivamente alle domande; al contrario, gli si possono assegnare compiti che richiedono ore, giorni o settimane per essere completati, e poi si mette al lavoro e svolge tali compiti in modo autonomo, proprio come farebbe un dipendente intelligente, chiedendo chiarimenti se necessario.
• ▶︎ Non ha un’incarnazione fisica (se non quella di vivere sullo schermo di un computer), ma può controllare strumenti fisici esistenti, robot o attrezzature di laboratorio tramite un computer; in teoria potrebbe persino progettare robot o attrezzature da utilizzare autonomamente.
• ▶︎ Le risorse utilizzate per addestrare il modello possono essere riutilizzate per eseguire milioni di sue istanze (ciò corrisponde alle dimensioni previste dei cluster entro il ~2027), e il modello può assorbire informazioni e generare azioni a una velocità circa 10-100 volte superiore a quella umana(5). Tuttavia, potrebbe essere limitato dal tempo di risposta del mondo fisico o del software con cui interagisce.
• ▶︎ Ciascuna di queste milioni di copie può agire in modo indipendente su compiti non correlati, oppure, se necessario, possono lavorare tutte insieme proprio come collaborerebbero gli esseri umani, magari con diverse sottopopolazioni ottimizzate per eccellere in compiti specifici.

Potremmo riassumere tutto questo come un “paese di geni in un data center”.

Chiaramente un’entità del genere sarebbe in grado di risolvere problemi molto difficili, molto velocemente, ma non è banale capire quanto velocemente. Due posizioni “estreme” mi sembrano entrambe errate. In primo luogo, si potrebbe pensare che il mondo verrebbe trasformato istantaneamente, nell’arco di secondi o giorni (“la Singolarità”), man mano che un’intelligenza superiore si autoalimenta e risolve quasi immediatamente ogni possibile compito scientifico, ingegneristico e operativo. Il problema è che esistono limiti fisici e pratici reali, ad esempio nella costruzione di hardware o nella conduzione di esperimenti biologici. Anche un nuovo paese di geni si scontrerebbe con questi limiti. L’intelligenza può essere molto potente, ma non è polvere magica.

In secondo luogo, e al contrario, si potrebbe credere che il progresso tecnologico sia saturo o limitato dalla velocità dei dati del mondo reale o da fattori sociali, e che un’intelligenza superiore a quella umana aggiungerebbe ben poco⁶. Questo mi sembra altrettanto inverosimile: mi vengono in mente centinaia di problemi scientifici o persino sociali in cui un folto gruppo di persone davvero intelligenti accelererebbe drasticamente il progresso, specialmente se non fossero limitate all’analisi e potessero realizzare cose nel mondo reale (cosa che il nostro ipotetico paese di geni può fare, anche dirigendo o assistendo squadre di esseri umani).

Penso che la verità sia probabilmente una miscela disordinata di questi due quadri estremi, qualcosa che varia a seconda del compito e del campo ed è molto sottile nei dettagli. Credo che abbiamo bisogno di nuovi schemi concettuali per riflettere su questi dettagli in modo produttivo.

Gli economisti parlano spesso di “fattori di produzione”: cose come lavoro, terra e capitale. L’espressione “rendimenti marginali del lavoro/terra/capitale” coglie l’idea che in una data situazione, un dato fattore possa essere o meno quello limitante – per esempio, un’aeronautica militare ha bisogno sia di aerei che di piloti, e assumere più piloti non aiuta molto se si è a corto di aerei. Credo che nell’era dell’IA dovremmo parlare dei rendimenti marginali dell’intelligenza⁷ e cercare di capire quali sono gli altri fattori complementari all’intelligenza e che diventano fattori limitanti quando l’intelligenza è molto elevata. Non siamo abituati a pensare in questo modo – a chiederci “quanto aiuta essere più intelligenti in questo compito, e in quale arco di tempo?” – ma sembra il modo giusto per concettualizzare un mondo con un’IA molto potente.

La mia ipotesi su un elenco di fattori che limitano o sono complementari all’intelligenza include:

• ▶︎ Velocità del mondo esterno. Gli agenti intelligenti devono operare in modo interattivo nel mondo per realizzare cose e anche per imparare⁸. Ma il mondo si muove solo a una certa velocità. Le cellule e gli animali funzionano a una velocità fissa, quindi gli esperimenti su di essi richiedono un certo tempo che potrebbe essere irriducibile. Lo stesso vale per l’hardware, la scienza dei materiali, tutto ciò che riguarda la comunicazione con le persone e persino la nostra attuale infrastruttura software. Inoltre, in scienza sono spesso necessari molti esperimenti in sequenza, ciascuno dei quali apprende dal precedente o si basa su di esso. Tutto ciò significa che la velocità con cui un progetto importante — ad esempio lo sviluppo di una cura per il cancro — può essere completato potrebbe avere un minimo irriducibile che non può essere ulteriormente ridotto, anche se l’intelligenza continua ad aumentare.
• ▶︎ Necessità di dati. A volte mancano i dati grezzi e, in loro assenza, una maggiore intelligenza non è d’aiuto. I fisici delle particelle di oggi sono molto ingegnosi e hanno sviluppato un’ampia gamma di teorie, ma non dispongono dei dati per scegliere tra di esse perché i dati degli acceleratori di particelle sono molto limitati. Non è chiaro se farebbero molto meglio se fossero superintelligenti — a parte forse accelerare la costruzione di un acceleratore più grande.
• ▶︎ Complessità intrinseca. Alcune cose sono intrinsecamente imprevedibili o caotiche e nemmeno l’IA più potente può prevederle o districarle in modo sostanzialmente migliore di un essere umano o di un computer odierno. Ad esempio, anche un’IA incredibilmente potente potrebbe prevedere solo marginalmente più in anticipo in un sistema caotico (come il problema dei tre corpi) nel caso generale rispetto agli esseri umani e ai computer di oggi.⁹
• ▶︎ Vincoli imposti dagli esseri umani. Molte cose non possono essere fatte senza infrangere le leggi, danneggiare gli esseri umani o mettere a soqquadro la società. Un’IA allineata non vorrebbe fare queste cose (e se avessimo un’IA non allineata, torneremmo a parlare di rischi). Molte strutture sociali umane sono inefficienti o addirittura attivamente dannose, ma sono difficili da cambiare rispettando vincoli come i requisiti legali sulle sperimentazioni cliniche, la disponibilità delle persone a cambiare le proprie abitudini o il comportamento dei governi. Esempi di progressi che funzionano bene in senso tecnico, ma il cui impatto è stato sostanzialmente ridotto da regolamenti o timori infondati, includono l’energia nucleare, il volo supersonico e persino gli ascensori.
• ▶︎ Leggi fisiche. Questa è una versione più estrema del primo punto. Esistono alcune leggi fisiche che sembrano inderogabili. Non è possibile viaggiare più veloce della luce. Il budino non si smuove. I chip possono avere solo un certo numero di transistor per centimetro quadrato prima di diventare inaffidabili. Il calcolo richiede una certa energia minima per bit cancellato, limitando la densità di calcolo nel mondo.

Esiste un’ulteriore distinzione basata sulle scalette temporali. Ciò che costituisce un vincolo rigido nel breve periodo potrebbe diventare più malleabile per l’intelligenza nel lungo periodo. Ad esempio, l’intelligenza potrebbe essere utilizzata per sviluppare un nuovo paradigma sperimentale che ci consenta di apprendere in vitro ciò che prima richiedeva esperimenti su animali vivi, o per costruire gli strumenti necessari a raccogliere nuovi dati (ad es. un acceleratore di particelle più grande), o per (entro limiti etici) trovare modi per aggirare i vincoli legati all’uomo (ad esempio aiutando a migliorare il sistema delle sperimentazioni cliniche, contribuendo a creare nuove giurisdizioni dove le sperimentazioni cliniche abbiano meno burocrazia, o migliorando la scienza stessa per rendere le sperimentazioni cliniche sull’uomo meno necessarie o più economiche).

Pertanto, dovremmo immaginare un quadro in cui l’intelligenza è inizialmente fortemente ostacolata dagli altri fattori di produzione, ma col tempo l’intelligenza stessa aggira sempre più gli altri fattori, anche se questi non si dissolvono mai completamente (e alcune cose come le leggi fisiche sono assolute)¹⁰. La domanda chiave è quanto velocemente tutto ciò accada e in quale ordine.

Tenendo presente il quadro di riferimento sopra descritto, cercherò di rispondere a questa domanda per le cinque aree menzionate nell’introduzione.

1. Biologia e salute

La biologia è probabilmente l’area in cui il progresso scientifico ha il maggiore potenziale per migliorare direttamente e inequivocabilmente la qualità della vita umana. Nel secolo scorso alcune delle più antiche afflizioni umane (come il vaiolo) sono state finalmente sconfitte, ma molte altre permangono ancora, e sconfiggerle rappresenterebbe un enorme risultato umanitario. Al di là della semplice cura delle malattie, la scienza biologica può in linea di principio migliorare la qualità di base della salute umana, allungando la durata della vita in buona salute, aumentando il controllo e la libertà sui nostri processi biologici e affrontando problemi quotidiani che attualmente consideriamo parti immutabili della condizione umana.

Nel linguaggio dei “fattori limitanti” della sezione precedente, le principali sfide nell’applicare direttamente l’intelligenza alla biologia sono i dati, la velocità del mondo fisico e la complessità intrinseca (in realtà, tutti e tre sono correlati tra loro). Anche i limiti umani giocano un ruolo in una fase successiva, quando entrano in gioco le sperimentazioni cliniche. Esaminiamoli uno per uno.

Gli esperimenti su cellule, animali e persino sui processi chimici sono limitati dalla velocità del mondo fisico: molti protocolli biologici prevedono la coltura di batteri o altre cellule, o semplicemente l’attesa che si verifichino reazioni chimiche, e questo a volte può richiedere giorni o addirittura settimane, senza un modo ovvio per accelerarlo. Gli esperimenti sugli animali possono richiedere mesi (o più) e quelli sull’uomo spesso richiedono anni (o addirittura decenni per gli studi sui risultati a lungo termine). In qualche modo correlato a questo, spesso mancano i dati — non tanto in quantità, quanto in qualità: c’è sempre una carenza di dati chiari e inequivocabili che isolino un effetto biologico di interesse dalle altre 10.000 variabili confondenti in gioco, o che intervengano causalmente in un dato processo, o che misurino direttamente un effetto (anziché dedurne le conseguenze in modo indiretto o rumoroso) . Anche i dati molecolari quantitativi su larga scala, come i dati proteomici che ho raccolto mentre lavoravo sulle tecniche di spettrometria di massa, sono rumorosi e tralasciano molte informazioni (in quali tipi di cellule si trovavano queste proteine? In quale parte della cellula? In quale fase del ciclo cellulare?).

In parte responsabile di questi problemi con i dati è la complessità intrinseca: se avete mai visto un diagramma che mostra la biochimica del metabolismo umano, saprete che è molto difficile isolare l’effetto di qualsiasi parte di questo sistema complesso, ed è ancora più difficile intervenire sul sistema in modo preciso o prevedibile. Infine, al di là del tempo intrinseco necessario per condurre un esperimento sugli esseri umani, le sperimentazioni cliniche vere e proprie comportano molta burocrazia e requisiti normativi che (secondo l’opinione di molte persone, me compreso) aggiungono tempo superfluo e ritardano i progressi.

Considerato tutto ciò, molti biologi sono da tempo scettici riguardo al valore dell’IA e dei “big data” in generale in biologia. Storicamente, i matematici, gli informatici e i fisici che negli ultimi 30 anni hanno applicato le loro competenze alla biologia hanno ottenuto un discreto successo, ma non hanno avuto l’impatto veramente trasformativo inizialmente sperato. Parte dello scetticismo è stato ridotto da importanti e rivoluzionarie scoperte come AlphaFold (che ha appena meritatamente fatto vincere ai suoi creatori il Premio Nobel per la Chimica) e AlphaProteo¹¹, ma c’è ancora la percezione che l’IA sia (e continuerà ad essere) utile solo in una serie limitata di circostanze. Una formulazione comune è: “L’IA può analizzare meglio i tuoi dati, ma non può produrre più dati né migliorarne la qualità. Se entrano dati spazzatura, escono dati spazzatura”.

Ma penso che questa prospettiva pessimistica sia un modo sbagliato di concepire l’IA. Se la nostra ipotesi di base sul progresso dell’IA è corretta, allora il modo giusto di considerarla non è come un metodo di analisi dei dati, ma come un biologo virtuale che svolge tutte le attività dei biologi, compresa la progettazione e la conduzione di esperimenti nel mondo reale (controllando robot di laboratorio o semplicemente indicando agli esseri umani quali esperimenti eseguire – come farebbe un ricercatore principale con i propri dottorandi), inventando nuovi metodi biologici o tecniche di misurazione, e così via. È accelerando l’intero processo di ricerca che l’IA può davvero dare una spinta alla biologia. Voglio ribadirlo perché è l’errore più comune che emerge quando parlo della capacità dell’IA di trasformare la biologia: non sto parlando dell’IA come di un mero strumento per analizzare i dati. In linea con la definizione di IA potente data all’inizio di questo saggio, sto parlo dell’uso dell’IA per eseguire, dirigere e migliorare quasi tutto ciò che fanno i biologi.

Per essere più specifico su dove penso che possa provenire l’accelerazione, una frazione sorprendentemente grande dei progressi in biologia deriva da un numero davvero esiguo di scoperte, spesso relative a strumenti o tecniche di misurazione di ampio respiro¹² che consentono un intervento preciso ma generalizzato o programmabile nei sistemi biologici. Si registra forse circa una di queste scoperte importanti all’anno e, collettivamente, esse guidano probabilmente oltre il 50% dei progressi in biologia. Queste scoperte sono così potenti proprio perché superano la complessità intrinseca e i limiti dei dati, aumentando direttamente la nostra comprensione e il nostro controllo sui processi biologici. Poche scoperte per decennio hanno reso possibile sia la maggior parte della nostra comprensione scientifica di base della biologia, sia hanno guidato molti dei trattamenti medici più potenti.

Alcuni esempi includono:

• ▶︎ CRISPR: una tecnica che consente la modifica in tempo reale di qualsiasi gene negli organismi viventi (sostituzione di qualsiasi sequenza genica arbitraria con qualsiasi altra sequenza arbitraria). Da quando è stata sviluppata la tecnica originale, ci sono stati miglioramenti costanti per mirare a tipi cellulari specifici, aumentare la precisione e ridurre le modifiche al gene sbagliato — tutti elementi necessari per un uso sicuro negli esseri umani.
• ▶︎ Vari tipi di microscopia per osservare ciò che accade a un livello preciso: microscopi ottici avanzati (con vari tipi di tecniche fluorescenti, ottiche speciali, ecc.), microscopi elettronici, microscopi a forza atomica, ecc.
• ▶︎ Sequenziamento e sintesi del genoma, il cui costo è diminuito di diversi ordini di grandezza negli ultimi due decenni.
• ▶︎ Tecniche optogenetiche che consentono di far sparare un neurone illuminandolo con una luce.
• ▶︎ Vaccini a mRNA che, in linea di principio, ci permettono di progettare un vaccino contro qualsiasi cosa e poi adattarlo rapidamente (i vaccini a mRNA sono ovviamente diventati famosi durante la pandemia di COVID).
• ▶︎ Terapie cellulari come la CAR-T che consentono di prelevare le cellule immunitarie dal corpo e “riprogrammarle” per attaccare, in linea di principio, qualsiasi cosa.
• ▶︎ Intuizioni concettuali come la teoria dei germi patogeni o la comprensione del legame tra il sistema immunitario e il cancro¹³

Mi sto prendendo la briga di elencare tutte queste tecnologie perché voglio fare un’affermazione cruciale su di esse: penso che il loro tasso di scoperta potrebbe essere aumentato di 10 volte o più se ci fossero molti più ricercatori talentuosi e creativi. O, per dirla in altro modo, penso che i rendimenti dell’intelligenza siano elevati per queste scoperte, e che tutto il resto in biologia e medicina derivi principalmente da esse.

Perché la penso così? Per via delle risposte ad alcune domande che dovremmo abituarci a porci quando cerchiamo di determinare i “rendimenti dell’intelligenza”. In primo luogo, queste scoperte sono generalmente fatte da un numero esiguo di ricercatori, spesso le stesse persone ripetutamente, il che suggerisce competenza e non ricerca casuale (quest’ultima potrebbe indicare che gli esperimenti di lunga durata sono il fattore limitante). In secondo luogo, spesso “avrebbero potuto essere fatte” anni prima di quanto non lo siano state: per esempio, il CRISPR era un componente naturale del sistema immunitario dei batteri noto fin dagli anni ’80, ma ci sono voluti altri 25 anni perché ci si rendesse conto che poteva essere riutilizzato per l’editing genetico in generale. Spesso subiscono anche ritardi di molti anni a causa della mancanza di sostegno da parte della comunità scientifica per direzioni promettenti (vedi questo profilo sull’inventore dei vaccini a mRNA; storie simili abbondano). In terzo luogo, i progetti di successo sono spesso improvvisati o sono stati ripensamenti che inizialmente non erano considerati promettenti, piuttosto che sforzi finanziati in modo massiccio. Ciò suggerisce che non è solo la massiccia concentrazione di risorse a guidare le scoperte, ma l’ingegnosità.

Infine, sebbene alcune di queste scoperte abbiano una “dipendenza seriale” (è necessario fare prima la scoperta A per avere gli strumenti o le conoscenze per fare la scoperta B) – il che potrebbe nuovamente creare ritardi sperimentali – molte, forse la maggior parte, sono indipendenti, il che significa che è possibile lavorarne molte contemporaneamente in parallelo. Sia questi fatti, sia la mia esperienza generale come biologo, mi suggeriscono fortemente che ci sono centinaia di queste scoperte in attesa di essere fatte se gli scienziati fossero più intelligenti e più bravi a creare connessioni tra la vasta quantità di conoscenze biologiche che l’umanità possiede (si consideri ancora l’esempio del CRISPR) . Il successo di AlphaFold/AlphaProteo nel risolvere problemi importanti in modo molto più efficace degli esseri umani, nonostante decenni di modellizzazione fisica accuratamente progettata, fornisce una prova di principio (seppur con uno strumento limitato in un ambito ristretto) che dovrebbe indicare la strada da seguire.

Pertanto, la mia ipotesi è che un’IA potente potrebbe almeno decuplicare il ritmo di queste scoperte, regalandoci i prossimi 50-100 anni di progresso biologico in 5-10 anni.¹⁴

Perché non 100 volte? Forse è possibile, ma qui sia la dipendenza seriale che i tempi degli esperimenti diventano importanti: ottenere 100 anni di progresso in 1 anno richiede che molte cose vadano bene al primo tentativo, inclusi gli esperimenti sugli animali e aspetti come la progettazione di microscopi o costose strutture di laboratorio. In realtà sono aperto all’idea (forse assurda) che potremmo ottenere 1000 anni di progresso in 5 -10 anni, ma sono molto scettico sul fatto che si possano ottenere 100 anni in 1 anno. Un altro modo per dirlo è che penso ci sia un inevitabile ritardo costante: gli esperimenti e la progettazione dell’hardware hanno una certa “latenza” e devono essere iterati un certo numero “irriducibile” di volte per imparare cose che non possono essere dedotte logicamente. Ma il parallelismo massiccio potrebbe essere possibile oltre a ciò¹⁵.

E per quanto riguarda le sperimentazioni cliniche? Sebbene siano associate a molta burocrazia e rallentamenti, la verità è che gran parte (anche se non tutta!) della loro lentezza deriva in ultima analisi dalla necessità di valutare rigorosamente farmaci che funzionano a malapena o in modo ambiguo. Questo è purtroppo vero per la maggior parte delle terapie odierne: il farmaco antitumorale medio aumenta la sopravvivenza di pochi mesi, pur avendo effetti collaterali significativi che devono essere misurati con attenzione (c’è una storia simile per i farmaci contro l’Alzheimer). Questo porta a studi enormi (per ottenere la potenza statistica) e a difficili compromessi che le agenzie regolatorie generalmente non sono molto brave a fare, sempre a causa della burocrazia e della complessità degli interessi contrastanti.

Quando qualcosa funziona davvero bene, il processo è molto più veloce: esiste un percorso di approvazione accelerato e la facilità di approvazione è molto maggiore quando gli effetti sono più evidenti. I vaccini a mRNA per il COVID sono stati approvati in 9 mesi, molto più velocemente del ritmo usuale. Detto questo, anche in queste condizioni le sperimentazioni cliniche sono ancora troppo lente: i vaccini a mRNA probabilmente avrebbero dovuto essere approvati in circa 2 mesi. Ma questo tipo di ritardi (circa 1 anno dall’inizio alla fine per un farmaco), combinati con una massiccia parallelizzazione e la necessità di alcune, ma non troppe, iterazioni (“alcuni tentativi”) sono perfettamente compatibili con una trasformazione radicale in 5-10 anni. In una prospettiva ancora più ottimistica, è possibile che la scienza biologica potenziata dall’IA riduca la necessità di iterazioni nelle sperimentazioni cliniche sviluppando modelli sperimentali animali e cellulari migliori (o persino simulazioni) in grado di prevedere con maggiore precisione ciò che accadrà negli esseri umani. Ciò sarà particolarmente importante nello sviluppo di farmaci contro il processo di invecchiamento, che si svolge nell’arco di decenni e dove abbiamo bisogno di un ciclo di iterazione più veloce.

Infine, sul tema delle sperimentazioni cliniche e delle barriere sociali, vale la pena sottolineare esplicitamente che, per certi versi, le innovazioni biomediche hanno un track record insolitamente forte di implementazione di successo, in contrasto con alcune altre tecnologie¹⁶. Come menzionato nell’introduzione, molte tecnologie sono ostacolate da fattori sociali nonostante funzionino bene dal punto di vista tecnico. Ciò potrebbe suggerire una prospettiva pessimistica su ciò che l’IA può realizzare. Ma la biomedicina è unica in quanto, sebbene il processo di sviluppo dei farmaci sia eccessivamente macchinoso, una volta sviluppati questi vengono generalmente implementati e utilizzati con successo.

Per riassumere quanto detto sopra, la mia previsione di base è che la biologia e la medicina potenziate dall’IA ci consentiranno di comprimere in 5-10 anni i progressi che i biologi umani avrebbero compiuto nei prossimi 50-100 anni. Mi riferirò a questo come al “XXI secolo compresso”: l’idea che, una volta sviluppata un’IA potente, in pochi anni realizzeremo tutti i progressi in biologia e medicina che avremmo compiuto nell’intero XXI secolo.

Sebbene prevedere cosa potrà fare un’IA potente in pochi anni rimanga intrinsecamente difficile e speculativo, c’è una certa concretezza nel chiedersi “cosa potrebbero fare gli esseri umani senza aiuto nei prossimi 100 anni? ”. Il semplice fatto di guardare a ciò che abbiamo realizzato nel XX secolo, o di estrapolare dai primi due decenni del XXI, o di chiederci cosa ci darebbero “10 CRISPR e 50 CAR-T”, offre modi pratici e concreti per stimare il livello generale di progresso che potremmo aspettarci da un’IA potente.

Di seguito cerco di stilare un elenco di ciò che potremmo aspettarci. Non si basa su alcuna metodologia rigorosa e quasi certamente si rivelerà errato nei dettagli, ma cerca di trasmettere il livello generale di radicalismo che dovremmo aspettarci:

• ▶︎ Prevenzione e cura affidabili di quasi tutti le malattie infettive naturali¹⁷. Considerati gli enormi progressi compiuti contro le malattie infettive nel XX secolo, non è affatto azzardato immaginare che potremmo più o meno “portare a termine il lavoro” in un XXI secolo compresso. I vaccini a mRNA e tecnologie simili indicano già la strada verso “vaccini per qualsiasi cosa”. Se le malattie infettive saranno completamente sradicate dal mondo (anziché solo in alcuni luoghi) dipende da questioni relative alla povertà e alla disuguaglianza, discusse nella Sezione 3.
• ▶︎ Eliminazione della maggior parte dei tumori. I tassi di mortalità per cancro sono diminuiti di circa il 2% all’anno negli ultimi decenni; quindi, al ritmo attuale della scienza umana, siamo sulla buona strada per eliminare la maggior parte dei tumori nel XXI secolo. Alcuni sottotipi sono già stati in gran parte curati (ad esempio alcuni tipi di leucemia con la terapia CAR-T), e forse sono ancora più entusiasta dei farmaci molto selettivi che prendono di mira il cancro nella sua fase iniziale e impediscono che cresca. L’IA renderà inoltre possibili regimi terapeutici molto adattati con precisione al genoma individualizzato del tumore: questi sono possibili oggi, ma estremamente costosi in termini di tempo e competenze umane, che l’IA dovrebbe permetterci di scalare. Sembrano possibili riduzioni del 95% o più sia nella mortalità che nell’incidenza. Detto questo, il cancro è estremamente vario e adattabile, ed è probabilmente la più difficile di queste malattie da distruggere completamente. Non sarebbe sorprendente se persistesse un assortimento di tumori rari e difficili da curare.
• ▶︎ Prevenzione molto efficace e cure efficaci per le malattie genetiche. Un screening embrionale notevolmente migliorato renderà probabilmente possibile prevenire la maggior parte delle malattie genetiche, e un discendente più sicuro e affidabile di CRISPR potrebbe curare la maggior parte delle malattie genetiche nelle persone esistenti. Le afflizioni che interessano l’intero corpo e coinvolgono una grande frazione di cellule potrebbero tuttavia essere le ultime a resistere.
• ▶︎ Prevenzione dell’Alzheimer. Abbiamo avuto grandi difficoltà a capire cosa causi l’Alzheimer (è in qualche modo correlato alla proteina beta-amiloide, ma i dettagli effettivi sembrano essere molto complessi). Sembra esattamente il tipo di problema che può essere risolto con strumenti di misurazione migliori che isolino gli effetti biologici; pertanto sono ottimista riguardo alla capacità dell’IA di risolverlo. Ci sono buone possibilità che possa essere prevenuto con interventi relativamente semplici, una volta che avremo effettivamente compreso cosa sta succedendo. Detto questo, i danni causati dall’Alzheimer già in atto potrebbero essere molto difficili da invertire.
• ▶︎ Miglioramento del trattamento della maggior parte delle altre malattie. Questa è una categoria generica che comprende altre malattie tra cui il diabete, l’obesità, le malattie cardiache, le malattie autoimmuni e altro ancora. La maggior parte di queste sembra “più facile” da risolvere rispetto al cancro e all’Alzheimer e in molti casi è già in forte calo. Ad esempio, i decessi per malattie cardiache sono già diminuiti di oltre il 50%, e semplici interventi come gli agonisti del GLP-1 hanno già compiuto enormi progressi contro l’obesità e il diabete.
• ▶︎ Libertà biologica. Gli ultimi 70 anni hanno visto progressi nel controllo delle nascite, nella fertilità, nella gestione del peso e in molto altro. Ma sospetto che la biologia accelerata dall’IA amplierà notevolmente ciò che è possibile: peso, aspetto fisico, riproduzione e altri processi biologici saranno completamente sotto il controllo delle persone. Ci riferiremo a questi sotto il titolo di libertà biologica: l’idea che tutti dovrebbero avere il potere di scegliere ciò che vogliono diventare e vivere la propria vita nel modo che più li attrae. Ci saranno ovviamente questioni importanti riguardo all’uguaglianza globale di accesso; vedi la Sezione 3 per queste.
• ▶︎ Raddoppio della durata della vita umana¹⁸. Questo potrebbe sembrare radicale, ma L’aspettativa di vita è aumentata di quasi 2x nel XX secolo (da ~ 40 anni a ~ 75), quindi è “di tendenza” che il “21esimo compresso” lo avrebbe nuovamente raddoppiato a 150. Ovviamente gli interventi coinvolti nel rallentamento del processo di invecchiamento effettivo saranno diversi da quelli che erano necessari nel secolo scorso per prevenire (per lo più l’infanzia) le morti premature da malattie, ma l’entità del cambiamento non è senza precedenti¹⁹. . Concretamente, già lì esistono farmaci che aumentano la durata massima della vita nei ratti del 25-50% con effetti negativi limitati. E alcuni animali (ad esempio alcuni tipi di tartaruga) vivono già 200 anni, quindi gli esseri umani non sono manifestamente a qualche limite superiore teorico. In un’ipotesi, la cosa più importante che è necessaria potrebbe essere affidabile, non-Goodhart-able biomarcatori dell’invecchiamento umano, in quanto ciò consentirà una rapida iterazione sugli esperimenti e sugli studi clinici. Una volta che la durata della vita umana è 150, potremmo essere in grado di raggiungere la “velocità di fuga”, guadagnando abbastanza tempo che la maggior parte di coloro che sono attualmente vivi oggi saranno in grado di vivere quanto vogliono, anche se non c’è certamente alcuna garanzia che questo sia biologicamente possibile.

Vale la pena dare un’occhiata a questo elenco e riflettere su quanto sarà diverso il mondo se tutto ciò verrà realizzato tra 7-12 anni (il che sarebbe in linea con una tempistica aggressiva per l’IA) . Va da sé che sarebbe un trionfo umanitario inimmaginabile, l’eliminazione in un colpo solo della maggior parte dei flagelli che hanno afflitto l’umanità per millenni. Molti dei miei amici e colleghi stanno crescendo dei figli, e quando quei bambini saranno grandi, spero che qualsiasi menzione di malattia suoni per loro come lo scorbuto, il vaiolo o la peste bubbonica suonano per noi. Quella generazione beneficerà anche di una maggiore libertà biologica e di espressione personale e, con un po’ di fortuna, potrà anche vivere quanto desidera.

È difficile sopravvalutare quanto questi cambiamenti saranno sorprendenti per tutti, tranne che per la piccola comunità di persone che si aspettava un’IA potente. Ad esempio, migliaia di economisti ed esperti di politica negli Stati Uniti discutono attualmente su come mantenere solvibili la previdenza sociale e Medicare e, più in generale, su come contenere il costo dell’assistenza sanitaria (che è per lo più utilizzata da chi ha più di 70 anni e in particolare da chi ha malattie terminali come il cancro). La situazione di questi programmi dovrebbe migliorare radicalmente se tutto questo dovesse realizzarsi²⁰, poiché il rapporto tra popolazione in età lavorativa e quella in pensione cambierà drasticamente. Senza dubbio queste sfide saranno sostituite da altre, come ad esempio come garantire un accesso diffuso alle nuove tecnologie, ma vale la pena riflettere su quanto cambierà il mondo anche se la biologia fosse l’unica area ad essere accelerata con successo dall’IA.

2. Neuroscienze e mente

Nella sezione precedente mi sono concentrato sulle malattie fisiche e sulla biologia in generale, senza trattare le neuroscienze o la salute mentale. Ma le neuroscienze sono una sottodisciplina della biologia e la salute mentale è importante tanto quanto quella fisica. Anzi, semmai, la salute mentale influisce sul benessere umano in modo ancora più diretto rispetto a quella fisica. Centinaia di milioni di persone hanno una qualità di vita molto bassa a causa di problemi come dipendenza, depressione, schizofrenia, autismo a basso funzionamento, PTSD, psicopatia²¹ o disabilità intellettive. Altri miliardi lottano con problemi quotidiani che spesso possono essere interpretati come versioni molto più lievi di uno di questi gravi disturbi clinici. E come per la biologia generale, potrebbe essere possibile andare oltre la semplice risoluzione dei problemi per migliorare la qualità di base dell’esperienza umana.

Il quadro di base che ho delineato per la biologia si applica ugualmente alle neuroscienze. Il campo è trainato da un numero limitato di scoperte spesso legate a strumenti di misurazione o di intervento preciso – nell’elenco di cui sopra, l’optogenetica è stata una scoperta delle neuroscienze, e più recentemente CLARITY e la microscopia di espansione sono progressi sulla stessa linea, oltre a molti dei metodi generali della biologia cellulare che si applicano direttamente alle neuroscienze. Penso che il ritmo di questi progressi sarà accelerato in modo simile dall’IA e quindi che il quadro di “100 anni di progressi in 5-10 anni” si applichi alle neuroscienze allo stesso modo in cui si applica alla biologia e per le stesse ragioni. Come in biologia, i progressi nelle neuroscienze del XX secolo sono stati enormi – ad esempio, non capivamo nemmeno come o perché i neuroni si attivassero fino agli anni ’50. Pertanto, sembra ragionevole aspettarsi che le neuroscienze accelerate dall’IA producano rapidi progressi nel giro di pochi anni.

C’è una cosa che dovremmo aggiungere a questo quadro di base, ovvero che alcune delle cose che abbiamo imparato (o stiamo imparando) sull’IA stessa negli ultimi anni potrebbero aiutare a far progredire le neuroscienze, anche se queste continuano a essere condotte solo da esseri umani. L’interpretabilità è un esempio ovvio: sebbene i neuroni biologici operino superficialmente in modo completamente diverso dai neuroni artificiali (comunicano tramite impulsi e spesso frequenze di impulsi, quindi c’è un elemento temporale non presente nei neuroni artificiali, e una serie di dettagli relativi alla fisiologia cellulare e ai neurotrasmettitori ne modifica sostanzialmente il funzionamento), la domanda fondamentale su “come reti distribuite e addestrate di unità semplici che eseguono operazioni combinate lineari/non lineari collaborino per eseguire calcoli importanti” è la stessa, e sospetto fortemente che i dettagli della comunicazione dei singoli neuroni verranno astratti nella maggior parte delle questioni interessanti relative al calcolo e ai circuiti²². Solo per fare un esempio, un meccanismo computazionale scoperto dai ricercatori sull’interpretabilità nei sistemi di IA è stato recentemente riscoperto nel cervello dei topi.

È molto più facile condurre esperimenti sulle reti neurali artificiali che su quelle reali (questi ultimi spesso richiedono l’incisione nel cervello degli animali), quindi l’interpretabilità potrebbe benissimo diventare uno strumento per migliorare la nostra comprensione delle neuroscienze. Inoltre, le IA potenti saranno probabilmente in grado di sviluppare e applicare questo strumento meglio degli esseri umani.

Al di là della semplice interpretabilità, però, ciò che abbiamo imparato dall’IA su come i sistemi intelligenti vengono addestrati dovrebbe (anche se non sono sicuro che abbia già fatto) causare una rivoluzione nelle neuroscienze. Quando lavoravo nel campo delle neuroscienze, molte persone si concentravano su quelle che ora considero domande sbagliate sull’apprendimento, perché il concetto di ipotesi di scalabilità / amara lezione non esisteva ancora. L’idea che una semplice funzione obiettivo più una grande quantità di dati possa determinare comportamenti incredibilmente complessi rende più interessante comprendere le funzioni obiettivo e i pregiudizi architettonici e meno interessante comprendere i dettagli dei calcoli emergenti. Non ho seguito da vicino il settore negli ultimi anni, ma ho la vaga sensazione che i neuroscienziati computazionali non abbiano ancora assimilato appieno la lezione. Il mio atteggiamento nei confronti dell’ipotesi di scalabilità è sempre stato: “Ah, ecco una spiegazione, a un livello alto, di come funziona l’intelligenza e di come si sia evoluta così facilmente”, ma non credo che questa sia l’opinione del neuroscienziato medio, in parte perché l’ipotesi di scalabilità come “il segreto dell’intelligenza” non è pienamente accettata nemmeno all’interno dell’IA.

Penso che i neuroscienziati dovrebbero cercare di combinare questa intuizione di base con le particolarità del cervello umano (limiti biofisici, storia evolutiva, topologia, dettagli degli input/output motori e sensoriali) ) per cercare di risolvere alcuni dei principali enigmi delle neuroscienze. Probabilmente alcuni lo stanno già facendo, ma sospetto che non sia ancora sufficiente e che i neuroscienziati dell’IA saranno in grado di sfruttare più efficacemente questa prospettiva per accelerare i progressi.

Mi aspetto che l’IA acceleri i progressi delle neuroscienze lungo quattro percorsi distinti, che si spera possano collaborare per curare le malattie mentali e migliorare le funzioni:

• ▶︎ Biologia molecolare, chimica e genetica tradizionali. Si tratta essenzialmente della stessa storia della biologia generale nella Sezione 1, e l’IA può probabilmente accelerarla tramite gli stessi meccanismi. Esistono molti farmaci che modulano i neurotrasmettitori per alterare la funzione cerebrale, influenzare lo stato di allerta o la percezione, cambiare l’umore, ecc., e l’IA può aiutarci a inventarne molti altri. L’IA può probabilmente accelerare anche la ricerca sulle basi genetiche delle malattie mentali.
• ▶︎ Misurazione e intervento neurale a livello granulare. Si tratta della capacità di misurare ciò che fanno molti singoli neuroni o circuiti neuronali e di intervenire per modificarne il comportamento. L’optogenetica e le sonde neurali sono tecnologie in grado sia di misurare che di intervenire su organismi viventi, e sono stati proposti anche numerosi metodi molto avanzati (come i nastri molecolari per leggere i modelli di attivazione di un gran numero di singoli neuroni) che e sembrano possibili in linea di principio.
• ▶︎ Neuroscienze computazionali avanzate. Come osservato sopra, sia le intuizioni specifiche che la gestalt dell’IA moderna possono probabilmente essere applicate con successo a questioni di neuroscienze dei sistemi, compreso forse lo svelamento delle cause reali e delle dinamiche di malattie complesse come la psicosi o i disturbi dell’umore.
• ▶︎ Interventi comportamentali. Non ne ho parlato molto data l’attenzione rivolta al lato biologico delle neuroscienze, ma la psichiatria e la psicologia hanno ovviamente sviluppato un ampio repertorio di interventi comportamentali nel corso del XX secolo; è logico che l’IA possa accelerare anche questi, sia lo sviluppo di nuovi metodi sia l’aiuto ai pazienti ad aderire a quelli esistenti. Più in generale, l’idea di un “coach IA ” che ti aiuti sempre a essere la versione migliore di te stesso, che studi le tue interazioni e ti aiuti a imparare a essere più efficace, sembra molto promettente.

La mia ipotesi è che questi quattro percorsi di progresso, lavorando insieme, sarebbero, come per le malattie fisiche, sulla buona strada per portare alla cura o alla prevenzione della maggior parte delle malattie mentali nei prossimi 100 anni, anche se l’IA non fosse coinvolta – e quindi potrebbero ragionevolmente essere completati in 5-10 anni accelerati dall’IA. Concretamente, la mia ipotesi su ciò che accadrà è qualcosa del tipo:

• ▶︎ Probabilmente la maggior parte delle malattie mentali potrà essere curata. Non sono un esperto di malattie psichiatriche (il mio periodo nelle neuroscienze l’ho trascorso a costruire sonde per studiare piccoli gruppi di neuroni), ma la mia ipotesi è che malattie come il disturbo da stress post-traumatico, la depressione, la schizofrenia, la dipendenza, ecc. possano essere comprese e trattate in modo molto efficace tramite una combinazione delle quattro direzioni sopra indicate. La risposta sarà probabilmente una combinazione di “qualcosa è andato storto a livello biochimico” (anche se potrebbe essere molto complesso) e “qualcosa è andato storto nella rete neurale, a un livello superiore” . Cioè, è una questione di neuroscienze dei sistemi — anche se ciò non smentisce l’impatto degli interventi comportamentali discussi sopra. Gli strumenti di misurazione e intervento, specialmente sugli esseri umani vivi, sembrano destinati a portare a rapide iterazioni e progressi.
• ▶︎ Le condizioni che sono molto “strutturali” potrebbero essere più difficili, ma non impossibili. Esistono alcune prove che la psicopatia sia associata a evidenti differenze neuroanatomiche – ovvero che alcune regioni cerebrali siano semplicemente più piccole o meno sviluppate negli psicopatici. Si ritiene inoltre che gli psicopatici siano privi di empatia fin dalla giovane età; qualunque cosa sia diversa nel loro cervello, probabilmente è sempre stata così. Lo stesso potrebbe valere per alcune disabilità intellettive e forse per altre condizioni. Ristrutturare il cervello sembra difficile, ma sembra anche un compito con un alto ritorno in termini di intelligenza. Forse c’è un modo per indurre il cervello adulto a uno stato più precoce o più plastico in cui possa essere rimodellato. Sono molto incerto su quanto ciò sia possibile, ma il mio istinto è di essere ottimista su ciò che l’IA potrà inventare in questo campo.
• ▶︎ La prevenzione genetica efficace delle malattie mentali sembra possibile. La maggior parte delle malattie mentali è parzialmente ereditaria, e gli studi di associazione genomica stanno cominciando a dare risultati nell’identificare i fattori rilevanti, che spesso sono numerosi. Probabilmente sarà possibile prevenire la maggior parte di queste malattie tramite lo screening embrionale, analogamente a quanto avviene per le malattie fisiche. Una differenza è che le malattie psichiatriche sono più probabilmente poligeniche (contribuiscono molti geni), quindi, a causa della complessità, c’è un rischio maggiore di selezionare inconsapevolmente contro tratti positivi che sono correlati alla malattia. Stranamente, però, negli ultimi anni gli studi GWAS sembrano suggerire che queste correlazioni potrebbero essere state sopravvalutate. In ogni caso, le neuroscienze accelerate dall’IA potrebbero aiutarci a capirci qualcosa. Naturalmente, lo screening embrionale per tratti complessi solleva una serie di questioni sociali e sarà controverso, anche se immagino che la maggior parte delle persone sosterrebbe lo screening per malattie mentali gravi o debilitanti.
• ▶︎ Anche i problemi quotidiani che non consideriamo malattie cliniche saranno risolti. La maggior parte di noi ha problemi psicologici quotidiani che di solito non sono considerati al livello di una malattia clinica. Alcune persone si arrabbiano facilmente, altre hanno difficoltà a concentrarsi o sono spesso assonnate, alcune sono timorose o ansiose, o reagiscono male ai cambiamenti. Oggi esistono già farmaci che aiutano, ad esempio, la vigilanza o la concentrazione (caffeina, modafinil, ritalin), ma come in molti altri settori precedenti, è probabile che si possa fare molto di più. Probabilmente esistono molti altri farmaci di questo tipo che non sono stati ancora scoperti, e potrebbero esserci anche modalità di intervento totalmente nuove, come la stimolazione luminosa mirata (vedi optogenetica sopra) o i campi magnetici. Considerando quanti farmaci abbiamo sviluppato nel XX secolo per regolare le funzioni cognitive e lo stato emotivo, sono molto ottimista riguardo al “XXI secolo compresso”, in cui tutti potranno far funzionare il proprio cervello un po’ meglio e vivere un’esperienza quotidiana .
• ▶︎ L’esperienza umana di base può essere molto migliore. Facendo un ulteriore passo avanti, molte persone hanno vissuto momenti straordinari di rivelazione, ispirazione creativa, compassione, appagamento, trascendenza, amore, bellezza o pace meditativa. La natura e la frequenza di queste esperienze variano notevolmente da persona a persona e nella stessa persona in momenti diversi, e a volte possono anche essere innescate da vari farmaci (anche se spesso con effetti collaterali). Tutto ciò suggerisce che lo “spazio di ciò che è possibile sperimentare” sia molto ampio e che una parte più consistente della vita delle persone potrebbe consistere in questi momenti straordinari. Probabilmente è anche possibile migliorare varie funzioni cognitive su tutta la linea. Questa è forse la versione neuroscientifica della “libertà biologica” o dell’“allungamento della durata della vita”.

Un argomento che spesso emerge nelle rappresentazioni fantascientifiche dell’IA, ma che ho intenzionalmente tralasciato qui, è il “mind uploading”, l’idea di catturare il modello e le dinamiche di un cervello umano e di istanziarli in un software. Questo argomento potrebbe essere oggetto di un saggio a sé stante, ma basti dire che, sebbene ritenga che l’upload sia quasi certamente possibile in linea di principio, in pratica esso deve affrontare sfide tecnologiche e sociali significative, anche con un’IA potente, che probabilmente lo collocano al di fuori della finestra temporale di 5-10 anni di cui stiamo discutendo.

In sintesi, le neuroscienze accelerate dall’IA probabilmente miglioreranno notevolmente i trattamenti per la maggior parte delle malattie mentali, o addirittura le cureranno, oltre ad ampliare notevolmente la “libertà cognitiva e mentale” e le capacità cognitive ed emotive umane. Sarà altrettanto radicale quanto i miglioramenti nella salute fisica descritti nella sezione precedente. Forse il mondo non sarà visibilmente diverso dall’esterno, ma il mondo così come viene vissuto dagli esseri umani sarà un luogo molto migliore e più umano, oltre che un luogo che offre maggiori opportunità di autorealizzazione. Sospetto inoltre che una migliore salute mentale allevierà molti altri problemi sociali, compresi quelli che sembrano politici o economici.

3. Sviluppo economico e povertà

Le due sezioni precedenti riguardano lo sviluppo di nuove tecnologie che curano le malattie e migliorano la qualità della vita umana. Tuttavia, una domanda ovvia, da una prospettiva umanitaria, è: “tutti avranno accesso a queste tecnologie?”

Una cosa è sviluppare una cura per una malattia, un’altra è sradicare la malattia dal mondo. Più in generale, molti interventi sanitari esistenti non sono ancora stati applicati in ogni parte del mondo, e lo stesso vale per i miglioramenti tecnologici (non sanitari) in generale. Un altro modo per dirlo è che il tenore di vita in molte parti del mondo è ancora disperatamente basso: il PIL pro capite è di circa 2.000 dollari nell’Africa subsahariana rispetto a circa 75.000 dollari negli Stati Uniti. Se l’IA dovesse aumentare ulteriormente la crescita economica e la qualità della vita nel mondo sviluppato, senza fare molto per aiutare il mondo in via di sviluppo, dovremmo considerarlo un terribile fallimento morale e una macchia sulle autentiche vittorie umanitarie descritte nelle due sezioni precedenti. Idealmente, un’IA potente dovrebbe aiutare il mondo in via di sviluppo a raggiungere il mondo sviluppato, anche mentre rivoluziona quest’ultimo.

Non sono così fiducioso che l’IA possa affrontare la disuguaglianza e la crescita economica quanto lo sono sul fatto che possa inventare tecnologie fondamentali, perché la tecnologia offre rendimenti così evidentemente elevati all’intelligenza (compresa la capacità di aggirare le complessità e la mancanza di dati), mentre l’economia comporta molti vincoli da parte degli esseri umani, oltre a una grande dose di complessità intrinseca. Sono piuttosto scettico sul fatto che un’IA possa risolvere il famoso “problema del calcolo socialista”²³ e non credo che i governi affiderebbero (o dovrebbero affidare) la loro politica economica a un’entità del genere, anche se fosse in grado di farlo. Ci sono anche problemi come quello di convincere le persone a sottoporsi a trattamenti efficaci ma di cui potrebbero diffidare.

Le sfide che il mondo in via di sviluppo deve affrontare sono rese ancora più complicate dalla corruzione dilagante sia nel settore privato che in quello pubblico. La corruzione crea un circolo vizioso: aggrava la povertà e la povertà, a sua volta, genera ulteriore corruzione. I piani di sviluppo economico basati sull’IA devono fare i conti con la corruzione, le istituzioni deboli e altre sfide tipicamente umane.

Ciononostante, vedo motivi significativi per essere ottimisti. Alcune malattie sono state debellate e molti paesi sono passati dalla povertà alla ricchezza, ed è chiaro che le decisioni coinvolte in questi compiti mostrano un alto ritorno sull’intelligenza (nonostante i limiti umani e la complessità). Pertanto, l’IA può probabilmente gestirle meglio di come vengono gestite attualmente. Potrebbero anche esserci interventi mirati che aggirano i limiti umani e su cui l’IA potrebbe concentrarsi. Ma, cosa ancora più importante, dobbiamo provarci. Sia le aziende di IA che i responsabili politici del mondo sviluppato dovranno fare la loro parte per garantire che il mondo in via di sviluppo non venga escluso; l’imperativo morale è troppo grande. Quindi, in questa sezione, continuerò a presentare il punto di vista ottimista, ma tenendo sempre presente che il successo non è garantito e dipende dai nostri sforzi collettivi.

Di seguito espongo alcune ipotesi su come penso che le cose potrebbero andare nei paesi in via di sviluppo nei 5 -10 anni dopo lo sviluppo di un’IA potente:

• ▶︎ Distribuzione degli interventi sanitari. L’area in cui sono forse più ottimista è la distribuzione degli interventi sanitari in tutto il mondo. Alcune malattie sono state effettivamente debellate grazie a campagne top-down: il vaiolo è stato completamente eliminato negli anni ’70, e la poliomielite e la filaria di Guinea sono quasi debellate, con meno di 100 casi all’anno. Modelli epidemiologici matematicamente sofisticati svolgono un ruolo attivo nelle campagne di eradicazione delle malattie, e sembra molto probabile che ci sia spazio per sistemi di IA più intelligenti degli esseri umani per svolgere un lavoro migliore rispetto a noi. Probabilmente anche la logistica della distribuzione può essere notevolmente ottimizzata. Una cosa che ho imparato come donatore di prima ora di GiveWell è che alcune organizzazioni benefiche nel campo della salute sono molto più efficaci di altre; la speranza è che gli sforzi accelerati dall’IA siano ancora più efficaci. Inoltre, alcuni progressi biologici rendono effettivamente la logistica della distribuzione molto più semplice: ad esempio, la malaria è stata difficile da eradicare perché richiede un trattamento ogni volta che si contrae la malattia; un vaccino che deve essere somministrato una sola volta rende la logistica molto più semplice (e tali vaccini contro la malaria sono infatti attualmente in fase di sviluppo). Sono possibili meccanismi di distribuzione ancora più semplici: alcune malattie potrebbero in linea di principio essere debellate prendendo di mira i loro vettori animali, ad esempio rilasciando zanzare infettate da un batterio che blocca la loro capacità di trasmettere una malattia (che poi infettano tutte le altre zanzare) o semplicemente utilizzando gene drive per eliminare le zanzare. Ciò richiede una o poche azioni centralizzate, piuttosto che una campagna coordinata che debba trattare individualmente milioni di persone. Nel complesso, penso che 5-10 anni siano un lasso di tempo ragionevole affinché una buona parte (forse il 50%) dei benefici sanitari derivanti dall’IA si diffonda anche nei paesi più poveri del mondo. Un buon obiettivo potrebbe essere che, 5-10 anni dopo l’avvento di un’IA potente, il mondo in via di sviluppo sia almeno sostanzialmente più sano di quanto lo sia oggi il mondo sviluppato, anche se continuerà a rimanere indietro rispetto al mondo sviluppato. Raggiungere questo obiettivo richiederà ovviamente un enorme sforzo in termini di salute globale, filantropia, sostegno politico e molti altri sforzi, ai quali dovrebbero contribuire sia gli sviluppatori di IA che i responsabili politici.
• ▶︎ Crescita economica. Il mondo in via di sviluppo può recuperare rapidamente il ritardo rispetto al mondo sviluppato, non solo in termini di salute, ma a tutti i livelli dal punto di vista economico? Esistono alcuni precedenti in tal senso: negli ultimi decenni del XX secolo, diverse economie dell’Asia orientale hanno raggiunto tassi di crescita del PIL reale annui sostenuti pari a circa il 10%, consentendo loro di recuperare il ritardo rispetto al mondo sviluppato. I pianificatori economici umani hanno preso le decisioni che hanno portato a questo successo, non controllando direttamente intere economie, ma azionando alcune leve chiave (come una politica industriale di crescita trainata dalle esportazioni e resistendo alla tentazione di fare affidamento sulla ricchezza delle risorse naturali); è plausibile che “ministri delle finanze e banchieri centrali basati sull’IA” possano replicare o superare questo risultato del 10%. Una domanda importante è come convincere i governi del mondo in via di sviluppo ad adottarli rispettando il principio di autodeterminazione: alcuni potrebbero esserne entusiasti, ma altri saranno probabilmente scettici. Guardando al lato ottimistico, molti degli interventi sanitari menzionati nel punto precedente potrebbero aumentare organicamente la crescita economica: l’eradicazione dell’AIDS, della malaria e dei vermi parassiti avrebbe un effetto trasformativo sulla produttività, per non parlare dei benefici economici che alcuni degli interventi nel campo delle neuroscienze (come il miglioramento dell’umore e della concentrazione) avrebbero sia nei paesi sviluppati che in quelli in via di sviluppo. Infine, le tecnologie non sanitarie accelerate dall’IA (come le tecnologie energetiche, i droni per il trasporto, i materiali da costruzione migliorati, una logistica e una distribuzione più efficienti, e così via) potrebbero semplicemente diffondersi nel mondo in modo naturale; ad esempio, anche i telefoni cellulari si sono rapidamente diffusi nell’Africa subsahariana attraverso i meccanismi di mercato, senza bisogno di sforzi filantropici. Dal punto di vista più negativo, sebbene l’IA e l’automazione abbiano molti potenziali benefici, pongono anche delle sfide per lo sviluppo economico, in particolare per i paesi che non si sono ancora industrializzati. Trovare modi per garantire che questi paesi possano comunque sviluppare e migliorare le loro economie in un’era di crescente automazione è una sfida importante che gli economisti e i responsabili politici devono affrontare. Nel complesso, uno scenario ideale — forse un obiettivo a cui puntare — sarebbe un tasso di crescita annuo del PIL del 20% nei paesi in via di sviluppo, con il 10% proveniente da decisioni economiche basate sull’IA e dalla diffusione naturale delle tecnologie accelerate dall’IA, inclusa, ma non limitata alla sanità. Se raggiunto, questo porterebbe l’Africa subsahariana all’attuale PIL pro capite della Cina in 5-10 anni, mentre eleverebbe gran parte del resto del mondo in via di sviluppo a livelli superiori all’attuale PIL degli Stati Uniti. Ancora una volta, questo è uno scenario da sogno, non ciò che accade di default: è qualcosa per cui tutti noi dobbiamo lavorare insieme per renderlo più probabile.
• ▶︎ Sicurezza alimentare²⁴ I progressi nella tecnologia agricola, quali fertilizzanti e pesticidi più efficaci, una maggiore automazione e un uso più efficiente del territorio, hanno aumentato drasticamente le rese agricole nel corso del XX secolo, salvando milioni di persone dalla fame. L’ingegneria genetica sta attualmente migliorando ulteriormente molte colture. Trovare nuovi modi per raggiungere questo obiettivo — oltre che per rendere ancora più efficienti le catene di approvvigionamento agricole — potrebbe portare a una seconda Rivoluzione Verde guidata dall’intelligenza artificiale, contribuendo a colmare il divario tra il mondo in via di sviluppo e quello sviluppato. 
• ▶︎ Mitigazione dei cambiamenti climatici. I cambiamenti climatici si faranno sentire molto più fortemente nel mondo in via di sviluppo, ostacolandone lo sviluppo. Possiamo aspettarci che l’IA porti a miglioramenti nelle tecnologie che rallentano o prevengono i cambiamenti climatici, dalla rimozione del carbonio dall’atmosfera e dalle tecnologie per l’energia pulita alla carne coltivata in laboratorio che riduce la nostra dipendenza dall’allevamento intensivo ad alta intensità di carbonio. Naturalmente, come discusso sopra, la tecnologia non è l’unica cosa che limita i progressi sul cambiamento climatico: come per tutte le altre questioni discusse in questo saggio, i fattori sociali umani sono importanti. Ma ci sono buoni motivi per pensare che la ricerca potenziata dall’IA ci fornirà i mezzi per rendere la mitigazione del cambiamento climatico molto meno costosa e dirompente, rendendo molte delle obiezioni irrilevanti e consentendo ai paesi in via di sviluppo di compiere maggiori progressi economici.
• ▶︎ Disuguaglianza all’interno dei paesi. Ho parlato principalmente della disuguaglianza come fenomeno globale (che ritengo sia la sua manifestazione più importante), ma ovviamente la disuguaglianza esiste anche all’interno dei paesi. Con interventi sanitari avanzati e soprattutto aumenti radicali dell’aspettativa di vita o farmaci per il potenziamento cognitivo, ci saranno certamente preoccupazioni fondate che queste tecnologie siano “solo per i ricchi”. Sono più ottimista riguardo alla disuguaglianza all’interno dei paesi, specialmente nel mondo sviluppato, per due ragioni. In primo luogo, i mercati funzionano meglio nel mondo sviluppato, e i mercati sono tipicamente efficaci nel ridurre il costo delle tecnologie ad alto valore nel tempo²⁵ In secondo luogo, le istituzioni politiche del mondo sviluppato sono più reattive nei confronti dei propri cittadini e dispongono di una maggiore capacità statale di attuare programmi di accesso universale — e mi aspetto che i cittadini richiedano l’accesso a tecnologie che migliorano così radicalmente la qualità della vita. Naturalmente non è scontato che tali richieste abbiano successo —e qui c’è un altro ambito in cui dobbiamo fare collettivamente tutto il possibile per garantire una società equa. Esiste un problema a sé stante nell’ineguaglianza della ricchezza (in contrapposizione all’ineguaglianza nell’accesso alle tecnologie salvavita e che migliorano la vita), che sembra più difficile e di cui discuto nella Sezione 5.
• ▶︎ Il problema dell’opt-out. Una preoccupazione sia nel mondo sviluppato che in quello in via di sviluppo è che le persone rinuncino ai benefici offerti dall’IA (simile al movimento anti-vaccini, o ai movimenti luddisti più in generale) . Si potrebbero creare circoli viziosi in cui, ad esempio, le persone meno in grado di prendere buone decisioni rinuncino proprio alle tecnologie che migliorano le loro capacità decisionali, portando a un divario sempre crescente e creando persino una sottoclasse distopica (alcuni ricercatori hanno sostenuto che ciò minerà la democrazia, un argomento che approfondisco nella sezione successiva). Ciò getterebbe, ancora una volta, un’ombra morale sui progressi positivi dell’IA. Si tratta di un problema difficile da risolvere, poiché non ritengo eticamente accettabile costringere le persone, ma possiamo almeno cercare di aumentare la comprensione scientifica delle persone — e forse l’IA stessa può aiutarci in questo. Un segnale di speranza è che storicamente i movimenti anti-tecnologici sono stati più chiacchiere che fatti: inveire contro la tecnologia moderna è popolare, ma alla fine la maggior parte delle persone la adotta, almeno quando si tratta di una scelta individuale. Gli individui tendono ad adottare la maggior parte delle tecnologie sanitarie e di consumo, mentre le tecnologie che incontrano ostacoli concreti, come l’energia nucleare, tendono a essere oggetto di decisioni politiche collettive.

Nel complesso, sono ottimista riguardo alla possibilità di portare rapidamente i progressi biologici dell’IA alle persone nei paesi in via di sviluppo. Sono fiducioso, anche se non sicuro, che l’IA possa anche consentire tassi di crescita economica senza precedenti e permettere ai paesi in via di sviluppo di superare almeno il livello attuale dei paesi sviluppati. Sono preoccupato per il problema dell’“opt-out” sia nei paesi sviluppati che in quelli in via di sviluppo, ma sospetto che si esaurirà col tempo e che l’IA possa aiutare ad accelerare questo processo. Non sarà un mondo perfetto, e chi è in ritardo non riuscirà a recuperare completamente, almeno non nei primi anni. Ma con un forte impegno da parte nostra, potremmo essere in grado di far andare le cose nella giusta direzione, e in fretta. Se lo facciamo, potremo almeno versare un acconto sulle promesse di dignità e uguaglianza che dobbiamo a ogni essere umano sulla terra.

4. Pace e governance

Supponiamo che tutto nelle prime tre sezioni vada bene: malattie, povertà e disuguaglianza sono significativamente ridotte e il livello di base dell’esperienza umana è notevolmente migliorato. Non ne consegue che tutte le principali cause della sofferenza umana siano risolte. Gli esseri umani rappresentano ancora una minaccia gli uni per gli altri. Sebbene vi sia una tendenza al progresso tecnologico e allo sviluppo economico che porta alla democrazia e alla pace, si tratta di una tendenza molto labile, con frequenti (e recenti) battute d’arresto. All’alba del XX secolo, la gente pensava di essersi lasciata la guerra alle spalle; poi sono arrivate le due guerre mondiali. Trent’anni fa Francis Fukuyama scrisse della “ la fine della storia” e al trionfo finale della democrazia liberale; ciò non è ancora avvenuto. Vent’anni fa i politici statunitensi credevano che il libero scambio con la Cina ne avrebbe determinato la liberalizzazione man mano che il Paese si arricchiva; ciò non è affatto avvenuto, e ora sembriamo destinati a una seconda Guerra Fredda con un blocco autoritario in ripresa. E teorie plausibili suggeriscono che la tecnologia di Internet possa effettivamente avvantaggiare l’autoritarismo, non la democrazia come inizialmente creduto (ad esempio nel periodo della “Primavera araba”) . Sembra importante cercare di capire in che modo l’IA potente si intreccerà con queste questioni di pace, democrazia e libertà.

Purtroppo, non vedo ragioni valide per credere che l’IA promuoverà in modo preferenziale o strutturale la democrazia e la pace, così come penso che promuoverà strutturalmente la salute umana e allevierà la povertà. Il conflitto umano è antagonistico e l’IA può in linea di principio aiutare sia i “buoni” che i “cattivi”. Semmai, alcuni fattori strutturali sembrano preoccupanti: l’IA sembra destinata a consentire una propaganda e una sorveglianza molto più efficaci, entrambi strumenti fondamentali nell’arsenale degli autocrati. Spetta quindi a noi, come singoli attori, far pendere l’ago della bilancia nella giusta direzione: se vogliamo che l’IA favorisca la democrazia e i diritti individuali, dovremo lottare per ottenere quel risultato. Sono ancora più convinto di questo che della disuguaglianza internazionale: il trionfo della democrazia liberale e della stabilità politica non è garantito, forse non è nemmeno probabile, e richiederà grandi sacrifici e impegno da parte di tutti noi, come spesso è avvenuto in passato.

Ritengo che la questione si componga di due parti: il conflitto internazionale e la struttura interna delle nazioni. Sul versante internazionale, sembra molto importante che le democrazie abbiano il sopravvento sulla scena mondiale quando verrà creata un’IA potente. L’autoritarismo alimentato dall’IA sembra troppo terribile da contemplare, quindi le democrazie devono essere in grado di stabilire i termini con cui un’IA potente viene introdotta nel mondo, sia per evitare di essere sopraffatte dagli autoritari sia per prevenire violazioni dei diritti umani all’interno dei paesi autoritari.

La mia ipotesi attuale sul modo migliore per farlo è attraverso una “strategia di intesa”²⁶, in cui una coalizione di democrazie cerchi di ottenere un chiaro vantaggio (anche solo temporaneo) sull’IA potente assicurandosi la sua catena di approvvigionamento, espandendosi rapidamente e bloccando o ritardando l’accesso degli avversari a risorse chiave come chip e apparecchiature per semiconduttori. Questa coalizione da un lato userebbe l’IA per ottenere una solida superiorità militare (il bastone) e allo stesso tempo offrirebbe di distribuire i benefici dell’IA potente (la carota) a un gruppo sempre più ampio di paesi in cambio del sostegno alla strategia della coalizione volta a promuovere la democrazia (questo sarebbe in qualche modo analogo a “Atomi per la pace”). La coalizione mirerebbe a ottenere il sostegno di una parte sempre più ampia del mondo, isolando i nostri peggiori avversari e mettendoli infine in una posizione in cui farebbero meglio ad accettare lo stesso accordo del resto del mondo: rinunciare a competere con le democrazie per ricevere tutti i benefici e non combattere un nemico superiore.

Se riusciremo a fare tutto questo, avremo un mondo in cui le democrazie guidano la scena mondiale e dispongono della forza economica e militare necessaria per evitare di essere minate, conquistate o sabotate dalle autocrazie, e potrebbero essere in grado di trasformare la loro superiorità nell’IA in un vantaggio duraturo. Questo potrebbe portare, in una visione ottimistica, a un “eterno 1991”: un mondo in cui le democrazie hanno il sopravvento e i sogni di Fukuyama si realizzano. Ancora una volta, questo sarà molto difficile da realizzare e richiederà in particolare una stretta cooperazione tra le aziende private di IA e i governi democratici, oltre a decisioni straordinariamente sagge sull’equilibrio tra bastone e carota.

Anche se tutto andasse per il meglio, rimarrebbe la questione della lotta tra democrazia e autocrazia all’interno di ciascun paese. È ovviamente difficile prevedere cosa accadrà in questo caso, ma nutro un certo ottimismo sul fatto che, dato un contesto globale in cui le democrazie controllano l’IA più potente, allora l’IA potrebbe effettivamente favorire strutturalmente la democrazia ovunque. In particolare, in questo contesto i governi democratici possono utilizzare la loro IA superiore per vincere la guerra dell’informazione: possono contrastare le operazioni di influenza e propaganda delle autocrazie e potrebbero persino essere in grado di creare un ambiente informativo globalmente libero, fornendo canali di informazione e servizi di IA in un modo che le autocrazie non hanno la capacità tecnica di bloccare o monitorare. Probabilmente non è necessario diffondere propaganda, ma solo contrastare attacchi malevoli e sbloccare il libero flusso di informazioni. Sebbene non sia immediato, un campo di gioco livellato come questo ha buone possibilità di orientare gradualmente la governance globale verso la democrazia, per diversi motivi.

In primo luogo, il miglioramento della qualità della vita descritto nelle Sezioni 1-3 dovrebbe, a parità di condizioni, promuovere la democrazia: storicamente è stato così, almeno in una certa misura. In particolare, mi aspetto che i miglioramenti nella salute mentale, nel benessere e nell’istruzione aumentino la democrazia, poiché tutti e tre sono negativamente correlati al sostegno ai leader autoritari. In generale, le persone desiderano una maggiore espressione di sé quando i loro altri bisogni sono soddisfatti, e la democrazia è, tra le altre cose, una forma di espressione di sé. Al contrario, l’autoritarismo prospera sulla paura e sul risentimento.

In secondo luogo, c’è una buona probabilità che l’informazione libera minacci davvero l’autoritarismo, purché gli autoritari non possano censurarla. E l’IA non censurata può anche fornire agli individui potenti strumenti per minare i governi repressivi. I governi repressivi sopravvivono negando alle persone un certo tipo di conoscenza comune, impedendo loro di rendersi conto che “il re è nudo”. Ad esempio Srda Popovic, che ha contribuito a rovesciare il governo di Miloševic in Serbia, ha scritto ampiamente sulle tecniche per privare psicologicamente gli autoritari del loro potere, per rompere l’incantesimo e raccogliere sostegno contro un dittatore. Una versione di Popovic in forma di IA dall’efficacia sovrumana (le cui competenze sembrano avere un alto rendimento in termini di intelligenza) a portata di mano di tutti, che i dittatori non possano bloccare o censurare, potrebbe dare una spinta ai dissidenti e ai riformatori di tutto il mondo. Per dirla ancora una volta, questa sarà una lotta lunga e protratta, in cui la vittoria non è assicurata, ma se progettiamo e costruiamo l’IA nel modo giusto, potrebbe almeno essere una lotta in cui i sostenitori della libertà ovunque abbiano un vantaggio.

Come per le neuroscienze e la biologia, possiamo anche chiederci come le cose potrebbero essere “migliori del normale” —non solo come evitare l’autocrazia, ma come rendere le democrazie migliori di quanto non siano oggi. Anche all’interno delle democrazie, le ingiustizie avvengono continuamente. Le società basate sullo Stato di diritto promettono ai propri cittadini che tutti saranno uguali davanti alla legge e che tutti hanno diritto ai diritti umani fondamentali, ma ovviamente le persone non sempre godono di tali diritti nella pratica. Il fatto che questa promessa sia anche solo parzialmente mantenuta è motivo di orgoglio, ma l’IA può aiutarci a fare di meglio?

Ad esempio, l’IA potrebbe migliorare il nostro sistema legale e giudiziario rendendo le decisioni e i processi più imparziali? Oggi, in contesti legali o giudiziari, le persone temono soprattutto che i sistemi di IA possano essere una causa di discriminazione, e queste preoccupazioni sono importanti e devono essere affrontate. Allo stesso tempo, la vitalità della democrazia dipende dallo sfruttamento delle nuove tecnologie per migliorare le istituzioni democratiche, non solo per rispondere ai rischi. Un’implementazione dell’IA veramente matura e di successo ha il potenziale di ridurre i pregiudizi e di essere più equa per tutti.

Per secoli, i sistemi giuridici hanno affrontato il dilemma che la legge mira ad essere imparziale, ma è intrinsecamente soggettiva e quindi deve essere interpretata da esseri umani che hanno pregiudizi. Cercare di rendere la legge completamente meccanica non ha funzionato perché il mondo reale è disordinato e non può sempre essere catturato in formule matematiche. Invece, i sistemi giuridici si basano su criteri notoriamente imprecisi come “punizione crudele e inusuale” o “del tutto privo di importanza sociale”, che gli esseri umani poi interpretano — e spesso lo fanno in un modo che mostra pregiudizi, favoritismi o arbitrarietà. “ I contratti intelligenti” nelle criptovalute non hanno rivoluzionato il diritto perché il codice ordinario non è abbastanza intelligente per giudicare tutte le questioni di interesse. Ma l’IA potrebbe esserlo: è la prima tecnologia in grado di formulare in modo ripetibile e meccanico.

Non sto suggerendo di sostituire letteralmente i giudici con sistemi di IA, ma la combinazione di imparzialità e capacità di comprendere ed elaborare situazioni complesse del mondo reale sembra poter avere alcune importanti applicazioni positive per il diritto e la giustizia. Come minimo, tali sistemi potrebbero affiancare gli esseri umani come ausilio al processo decisionale. La trasparenza sarebbe importante in qualsiasi sistema di questo tipo, e una scienza dell’IA matura potrebbe plausibilmente fornirla: il processo di addestramento di tali sistemi potrebbe essere studiato in modo approfondito, e tecniche avanzate di interpretabilità potrebbero essere utilizzate per esaminare l’interno del modello finale e valutarne eventuali pregiudizi nascosti, in un modo che semplicemente non è possibile con gli esseri umani. Tali strumenti di IA potrebbero anche essere utilizzati per monitorare le violazioni dei diritti fondamentali in un contesto giudiziario o di polizia, rendendo le costituzioni più autoapplicabili.

Allo stesso modo, l’IA potrebbe essere utilizzata sia per aggregare opinioni sia per favorire il consenso tra i cittadini, risolvendo i conflitti, trovando un terreno comune e cercando un compromesso. Alcune prime idee in questa direzione sono state intraprese dal progetto di democrazia computazionale, comprese collaborazioni con Anthropic. Una cittadinanza più informata e consapevole rafforzerebbe ovviamente le istituzioni democratiche.

C’è anche una chiara opportunità di utilizzare l’IA per aiutare a fornire servizi pubblici — come le prestazioni sanitarie o i servizi sociali — che in linea di principio sono disponibili per tutti ma che in pratica spesso sono gravemente carenti, e in alcuni luoghi peggio che in altri. Ciò include i servizi sanitari, la motorizzazione, le tasse, la previdenza sociale, l’applicazione delle norme edilizie e così via. Avere un’IA molto attenta e informata il cui compito sia quello di fornirti tutto ciò a cui hai legalmente diritto da parte del governo in un modo che tu possa comprendere — e che ti aiuti anche a rispettare le regole governative spesso confuse — sarebbe una cosa importante. Aumentare la capacità dello Stato aiuta sia a mantenere la promessa di uguaglianza davanti alla legge, sia a rafforzare il rispetto per la governance democratica. I servizi mal implementati sono attualmente uno dei principali fattori di cinismo nei confronti del governo²⁷.

Tutte queste sono idee piuttosto vaghe e, come ho detto all’inizio di questa sezione, non sono affatto così fiducioso nella loro fattibilità quanto lo sono nei progressi della biologia, delle neuroscienze e della lotta alla povertà. Potrebbero essere utopie irrealistiche. Ma l’importante è avere una visione ambiziosa, essere disposti a sognare in grande e a sperimentare. La visione dell’IA come garante della libertà, dei diritti individuali e dell’uguaglianza davanti alla legge è una visione troppo potente per non lottare per essa. Una società del XXI secolo potrebbe essere sia un più forte protettore della libertà individuale, sia un faro di speranza che contribuisca a rendere la democrazia liberale la forma di governo che il mondo intero vuole adottare.

5. Lavoro e significato

Anche se tutto nelle quattro sezioni precedenti andasse per il meglio – non solo alleviassimo malattie, povertà e disuguaglianza, ma la democrazia liberale diventasse la forma di governo dominante e le democrazie liberali esistenti diventassero versioni migliori di se stesse – rimarrebbe comunque almeno una domanda importante. “È fantastico vivere in un mondo tecnologicamente avanzato oltre che equo e dignitoso”, qualcuno potrebbe obiettare, “ma con le IA che fanno tutto, quale senso avrà la vita degli esseri umani? E, a proposito, come sopravviveranno economicamente?”.

Penso che questa domanda sia più difficile delle altre. Non intendo dire che io sia necessariamente più pessimista al riguardo rispetto alle altre questioni (anche se ne vedo le sfide). Intendo dire che è più sfuggente e difficile da prevedere in anticipo, perché riguarda questioni macroscopiche su come è organizzata la società che tendono a risolversi solo nel tempo e in modo decentralizzato. Ad esempio, le società storiche di cacciatori-raccoglitori avrebbero potuto immaginare che la vita fosse priva di significato senza la caccia e vari tipi di rituali religiosi legati alla caccia, e avrebbero immaginato che la nostra società tecnologica ben nutrita fosse priva di scopo. Potrebbero anche non aver compreso come la nostra economia possa provvedere a tutti, o quale funzione le persone possano svolgere utilmente in una società meccanizzata.

Tuttavia, vale la pena dire almeno qualche parola, tenendo presente che la brevità di questa sezione non deve affatto essere interpretata come un segno che non prendo sul serio queste questioni — al contrario, è un segno della mancanza di risposte chiare.

Sulla questione del significato, penso che sia molto probabilmente un errore credere che i compiti che si intraprendono siano privi di significato semplicemente perché un’IA potrebbe svolgerli meglio. La maggior parte delle persone non è la migliore al mondo in nulla, e questo non sembra dar loro particolarmente fastidio. Naturalmente oggi possono ancora contribuire attraverso il vantaggio comparativo e possono trarre significato dal valore economico che producono, ma le persone apprezzano molto anche attività che non producono alcun valore economico. Passo molto tempo a giocare ai videogiochi, a nuotare, a passeggiare all’aperto e a parlare con gli amici, tutte attività che generano zero valore economico. Potrei passare una giornata cercando di migliorare in un videogioco, o di diventare più veloce nell’andare in bicicletta in salita, e non mi importa davvero che da qualche parte ci sia qualcuno molto più bravo in quelle cose. In ogni caso, penso che il significato derivi principalmente dalle relazioni umane e dalla connessione, non dal lavoro economico. Le persone vogliono un senso di realizzazione, persino un senso di competizione, e in un mondo post -IA sarà perfettamente possibile passare anni a tentare un compito molto difficile con una strategia complessa, simile a ciò che le persone fanno oggi quando intraprendono progetti di ricerca, cercano di diventare attori di Hollywood o fondano aziende²⁸. Il fatto che (a) un’IA da qualche parte potrebbe in linea di principio svolgere questo compito meglio, e (b) questo compito non sia più un elemento economicamente remunerato di un’economia globale, non mi sembrano avere molta importanza.

La questione economica mi sembra in realtà più difficile di quella del significato. Con “economica” in questa sezione intendo il possibile problema che la maggior parte o tutti gli esseri umani potrebbero non essere in grado di contribuire in modo significativo a un’economia guidata dall’IA sufficientemente avanzata. Si tratta di un problema più macro rispetto al problema separato della disuguaglianza, in particolare della disuguaglianza nell’accesso alle nuove tecnologie, di cui ho discusso nella Sezione 3.

Innanzitutto, nel breve termine concordo con le argomentazioni secondo cui il vantaggio comparativo continuerà a mantenere gli esseri umani rilevanti e di fatto aumenterà la loro produttività, e potrebbe persino in qualche modo livellare il campo di gioco tra gli esseri umani. Finché l’IA è migliore solo nel 90% di un determinato lavoro, il restante 10% farà sì che gli esseri umani diventino altamente sfruttati, aumentando la retribuzione e creando di fatto una serie di nuovi posti di lavoro umani che integrano e amplificano ciò in cui l’IA è brava, in modo tale che quel “10%” si espanda per continuare a dare lavoro a quasi tutti. Infatti, anche se l’IA potesse fare il 100% delle cose meglio degli esseri umani, ma rimanesse inefficiente o costosa in alcuni compiti, o se le risorse in input per gli esseri umani e le IA fossero significativamente diverse, allora la logica del vantaggio comparativo continuerebbe ad applicarsi. Un’area in cui gli esseri umani probabilmente manterranno un vantaggio relativo (o addirittura assoluto) per un periodo significativo è il mondo fisico. Pertanto, penso che l’economia umana possa continuare ad avere senso anche un po’ oltre il punto in cui raggiungeremo “un paese di geni in un data center” .

Tuttavia, penso che nel lungo periodo l’IA diventerà così ampiamente efficace e così economica che questo non sarà più vero. A quel punto il nostro attuale assetto economico non avrà più senso, e ci sarà bisogno di un dibattito sociale più ampio su come l’economia dovrebbe essere organizzata.

Anche se possa sembrare folle, il fatto è che la civiltà ha superato con successo grandi cambiamenti economici in passato: dalla caccia e dalla raccolta all’agricoltura, dall’agricoltura al feudalesimo e dal feudalesimo all’industrialismo. Sospetto che sarà necessaria qualcosa di nuovo e di più strano, e che sia qualcosa che nessuno oggi è riuscito a immaginare bene. Potrebbe essere semplice come un grande reddito di base universale per tutti, anche se sospetto che sarà solo una piccola parte della soluzione. Potrebbe trattarsi di un’economia capitalista basata su sistemi di IA, che poi distribuiscano risorse (in quantità enormi, dato che la torta economica complessiva sarà gigantesca) agli esseri umani sulla base di una sorta di economia secondaria, secondo ciò che i sistemi di IA ritengono sensato premiare negli esseri umani (in base a un giudizio derivante, in ultima analisi, dai valori umani). Forse l’economia funzionerà con i punti Whuffie. O forse gli esseri umani continueranno ad avere un valore economico, dopotutto, in un modo non previsto dai modelli economici tradizionali. Tutte queste soluzioni presentano innumerevoli problemi potenziali, e non è possibile sapere se avranno senso senza numerose iterazioni e sperimentazioni. E, come per alcune delle altre sfide, probabilmente dovremo lottare per ottenere un buon risultato in questo ambito: sono chiaramente possibili anche sviluppi di tipo sfruttatore o distopico, che devono essere prevenuti. Si potrebbe scrivere molto di più su queste questioni e spero di farlo in un secondo momento.

Fare il punto della situazione

Attraverso i vari argomenti sopra citati, ho cercato di delineare una visione di un mondo che sia plausibile se tutto va per il verso giusto con l’IA, e molto migliore del mondo di oggi. Non so se questo mondo sia realistico, e anche se lo fosse, non sarà raggiunto senza un enorme sforzo e una lotta da parte di molte persone coraggiose e dedite. Tutti (comprese le aziende di IA!) dovranno fare la loro parte sia per prevenire i rischi che per realizzare appieno i benefici.

Ma è un mondo per cui vale la pena lottare. Se tutto questo dovesse davvero accadere nei prossimi 5-10 anni – la sconfitta della maggior parte delle malattie, la crescita della libertà biologica e cognitiva, l’uscita dalla povertà di miliardi di persone per condividere le nuove tecnologie, una rinascita della democrazia liberale e dei diritti umani – sospetto che chiunque lo vedrà rimarrà sorpreso dall’effetto che avrà su di lui. Non intendo l’esperienza di beneficiare personalmente di tutte le nuove tecnologie, anche se quella sarà certamente incredibile. Intendo l’esperienza di vedere una serie di ideali a lungo coltivati materializzarsi davanti a noi tutti in una volta. Penso che molti ne saranno letteralmente commossi fino alle lacrime.

Durante la stesura di questo saggio ho notato una tensione interessante. In un certo senso la visione qui delineata è estremamente radicale: non è ciò che quasi nessuno si aspetta che accada nel prossimo decennio e probabilmente apparirà a molti come una fantasia assurda. Alcuni potrebbero persino non considerarla auspicabile; incarna valori e scelte politiche con cui non tutti saranno d’accordo. Ma allo stesso tempo c’è qualcosa di abbagliante e ovvio – qualcosa di sovradeterminato – in essa, come se molti tentativi diversi di immaginare un mondo migliore portassero inevitabilmente più o meno qui.

---

https://www.asterios.it/catalogo/la-mente-umana-e-la-mente-artificiale

L’Intelligenza Artificiale aspira a diventare Mente. Il suo frutto principale è stato finora quello di farci comprendere meglio l’armonia che l’evoluzione ha fornito alla nostra.

---

In The Player of Games di Iain M. Banks²⁹, il protagonista – membro di una società chiamata la Cultura, basata su principi non dissimili da quelli che ho esposto qui – si reca in un impero repressivo e militarista in cui la leadership è determinata dalla competizione in un intricato gioco di battaglia. Il gioco, tuttavia, è abbastanza complesso da far sì che la strategia di un giocatore al suo interno tenda a riflettere la propria visione politica e filosofica. Il protagonista riesce a sconfiggere l’imperatore nel gioco, dimostrando che i suoi valori (i valori della Cultura) rappresentano una strategia vincente anche in un gioco ideato da una società basata sulla competizione spietata e sulla sopravvivenza del più forte. Un noto post di Scott Alexander sostiene la stessa tesi: che la competizione è controproducente e tende a portare a una società basata sulla compassione e sulla cooperazione. L’“arco dell’universo morale” è un altro concetto simile.

Penso che i valori della Cultura siano una strategia vincente perché sono la somma di un milione di piccole decisioni che hanno una chiara forza morale e che tendono a riunire tutti dalla stessa parte. È difficile contestare le intuizioni umane fondamentali di equità, cooperazione, curiosità e autonomia sono difficili da contestare e sono cumulative in un modo che i nostri impulsi più distruttivi spesso non sono. È facile sostenere che i bambini non dovrebbero morire di malattia se possiamo prevenirla, e da lì è facile sostenere che tutti i bambini di tutti meritino questo diritto in egual misura. Da lì non è difficile sostenere che dovremmo unirci e mettere in campo il nostro intelletto per raggiungere questo risultato. Pochi dissentono sul fatto che le persone debbano essere punite per aver aggredito o ferito gli altri inutilmente, e da lì il passo verso l’idea che le punizioni debbano essere coerenti e sistematiche per tutti non è poi così lungo. È altrettanto intuitivo che le persone debbano avere autonomia e responsabilità sulle proprie vite e sulle proprie scelte. Queste semplici intuizioni, se portate alla loro logica conclusione, portano alla fine allo Stato di diritto, alla democrazia e ai valori dell’Illuminismo. Se non inevitabilmente, almeno come tendenza statistica, è lì che l’umanità era già diretta. L’IA offre semplicemente un’opportunità per arrivarci più rapidamente — per rendere la logica più netta e la destinazione più chiara.

Ciononostante, è una cosa di bellezza trascendente. Abbiamo l’opportunità di svolgere un piccolo ruolo nel renderla reale.

Grazie a Kevin Esvelt, Parag Mallick, Stuart Ritchie, Matt Yglesias, Erik Brynjolfsson, Jim McClave, Allan Dafoe e a molte persone di Anthropic per aver revisionato le bozze di questo saggio.

Ai vincitori del Premio Nobel per la Chimica 2024, per averci indicato la strada.

Note

1. ¹ https://allpoetry.com/All-Watched-Over-By-Machines-Of-Loving-Grace↩
2. ² Prevedo che una minoranza di persone reagirà dicendo “questo è piuttosto blando”. Penso che quelle persone abbiano bisogno, nel gergo di Twitter, di “toccare l’erba”. Ma, cosa più importante, “blando” è positivo dal punto di vista sociale. Penso che ci sia un limite ai cambiamenti che le persone possono gestire contemporaneamente, e il ritmo che sto descrivendo è probabilmente vicino ai limiti di ciò che la società può assorbire senza turbolenze estreme.↩
3. ³ Trovo che AGI sia un termine impreciso che ha raccolto un sacco di bagaglio fantascientifico e di hype. Preferisco “IA potente” o “Scienza e Ingegneria a Livello di Esperto”, che rendono l’idea di ciò che intendo senza l’hype.↩
4. ⁴ In questo saggio, uso il termine “intelligenza” per riferirmi a una capacità generale di risoluzione dei problemi applicabile in diversi ambiti. Ciò include abilità come il ragionamento, l’apprendimento, la pianificazione e la creatività. Sebbene utilizzi “intelligenza” come termine generico in tutto questo saggio, riconosco che la natura dell’intelligenza è un argomento complesso e dibattuto nelle scienze cognitive e nella ricerca sull’IA. Alcuni ricercatori sostengono che l’intelligenza non sia un concetto unico e unificato, ma piuttosto un insieme di abilità cognitive separate. Altri sostengono che esista un fattore generale di intelligenza (fattore g) alla base di varie abilità cognitive. Questo è un dibattito per un’altra occasione. ↩
5. ⁵ Questa è all’incirca l’attuale velocità dei sistemi di IA: ad esempio, possono leggere una pagina di testo in un paio di secondi e scriverne una in circa 20 secondi, il che è 10-100 volte la velocità con cui gli esseri umani possono fare queste cose. Nel tempo, modelli più grandi tendono a rallentare questo processo, ma chip più potenti tendono a renderlo più veloce; ad oggi i due effetti si sono all’incirca annullati a vicenda.↩
6. ⁶ Questa potrebbe sembrare una posizione artificiosa, ma pensatori attenti come Tyler Cowen e Matt Yglesias l’hanno sollevata come una seria preoccupazione (anche se non credo che la sostengano pienamente), e non penso che sia assurda. ↩
7. ⁷ Il lavoro di economia più vicino, di cui sono a conoscenza, che affronta questa questione è quello sulle “tecnologie a uso generico” e sugli “investimenti immateriali” che fungono da complemento alle tecnologie a uso generico.↩
8. ⁸ Questo apprendimento può includere l’apprendimento temporaneo, contestuale, o la formazione tradizionale; entrambi saranno limitati dal mondo fisico. ↩
9. ⁹ In un sistema caotico, i piccoli errori si accumulano in modo esponenziale nel tempo, per cui anche un enorme aumento della potenza di calcolo porta solo a un piccolo miglioramento nella capacità di prevedere il futuro, e in pratica l’errore di misurazione potrebbe degradare ulteriormente questo risultato.↩
10. ¹⁰ Un altro fattore è ovviamente che una potente IA stessa può potenzialmente essere utilizzata per creare un’IA ancora più potente. La mia ipotesi è che ciò potrebbe (anzi, probabilmente) verificarsi, ma che il suo effetto sarà minore di quanto si possa immaginare, proprio a causa dei “rendimenti marginali decrescenti dell’intelligenza” discussi qui. In altre parole, l’IA continuerà a diventare più intelligente rapidamente, ma il suo effetto sarà alla fine limitato da fattori non legati all’intelligenza, e analizzarli è ciò che conta di più per la velocità del progresso scientifico al di fuori dell’IA.↩
11. ¹¹ Questi risultati sono stati per me fonte di ispirazione e rappresentano forse l’esempio più potente esistente di come l’IA venga utilizzata per trasformare la biologia.↩
12. ¹² “Il progresso nella scienza dipende da nuove tecniche, nuove scoperte e nuove idee, probabilmente in quest’ordine.” – Sydney Brenner↩
13. ¹³ Grazie a Parag Mallick per aver suggerito questo punto.↩
14. ¹⁴ Non volevo appesantire il testo con speculazioni su quali specifiche scoperte future potrebbe portare la scienza potenziata dall’IA, ma ecco un elenco di alcune possibilità:
15. — Progettazione di strumenti computazionali migliori come AlphaFold e AlphaProteo — ovvero, un sistema di IA generale che acceleri la nostra capacità di realizzare strumenti specializzati di biologia computazionale basati sull’IA.
16. — CRISPR più efficiente e selettivo.
17. — Terapie cellulari più avanzate.
18. — Progressi nella scienza dei materiali e nella miniaturizzazione che portino a dispositivi impiantabili migliori.
19. — Migliore controllo sulle cellule staminali, sulla differenziazione cellulare e sulla dedifferenziazione, e la conseguente capacità di rigenerare o rimodellare i tessuti.
20. — Un miglior controllo sul sistema immunitario: attivarlo selettivamente per affrontare il cancro e le malattie infettive, e disattivarlo selettivamente per affrontare le malattie autoimmuni.↩
21. ¹⁵ L’IA può ovviamente aiutare anche a scegliere in modo più intelligente quali esperimenti condurre: migliorando la progettazione sperimentale, imparando di più da una prima serie di esperimenti in modo che la seconda possa concentrarsi sulle questioni chiave, e così via. ↩
22. ¹⁶ Grazie a Matthew Yglesias per aver suggerito questo punto.↩
23. ¹⁷ Le malattie in rapida evoluzione, come i ceppi multiresistenti che utilizzano essenzialmente gli ospedali come laboratorio evolutivo per migliorare continuamente la loro resistenza alle cure, potrebbero essere particolarmente ostiche da affrontare e potrebbero essere il tipo di ostacolo che ci impedisce di arrivare al 100%.↩
24. ¹⁸ Si noti che potrebbe essere difficile sapere se avremo raddoppiato la durata della vita umana entro i 5-10 anni. Anche se potremmo averlo realizzato, potremmo non saperlo ancora entro il periodo di tempo dello studio. ↩
25. ¹⁹ Questo è un punto in cui sono disposto, nonostante le evidenti differenze biologiche tra la cura delle malattie e il rallentamento del processo di invecchiamento stesso, a guardare invece da una distanza maggiore alla tendenza statistica e dire “anche se i dettagli sono diversi, penso che la scienza umana troverebbe probabilmente un modo per continuare questa tendenza; dopotutto, le tendenze regolari in qualsiasi cosa complessa sono necessariamente costituite dalla somma di componenti molto eterogenee.↩
26. ²⁰ Ad esempio, mi è stato detto che un aumento della crescita della produttività dell’1% o anche dello 0,5% all’anno sarebbe rivoluzionario nelle proiezioni relative a questi programmi. Se le idee contemplate in questo saggio dovessero realizzarsi, gli aumenti di produttività potrebbero essere molto più consistenti.↩
27. ²¹ I media amano ritrarre psicopatici di alto rango, ma lo psicopatico medio è probabilmente una persona con scarse prospettive economiche e scarso controllo degli impulsi che finisce per trascorrere molto tempo in prigione.↩
28. ²² Penso che ciò sia in qualche modo analogo al fatto che molti, anche se probabilmente non tutti, dei risultati che stiamo apprendendo dall’interpretabilità continuerebbero ad essere rilevanti anche se alcuni dei dettagli architettonici delle nostre attuali reti neurali artificiali, come il meccanismo di attenzione, fossero modificati o sostituiti in qualche modo.↩
29. ²³ Sospetto che sia un po’ come un classico sistema caotico – afflitto da una complessità irriducibile che deve essere gestita in modo prevalentemente decentralizzato. Anche se, come dirò più avanti in questa sezione, potrebbero essere possibili interventi più modesti. Una controargomentazione, avanzata nei miei confronti dall’economista Erik Brynjolfsson, è che le grandi aziende (come Walmart o Uber) stanno iniziando ad avere una conoscenza centralizzata sufficiente per comprendere i consumatori meglio di quanto potrebbe fare qualsiasi processo decentralizzato, costringendoci forse a rivedere le intuizioni di Hayek su chi possiede la migliore conoscenza locale. ↩
30. ²⁴ Grazie a Kevin Esvelt per aver suggerito questo punto.↩
31. ²⁵ Ad esempio, i telefoni cellulari erano inizialmente una tecnologia per i ricchi, ma sono diventati rapidamente molto economici con miglioramenti di anno in anno così rapidi da rendere superfluo qualsiasi vantaggio nell’acquistare un cellulare “di lusso”, e oggi la maggior parte delle persone possiede telefoni di qualità simile.↩
32. ²⁶ Questo è il titolo di un articolo di prossima pubblicazione della RAND, che espone a grandi linee la strategia che descrivo.↩
33. ²⁷ Quando la persona media pensa alle istituzioni pubbliche, probabilmente pensa alla propria esperienza con la motorizzazione, il fisco, l’assistenza sanitaria o funzioni simili. Rendere queste esperienze più positive di quanto non siano attualmente sembra un modo efficace per combattere un cinismo ingiustificato. ↩
34. ²⁸ In effetti, in un mondo basato sull’intelligenza artificiale, la gamma di tali possibili sfide e progetti sarà molto più vasta di quanto non sia oggi.↩
35. ²⁹ Sto infrangendo la mia stessa regola di non trasformare questo articolo in fantascienza, ma ho trovato difficile non farvi riferimento almeno un po’. La verità è che la fantascienza è una delle nostre uniche fonti di esperimenti mentali di ampio respiro sul futuro; penso che sia un male che sia così fortemente intrecciata con una sottocultura particolare e ristretta.↩

__________________

Ottobre 2024. Fonte: Dario Amodei

Dario Amodei è l’amministratore delegato di Anthropic, una società di utilità pubblica impegnata nella creazione di sistemi di intelligenza artificiale. In precedenza, Amodei ha ricoperto il ruolo di vicepresidente della ricerca presso OpenAI, dove ha guidato lo sviluppo di modelli linguistici su larga scala come GPT-2 e GPT-3. È inoltre co-inventore dell’apprendimento per rinforzo basato sul feedback umano. Prima di entrare in OpenAI, ha lavorato presso Google Brain come ricercatore senior. Ha conseguito il dottorato in biofisica presso l’Università di Princeton come Hertz Fellow ed è stato ricercatore post-dottorato presso la Scuola di Medicina dell’Università di Stanford.

---

https://www.asterios.it/catalogo/fin-di-bene-il-nuovo-potere-della-ragione-artificiale

---