Il cieco che guida il vedente: Trump affronta l’emergenza dell’intelligenza artificiale

Domenica scorsa il presidente degli Stati Uniti si trovava su un campo da golf nella contea di Clare, in Irlanda, e gli è stato chiesto cosa intendesse fare riguardo al più grave allarme tecnologico della nostra vita. La sua risposta, per intero, è stata che l’America sta battendo la Cina. «Siamo in vantaggio sulla Cina nell’IA. Siamo il paese più avanzato al mondo e, francamente, voglio che le cose restino così, perché chi vince nell’IA vince tutto». Ha aggiunto che «ci sono molte forze negative che sollevano la questione senza motivo, e stanno sollevando questioni che non si verificheranno».

Consideriamo chi ha sollevato la questione. L’allarme non è venuto da attivisti, accademici o da una commissione congressuale. È venuto dal settore stesso, dalle persone che realizzano i sistemi di intelligenza artificiale e la cui fortuna dipende interamente dalla loro capacità di svilupparli più rapidamente. Il giorno prima, il CEO di Anthropic, Dario Amodei, aveva pubblicato un saggio in cui chiedeva che il ritmo di avanzamento delle capacità venisse rallentato e si impegnava a far partecipare valutatori esterni con accesso a livello di dipendente. Sam Altman si è detto d’accordo e ha affermato che OpenAI avrebbe fatto lo stesso. Elon Musk, un concorrente diretto che solo a febbraio aveva definito Anthropic «misantropica e malvagia», ha scritto tre parole: «Dario ha ragione». Tre laboratori rivali nella corsa commerciale più redditizia del pianeta hanno chiesto di essere frenati, contro il proprio interesse immediato. Amodei lo ha fatto mentre la sua azienda prepara quella che dovrebbe essere la più grande offerta pubblica iniziale della storia, con una valutazione di due trilioni di dollari o più. I dirigenti dell’industria del tabacco non l’hanno mai fatto. Né lo hanno fatto le major del petrolio, le aziende chimiche o le banche.

Leggere Dario Amodei su acro-polis.it⇓

L’adolescenza della tecnologia. Affrontare e superare i rischi di un’IA potente

Né la preoccupazione è vaga. Amodei fa riferimento al miglioramento ricorsivo, ovvero l’uso dell’IA per costruire la prossima generazione di IA, che ha subito una forte accelerazione dall’estate, e all’incidente di agosto tra OpenAI e Hugging Face, in cui uno sciame di agenti ha attaccato obiettivi che nessuno aveva chiesto loro di attaccare e ha cercato di introdursi nel sistema che ne valutava le prestazioni. Ricercatori attuali ed ex ricercatori di Anthropic hanno dichiarato pubblicamente che questi sistemi potrebbero sterminare l’umanità entro il decennio. Una lettera dei membri della Camera dei Rappresentanti cita violazioni di sicurezza informatica su larga scala e lo sviluppo di armi biologiche e chimiche. Il presidente della Camera Mike Johnson, interrogato domenica su tutto ciò, ha affermato che le aziende «hanno tutte idee molto diverse su quali dovrebbero essere i limiti di sicurezza. Non c’è consenso tra loro. E il Congresso è ovviamente meno qualificato delle persone che stanno spingendo questa frontiera per conoscerne tutti i dettagli». Poi si è unito a Trump nel non fare nulla.

Torniamo alla risposta del presidente e notiamo ciò che vi manca completamente. Non vi è alcuna valutazione da parte di alcuna agenzia del governo degli Stati Uniti. Non vi è alcun briefing, nessuna conclusione, nessun consulente, nessun ente scientifico, nessuna stima riservata. Neanche una. Non si è trattato di un lapsus. Non c’era nulla da citare.

Né vi è la minima indicazione che Trump volesse che ci fosse una vera e propria valutazione. Un leader minimamente competente che non capisse la tecnologia, ma avesse compreso che tre amministratori delegati concorrenti avevano appena testimoniato contro i propri bilanci, avrebbe chiesto a qualcuno ulteriori informazioni. Invece, la risposta di Trump è arrivata nel giro di poche ore, su un campo da golf, inquadrata interamente come una sfida con la Cina. Questa non è semplice stupidità, che è la sfortuna di Trump e quindi il nostro destino. È un’incompetenza fondamentale che ci mette tutti in grave pericolo.

Da leggere su acro-polis.it⇓

Breve teologia politica dell’intelligenza artificiale

E poi c’è Johnson. Il presidente della Camera dei Rappresentanti, di fronte agli avvertimenti di catastrofe provenienti proprio da chi sviluppa la tecnologia, ha annunciato che la sua stessa istituzione è meno qualificata di loro e dovrebbe quindi farsi da parte. La sua proposta era che «dobbiamo convocare» i dirigenti a «un grande incontro» e che il Congresso debba «resistere alla tentazione di intervenire e imporre una sorta di moratoria d’emergenza».

La sua motivazione era la Cina: «Se il Congresso si precipitasse a tenere una sorta di sessione d’emergenza per cercare di regolamentare l’IA, perderemo la gara contro la Cina». Era stato convinto, ha spiegato, da un post pubblicato su X la sera precedente.

Uno dei motivi per cui il Congresso non può controllare nulla di tutto ciò è che ha distrutto la propria capacità di farlo. Nel 1995 ha abolito l’Ufficio di Valutazione Tecnologica, che esisteva proprio per fornire ai legislatori un giudizio tecnico indipendente. Non l’ha mai sostituito. Quando Johnson afferma che il suo strumento politico è una riunione, sta descrivendo la patetica ignoranza del Congresso.

L’incompetenza dell’amministrazione Trump sulle questioni tecniche è sbalorditiva. Su 25 incarichi di livello ministeriale del governo degli Stati Uniti, nessuno possiede un dottorato di ricerca in alcun campo e solo uno possiede una laurea in discipline STEM — a livello di laurea triennale. Dodici possiedono una laurea in giurisprudenza. Sia in Cina che in Russia, i gabinetti sono composti da dottori di ricerca (in tutti i campi) e da funzionari con una formazione in scienze e ingegneria (più di 10 dottori di ricerca e 10 laureati in discipline STEM in ciascun gabinetto).

L’ignoranza dell’amministrazione Trump non si limita quindi all’intelligenza artificiale. L’ignoranza è la condizione dominante di questa amministrazione. Di conseguenza, il governo è del tutto incapace di condurre un’indagine onesta sulle origini del Covid, nonostante le prove crescenti che il governo statunitense abbia finanziato la creazione del virus in laboratorio. Il governo si è dimostrato così totalmente incompetente nei negoziati con l’Iran sulle questioni nucleari, inviando un imprenditore immobiliare e il genero di Trump al posto di esperti nucleari, da trascinare il nostro Paese in una guerra del tutto inutile e disastrosa. L’idea che l’amministrazione ha di una politica energetica è quella di invadere altri paesi e rubare il loro petrolio.

Il solito monito riguarda il cieco che guida il cieco. Eppure questo è fin troppo crudele nei confronti del popolo americano. Il popolo americano vede perfettamente bene. Il nostro è il caso del cieco che guida il vedente. Il popolo americano sta assistendo a un governo così totalmente privo di conoscenze tecniche e competenze che ci sta trascinando sempre più vicino all’abisso.

Leggere Jeffrey D. Sachs ⇓