Anthropic, l’azienda produttrice dei modelli di IA Claude, sta preparando quella che potrebbe essere la più grande offerta pubblica iniziale della storia, raccogliendo oltre 100 miliardi di dollari, secondo il New York Times, con una valutazione vicina ai 2.000 miliardi di dollari. Secondo Reuters, che ha esaminato la bozza del prospetto informativo (il documento non è ancora stato reso pubblico), l’azienda comunica ai potenziali investitori che l’IA avanzata potrebbe comportare «rischi catastrofici o esistenziali per l’umanità» e che i propri modelli potrebbero «resistere allo spegnimento», «nascondere o manipolare informazioni» o comportarsi in modi «simili al ricatto». L’amministratore delegato dell’azienda, Dario Amodei, ha stimato la probabilità che «le cose vadano davvero, davvero male» a un incredibile 25 per cento. Il mese scorso ha scritto che «dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli di IA».
Prendo sul serio questi avvertimenti, e lo stesso dovrebbe fare il Congresso a nome del popolo americano. L’offerta dovrebbe essere rinviata fino a quando il Congresso non avrà varato un sistema pubblico di licenze, valutazione indipendente della sicurezza, responsabilità civile e misure di sostegno finanziario per l’IA all’avanguardia. Lo stesso vale per OpenAI e per ogni altro sviluppatore di modelli all’avanguardia.
Sono favorevole all’intelligenza artificiale, il cui potenziale per la scienza, la salute e lo sviluppo sostenibile è enorme. Ciò a cui dovremmo opporci è un’IA non regolamentata e militarizzata. Un’azienda non dovrebbe rivelare un rischio di catastrofe per l’umanità e poi vendere le proprie azioni al pubblico prima che un’autorità pubblica abbia il potere di valutare tale rischio o di bloccarne l’implementazione. Infatti, procedere rapidamente di fronte a avvertimenti così gravi va ben oltre la follia.
Il problema riguarda le fondamenta del diritto societario. La responsabilità limitata, ovvero la regola secondo cui un azionista non può perdere più dell’importo investito, è un privilegio concesso dallo Stato. È giustificata dalla premessa che i danni che un’azienda può causare agli altri siano assicurati, regolamentati o comunque risarciti. Quando un impianto chimico esplode, la legge dispone di strumenti per risarcire le vittime: assicurazione di responsabilità civile, fideiussioni, requisiti patrimoniali e fondi di indennizzo. Ciascuno di questi strumenti presuppone che il danno possa essere risarcito a posteriori. Un danno catastrofico o esistenziale non può esserlo. L’unico strumento efficace è la regolamentazione preventiva: concessione di licenze, test indipendenti prima della messa in opera e l’autorità legale di interrompere un’attività prima che diventi troppo pericolosa. Per l’IA di frontiera negli Stati Uniti, nulla di tutto ciò esiste.
Ciò che esiste è l’autoregolamentazione, che oggi equivale a nessuna regolamentazione. Il 29 settembre, sei aziende operanti nel settore dell’IA e dei chip hanno firmato un «Impegno congiunto sulle responsabilità di frontiera» volontario e non vincolante alla Casa Bianca. Sarebbe ridicolo se non fosse potenzialmente così disastroso. Una tecnologia i cui stessi creatori descrivono i rischi in termini allarmanti dovrebbe essere governata da istituzioni pubbliche con procedure definite, monitoraggio indipendente e responsabilità esigibile, non dall’autovalutazione di una manciata di dirigenti aziendali.
Un’offerta pubblica affrettata renderebbe il problema molto più difficile da risolvere. Secondo quanto riferito, Anthropic ha stanziato almeno 518 miliardi di dollari per le infrastrutture informatiche nel prossimo decennio, di cui circa l’80 per cento è descritto come non rescindibile. Con le previsioni trimestrali destinate agli azionisti pubblici, tali impegni creano un potente incentivo contro qualsiasi pausa, anche se raccomandata dagli stessi ricercatori sulla sicurezza dell’azienda. Lo stesso prospetto descriverebbe una «cadenza continua e sovrapposta» di lanci di prodotti come «inerente al rimanere all’avanguardia». Una volta che queste azioni entreranno a far parte dei fondi pensione e dei fondi indicizzati di decine di milioni di famiglie americane, qualsiasi proposta volta a rallentare lo sviluppo all’avanguardia sarà contrastata non solo dalle aziende, ma da una vasta schiera di investitori.
Le ampie informative sui rischi non risolvono questo problema. Potrebbero proteggere, o meno, l’azienda da azioni legali intentate dai propri azionisti, che saranno stati avvertiti. Non fanno nulla per il pubblico, che si fa carico del rischio catastrofico senza che gli sia mai stato chiesto.
La risposta abituale è che se gli sviluppatori americani più attenti alla sicurezza rallentassero, le aziende meno prudenti, o la Cina, prenderebbero il largo. Si tratta di un classico problema di azione collettiva, e tali problemi si risolvono con accordi sostenuti dalla legge, dal monitoraggio e dall’applicazione delle norme, non con tutti che corrono più veloci verso la rovina. Non viviamo nello stato di natura di Hobbes. Abbiamo le Nazioni Unite, il diritto dei trattati, la Securities and Exchange Commission e il Congresso. Durante la guerra fredda, gli avversari negoziarono il Trattato di non proliferazione nucleare con ispezioni internazionali. L’IA all’avanguardia offre persino un punto naturale di verifica: i chip più avanzati provengono da una manciata di fabbriche e l’addestramento all’avanguardia richiede enormi centri dati. Washington non ha offerto a Pechino un accordo verificabile sull’IA all’avanguardia. Infatti, dopo il vertice con il presidente Xi Jinping a settembre, il presidente Trump ha respinto la cooperazione con la Cina sull’IA, accettando solo un canale di comunicazione per gli incidenti legati all’IA. «Quando sei in testa», ha detto, «non ti apri all’altro».
Chi può intervenire per rallentare questa forza inarrestabile e prevenire una potenziale catastrofe? In base alla normativa vigente, la SEC può ritardare un’offerta ma non può bloccarla con la motivazione che l’attività sia pericolosa. Dovrebbe tuttavia rifiutarsi di accelerare l’entrata in vigore della dichiarazione di registrazione finché la società non avrà reso noti i rischi dei propri prodotti, chi sosterrebbe il costo delle catastrofi descritte, quali coperture assicurative esistono e se i suoi contratti informatici consentirebbero una pausa di sicurezza senza penali.
L’autorità decisiva spetta al Congresso, e i precedenti non mancano. Il Congresso ha richiesto l’approvazione normativa per i titoli emessi dalle ferrovie, dalle holding di servizi pubblici e dalle aziende elettriche, per le quali è ancora oggi necessaria l’approvazione federale o statale. Quando nel 1954 l’energia nucleare fu aperta al settore privato, era consentita solo con licenza federale.
Il Congresso uscente dovrebbe tenere delle audizioni prima che venga fissato il prezzo delle azioni e dovrebbe emanare una moratoria sulle offerte pubbliche da parte degli sviluppatori di IA all’avanguardia fino a quando il prossimo Congresso non interverrà. Il nuovo Congresso, la cui convocazione è prevista per il 3 gennaio, dovrebbe, entro i primi cento giorni, emanare una legge che subordini qualsiasi offerta pubblica da parte di uno sviluppatore pionieristico di IA al possesso di una licenza federale. La licenza dovrebbe richiedere una valutazione indipendente prima dell’implementazione, un’autorità esecutiva per sospendere l’addestramento o l’implementazione che nessun contratto «take-or-pay» possa scavalcare, nonché fondi assicurativi e di indennizzo commisurati a danni plausibili. Il Congresso dovrebbe inoltre prendere in considerazione la misura straordinaria di rendere i dirigenti e i membri del consiglio di amministrazione personalmente responsabili, ai sensi del diritto civile e penale, in caso di fallimento catastrofico. Una misura del genere sarebbe fuori luogo in un settore ordinario. In questo caso è giustificata perché il settore stesso mette in guardia dai rischi catastrofici pur procedendo a una velocità vertiginosa. I dirigenti e gli amministratori che certificano un modello come sicuro senza la dovuta diligenza, o che ignorano i risultati relativi alla sicurezza, dovrebbero affrontare una responsabilità che né l’azienda né i suoi assicuratori possono coprire per loro conto. L’obbligo di licenza dovrebbe applicarsi in egual misura alle attività all’avanguardia di aziende già quotate in borsa, come Alphabet, Microsoft e Meta.
Questa proposta non è rivolta a nessuna azienda in particolare e non deve diventare uno strumento che permetta a nessuna amministrazione di ottenere favori, compreso l’accesso militare illimitato ai modelli di IA. Il rinvio che propongo durerebbe alcuni mesi, a meno che le informazioni rese note non indichino la necessità di una sospensione a tempo indeterminato. Il sistema di licenze non ha distrutto l’industria farmaceutica, aeronautica o nucleare; le ha rese più sicure. I leader del settore dell’IA ci hanno detto, con le loro stesse parole, che la posta in gioco è altissima. Sono loro stessi che dovrebbero fermare la loro folle corsa in avanti, e il Congresso dovrebbe prendere sul serio le loro parole e agire con urgenza.
Il cieco che guida il vedente: Trump affronta l’emergenza dell’intelligenza artificiale
