Non lasciatevi ingannare dall’entusiasmo estivo per l’intelligenza artificiale

Ciascuno di questi eventi è stato perlopiù seguito con entusiasmo dalla stampa, che spesso ha ripetuto le narrazioni antropomorfiche delle aziende, concepite per presentare i loro software non solo come potenti, ma anche come una sorta di ” intelligenza artificiale generale ” in fase embrionale. Cosa sta succedendo davvero? Stiamo assistendo a una serie di scoperte tecnologiche epocali, destinate a cambiare il corso della civiltà, oppure si tratta solo di una strategia di marketing?

In tutti questi episodi, l’enorme clamore mediatico da parte delle aziende (presentato come mea culpa in casi di hacking illecito) è accompagnato da un’intensa copertura stampa. Una volta che gli esperti del settore hanno il tempo di esaminare l’accaduto, emerge una storia ben diversa, ma che riceve meno attenzione da parte dei media.

Per quanto riguarda i risultati matematici, i matematici inizialmente “sbalorditi” dal comunicato stampa di OpenAI in cui si affermava che il suo ultimo chatbot, Astra, aveva risolto problemi “rimasti aperti e senza progressi sul risultato principale per almeno un decennio”, si sono poi resi conto che i risultati non erano così “innovativi come sembravano a prima vista”. Da allora, i matematici hanno accusato l’azienda di cattiva condotta nella ricerca e plagio, ribadendo che Astra non ha compiuto un “profondo salto intellettuale”. Solo poche settimane dopo, OpenAI ha rivendicato una propria scoperta matematica. Due giorni prima, Tristan Buckmaster, professore di matematica al Courant Institute della New York University, aveva pubblicato una dichiarazione esplosiva in cui suggeriva che OpenAI avesse rubato il lavoro altrui e se lo fosse attribuito impropriamente. 

Le affermazioni su una superintelligenza incipiente e pericolosa non si basano su buone pratiche scientifiche o ingegneristiche. Piuttosto, sono narrazioni fondate su ideologie di transumanesimo, eugenetica e illusioni su un immaginario futuro di esseri umani digitali.

Vale la pena riflettere sul perché si presti tanta attenzione alla programmazione informatica e alla matematica come campi in cui applicare modelli linguistici complessi e tecnologie correlate. Non solo sono spesso considerate l’apice della realizzazione intellettuale umana, ma implicano anche problemi le cui soluzioni, una volta proposte, possono essere verificate. La prima caratteristica aiuta i promotori dell’IA a diffondere l’idea che stiano costruendo macchine in grado di fare tutto. La seconda semplifica la messa a punto dei sistemi per i problemi matematici e di programmazione, poiché l’output del sistema (sequenze di parole probabili o porzioni di codice informatico) può essere valutato senza dover pagare operatori di dati per analizzarlo e annotarlo singolarmente.

In particolare, i matematici hanno messo in guardia contro l’uso improprio della loro disciplina da parte delle aziende. Una dichiarazione firmata da centinaia di loro afferma che “attualmente esiste un forte incentivo commerciale da parte dell’industria tecnologica a esagerare le capacità dei propri prodotti” e chiede ai responsabili politici di “consultarsi con esperti, compresi i matematici, nel prendere decisioni politiche, piuttosto che basarsi su comunicati stampa o sulla divulgazione divulgativa di risultati matematici”.

Ci uniamo a questo appello e osserviamo che l’illusione di rapidità e urgenza promulgata dalle aziende tecnologiche è anch’essa un espediente per fuorviare sia i politici che il pubblico. Purtroppo, a volte funziona, come nel caso della proposta di legge del senatore Bernie Sanders, benintenzionata ma in definitiva fuorviante, volta a impedire lo sviluppo della “superintelligenza artificiale”.

Descriverli come “superintelligenza” o “modelli ribelli” attribuisce un’autonomia ai prodotti anziché alle aziende che li producono. Questa impostazione promuove i prodotti di queste aziende come “sovrumani” e, allo stesso tempo, aiuta le aziende a eludere la responsabilità delle proprie azioni. 

Se pensate che il nostro lavoro abbia un qualche valore — anche minimo — Vi preghiamo di prendere in considerazione l’opportunità di sostenerci. Vi chiediamo di visitare la pagina del nostro sito SOSTIENI ACRO-POLIS cliccando sul seguente link: https://www.acro-polis.it/wp-

Invece di perseguire OpenAI per aver creato un malware che ha hackerato un’altra azienda, comunicati stampa, testate giornalistiche, personaggi dei media e legislatori parlano di “modelli ribelli” come se avessero agito di propria iniziativa. Invece di interrogare i ricercatori sull’abitudine delle loro aziende di plagiare il lavoro degli accademici o di utilizzare i dati dei clienti per addestrare modelli senza consenso, l’immaginazione del pubblico viene reindirizzata verso i timori su ciò che il futuro potrebbe riservare con l’arrivo di fantasiose macchine superintelligenti.  

L’industria dell’IA ha addirittura insinuato che l’attivismo popolare e bipartisan contro i data center sia una “distrazione” dai tentativi di regolamentare le imminenti, spaventose e “sovrumane” macchine che queste aziende stanno costruendo. Secondo l’industria dell’IA, dovremmo preoccuparci di più di un dio-macchina immaginario che della catastrofe climatica aggravata da questi data center, dell’asma di cui soffrono coloro che vivono nelle vicinanze, dell’aumento delle bollette elettriche pubbliche che li sovvenzionano, o dell’acqua che viene riutilizzata per il loro raffreddamento . 

Sappiamo bene che non bisogna prendere decisioni basandosi sul marketing e che non bisogna cedere alle pressioni aziendali per prendere decisioni in fretta. Un processo decisionale saggio, da parte dei politici e delle comunità, richiede tempo per ascoltare esperti indipendenti e contestualizzare le affermazioni aziendali. Il miglior risultato possibile di quest’estate di clamore mediatico è che i politici e il pubblico in generale imparino a prendersi una pausa, a mantenere il proprio scetticismo e a riconoscere questo tipo di clamore per quello che è la prossima volta che si ripresenterà.

Timnit Gebru è direttrice esecutiva di DAIR e autrice del libro di prossima pubblicazione Deep Unlearning: The Radicalization of a Tech Idealist , già disponibile per il preordine e in uscita il 16 febbraio. Emily M. Bender è professoressa di linguistica all’Università di Washington e coautrice di The AI ​​Con.