25.09.26

Tuesday 29.09.26

30.09.26

Il pacchetto TESCREAL: eugenetica e la promessa dell’utopia attraverso l’intelligenza artificiale generale

L’obiettivo dichiarato di molte organizzazioni nel campo dell’intelligenza artificiale (IA) è quello di sviluppare l’intelligenza artificiale generale (AGI), un sistema immaginario dotato di un’intelligenza superiore a qualsiasi altra cosa abbiamo mai visto. Senza mettersi seriamente a chiedersi se un sistema del genere possa e debba essere costruito, i ricercatori stanno lavorando per creare un’“AGI sicura” che sia “vantaggiosa per tutta l’umanità”. Noi sosteniamo che, a differenza dei sistemi con applicazioni specifiche che possono essere valutati secondo principi ingegneristici standard, sistemi indefiniti come l’«AGI» non possono essere adeguatamente testati in termini di sicurezza. Perché, allora, la realizzazione dell’AGI viene spesso presentata come un obiettivo indiscusso nel campo dell’IA? In questo articolo sosteniamo che il quadro normativo che motiva gran parte di questo obiettivo affonda le sue radici nella tradizione eugenetica anglo-americana del XX secolo. Di conseguenza, molti degli stessi atteggiamenti discriminatori che animavano gli eugenetisti in passato (ad esempio, razzismo, xenofobia, classismo, abilismo e sessismo) rimangono diffusi all’interno del movimento per la realizzazione dell’AGI, dando origine a sistemi che danneggiano i gruppi emarginati e centralizzano il potere, pur utilizzando il linguaggio della «sicurezza» e del «beneficio per l’umanità» per eludere ogni responsabilità. Concludiamo esortando i ricercatori a lavorare su compiti ben definiti per i quali sia possibile sviluppare protocolli di sicurezza, piuttosto che tentare di costruire un sistema presumibilmente onnisciente come l’AGI.

Se pensate che il nostro lavoro abbia un qualche valore — anche minimo — Vi preghiamo di prendere in considerazione l’opportunità di sostenerci. Vi chiediamo di visitare la pagina del nostro sito SOSTIENI ACRO-POLIS cliccando sul seguente link: https://www.acro-polis.it/sostieni-acro-polis/

Indice

1. Introduzione
2. Metodologia
3. Contesto storico: l’eugenetica moderna
4. Il pacchetto TESCREAL
5. Dal transumanesimo all’AGI
6. L’utopia e l’apocalisse dell’AGI: due facce della stessa medaglia
7. Costruire sistemi ben circoscritti e ben definiti
8. Conclusione

1. Introduzione

Negli ultimi anni si è assistito a una rinascita dell’obiettivo di realizzare l’intelligenza artificiale generale (AGI), un sistema definito in modi diversi dalle varie persone e organizzazioni che cercano di realizzarlo. Ad esempio, OpenAI definisce l’AGI come «sistemi altamente autonomi che superano gli esseri umani nella maggior parte dei lavori economicamente più redditizi» [1]. Pennachin e Goertzel, che hanno reso popolare il termine nel 2007, la definiscono come « un programma software in grado di risolvere una varietà di problemi complessi in una varietà di ambiti diversi, e che si controlla autonomamente, con i propri pensieri, preoccupazioni, sentimenti, punti di forza, punti deboli e predisposizioni» [2]. Peter Voss, che sostiene di aver contribuito a coniare il termine, la definisce come «un sistema informatico che eguaglia o supera le capacità cognitive in tempo reale (non fisiche) di un essere umano intelligente e ben istruito » [3]. E gli eminenti ricercatori nel campo dell’IA Stuart Russell e Peter Norvig la definiscono come «un algoritmo universale per l’apprendimento e l’azione in qualsiasi ambiente» [4]. Sebbene alcuni dei ricercatori che coniarono il termine «intelligenza artificiale» (IA) nel 1955 avessero l’obiettivo di creare «macchine in grado di svolgere le attività di pensiero umano più avanzate» (McCarthy, et al., 1955), tale obiettivo fu abbandonato da molti studiosi del settore già negli anni ’90 anni ’90, in parte perché non volevano essere associati ad affermazioni altisonanti che i ricercatori non erano riusciti a mantenere [5]. Tali affermazioni portarono ai «inverni dell’IA» degli anni ’70 e ’90, con gran parte della ricerca incentrata sulla creazione di un’«intelligenza generale» che perse i finanziamenti. In seguito, il settore si è concentrato principalmente sulla realizzazione di sistemi specializzati che alcuni definiscono «IA ristretta» [6].

Recentemente, tuttavia, si è assistito a una proliferazione di organizzazioni che mirano a realizzare l’AGI e affermano che i loro prodotti siano vicini al raggiungimento di tale obiettivo (Bubeck, et al., 2023; Cuthbertson, 2022). Sebbene numerosi ricercatori abbiano discusso se le varie metodologie possano o meno portare all’AGI (Shevlin, et al., 2019; Agüera y Arcas e Norvig, 2023; Silver, et al., 2021), abbiamo riscontrato scarse discussioni sul motivo per cui l’AGI sia considerata auspicabile da molti nel campo dell’IA e se questo sia un obiettivo che debba essere perseguito — o se sia addirittura possibile in primo luogo. La ricerca volta a costruire quello che sembra un sistema onnisciente, capace di svolgere qualsiasi compito in qualsiasi circostanza, ha già provocato molti danni documentati a gruppi emarginati, tra cui lo sfruttamento dei lavoratori (Gray e Suri, 2019; Williams, et al., 2022), il furto di dati (Khan e Hanna, 2022) , il razzismo ambientale (Bender e Gebru, et al., 2021), la diffusione di informazioni errate e disinformazione (Bender e Gebru, et al., 2021; Shah e Bender, 2022), il plagio (Jiang, et al., 2023) e sistemi che amplificano visioni egemoniche quali il razzismo, l’abilismo, l’omofobia e il classismo (Bender e Gebru, et al. , 2021).

https://www.asterios.it/catalogo/analogico-e-digitale

Clicca sul link per leggere la scheda del volume e le prime 50 pagine!

In questo articolo ci chiediamo: quali ideologie stanno guidando la corsa alla realizzazione dell’AGI? Per rispondere a questa domanda, analizziamo le fonti primarie delle figure di spicco che investono nell’AGI, ne sostengono la causa e tentano di realizzarla. È inquietante constatare che, passando per il transumanesimo, questo obiettivo affonda le sue radici nel movimento eugenetico anglo-americano. In questo modo, delineiamo una genealogia di ideologie interconnesse e sovrapposte che chiamiamo “ pacchetto TESCREAL”, dove l’acronimo “TESCREAL” sta per “transumanesimo, estropianesimo, singolaritarismo, cosmismo (moderno), razionalismo, altruismo efficace e lungoterminismo” [7].

Queste ideologie, che sono dirette discendenti della prima ondata eugenetica, sono emerse all’incirca in questo ordine, e molte sono state plasmate o fondate dagli stessi individui. Mostriamo come il pacchetto TESCREAL sia arrivato ad animare la corsa all’AGI esaminando come i sostenitori del pacchetto abbiano avviato e finanziato la spinta alla realizzazione dell’AGI. Ad esempio, il primo libro sull’AGI (Pennachin e Goertzel, 2007b) è stato scritto in collaborazione da un transumanista, cos mist e partecipante al movimento estropiano, il cui obiettivo esplicito era quello di creare una “AGI transumana » [8], e gran parte dei finanziamenti miliardari destinati a progetti incentrati sull’AGI proviene da individui facoltosi allineati o esplicitamente affiliati a una o più di queste ideologie. Di conseguenza, i principali responsabili dell’attuale corsa all’AGI traggono ispirazione da ideali utopici simili alle visioni degli eugenetisti della prima ondata (cioè, gli eugenetisti del XX secolo che furono i precursori del movimento TESCREAL) e considerano l’AGI parte integrante della realizzazione di tali visioni. Nel frattempo, la corsa alla creazione dell’AGI sta generando prodotti che danneggiano proprio gli stessi gruppi che furono danneggiati dagli eugenetisti della prima ondata.

Mentre le organizzazioni impegnate nella creazione dell’AGI discutono della necessità di una “ sicurezza dell’IA» e sottolineano che un’AGI «disallineata» — ovvero un sistema «intelligente» con «valori» disallineati rispetto ai «nostri» valori — possa rappresentare un «rischio esistenziale» per l’umanità [9], noi sosteniamo che questa nozione di sicurezza affondi le sue radici nelle visioni utopico-apocalittiche del complesso TESCREAL, ereditate dagli eugenetisti della prima ondata. Tuttavia, i sostenitori del TESCREAL hanno influenzato i responsabili politici e i ricercatori — che potrebbero non condividere questi ideali utopici — spingendoli a dare priorità all’agenda dell’AGI, creando al contempo prodotti non sicuri, eludendo ogni responsabilità e sottraendo risorse alle organizzazioni di tutto il mondo che sviluppano modelli specifici per determinati compiti, al servizio delle esigenze di comunità specifiche.

Esortiamo i ricercatori nel campo dell’IA a interrompere la loro ricerca volta a costruire un sistema che, come ammettono persino i sostenitori dell’AGI, non è ben definito [10]. Osserviamo che i sistemi costruiti con l’obiettivo di svolgere qualsiasi compito in qualsiasi circostanza sono fondamentalmente insicuri: non possono essere progettati o testati in termini di sicurezza utilizzando i principi fondamentali dell’ingegneria (Khlaaf, 2023). Costruire sistemi sicuri richiede di immaginarli come ben definiti e vincolati, piuttosto che come l’AGI viene viene descritta.

Il resto del nostro articolo è organizzato come segue. La sezione 2 illustra brevemente la nostra metodologia. La sezione 3 fornisce informazioni di base sul movimento eugenetico. La sezione 4 introduce quello che definiamo il «pacchetto TESCREAL» di ideologie che, a nostro avviso, costituisce una versione più radicale del movimento eugenetico. La sezione 5 discute come il movimento TESCREAL guidi la ricerca volta a costruire l’AGI. La sezione 6 delinea i danni causati dalla marcia verso l’AGI. Infine, la sezione 7 esorta i ricercatori a orientino verso la creazione di sistemi ben definiti anziché verso l’AGI.

2. Metodologia

Sebbene l’importanza storica della scienza razziale, del colonialismo e dell’eugenetica per il campo dell’IA nel suo complesso sia stata studiata da numerosi studiosi (McQuillan, 2022; West, 2020; Katz, 2020; Ali, 2019), il nostro articolo affronta specificamente la recente corsa all’AGI, che, a nostro avviso, ha dominato il campo dell’IA. I coautori hanno assistito allo sviluppo di questa corsa da diverse prospettive. Uno di noi è un ingegnere elettrico che ha lavorato nel settore tecnologico per quasi due decenni (di cui più di un decennio nel campo dell’IA). Un altro è un filosofo e storico che è stato un noto collaboratore e sostenitore del movimento TESCREAL per quasi un decennio prima di abbandonarlo.

Durante questo periodo, abbiamo interagito con molte persone coinvolte nella corsa all’AGI, tra cui studenti, professori, ingegneri, investitori, e giornalisti, e abbiamo fatto parte noi stessi di gruppi e istituzioni che ora sono coinvolti in questa corsa. Questa esperienza ci ha fornito una visione approfondita delle principali ideologie che guidano questa corsa, che abbiamo ulteriormente approfondito: (1) analizzando fonti primarie provenienti da figure di spicco che lavorano sull’AGI, la finanziano e ne discutono, tra cui interventi a conferenze, articoli accademici, testimonianze governative, post sui blog, post sui social media, messaggi e-mail, contributi su forum, podcast e altre interviste; (2) raccogliendo informazioni dalle nostre e da altre inchieste giornalistiche sulle convinzioni, il background, i progetti di queste figure e i legami finanziari tra le varie organizzazioni coinvolte nella corsa all’AGI e ricchi donatori; e (3) analizzando la letteratura secondaria sulla storia dell’eugenetica, del transumanesimo e di altri fenomeni sociali rilevanti.

Abbiamo coniato l’acronimo «TESCREAL» mentre scrivevamo una prima bozza di questo articolo. Nel ripercorrere le origini della corsa all’AGI attraverso l’analisi delle fonti primarie, abbiamo riscontrato che gli ideali eugenetici sono centrali in questo contesto: tali ideali sono spesso espressi in modo esplicito e, in alcuni casi, si fa specifico riferimento agli eugenetisti della prima ondata, come illustriamo nel corso di questo articolo. Nel descrivere questa influenza sulle figure di spicco e sulle organizzazioni coinvolte nella corsa all’AGI, ci siamo trovati a fare costantemente riferimento a sette ideologie: transumanesimo, estropianesimo, singolaritarismo, cosmismo, razionalismo, altruismo efficace e longtermismo. Poiché fare riferimento a ciascuna ideologia singolarmente è diventato macchinoso, e poiché molti contributori di rilievo al dibattito sull’AGI sono associati a più ideologie, abbiamo deciso di semplificare la nostra discussione raggruppandole sotto un unico acronimo. Una volta fatto ciò, è apparso chiaro che concettualizzare queste ideologie come costituenti un unico movimento coerente che si estende negli ultimi tre decenni è giustificato da considerazioni storiche, sociologiche e filosofiche (vedi sezione 4.2). L’acronimo ha già iniziato ad essere utilizzato da ricercatori e giornalisti che si occupano di AGI e di altri fenomeni (Devenot, 2023; Zuckerman, 2024).

Le comunità che si sono coagulate attorno a ciascuna ideologia nel gruppo TESCREAL si sono sovrapposte in modo significativo, e le loro rispettive visioni del futuro, i valori a cui sono legate e le tendenze epistemiche sono spesso indistinguibili. Il nostro lavoro sostiene la tesi di Ahmed, et al. (2024), che, indipendentemente da noi, conclude che le comunità sovrapposte interessate all’Altruismo Efficace, al longtermismo e al rischio esistenziale sono fondamentali per il campo della “sicurezza dell’IA”, formando quella che definiscono una “comunità epistemica della sicurezza dell’IA”. Haas (1992) identifica una comunità epistemica come un gruppo di persone con 1) un insieme condiviso di credenze normative e basate su principi; 2) credenze causali condivise; 3) nozioni condivise di validità; e 4) un’impresa politica comune. Sebbene non affermiamo che l’insieme di ideologie TESCREAL costituisca specificamente la base di una comunità epistemica, affermiamo tuttavia che tali ideologie dovrebbero essere intese come una sorta di nucleo familiare coeso, come discuteremo nella sezione 4.

3. Contesto storico: l’eugenetica moderna

L’idea dell’eugenetica può essere fatta risalire alle origini della tradizione intellettuale occidentale [11]. Nella sua Repubblica, Platone propose un sistema di riproduzione selettiva in cui ai membri della classe dirigente, ovvero ai guardiani, ritenuti superiori, sarebbero state concesse maggiori opportunità di generare prole. La prole degli individui inferiori sarebbe stata «portata via segretamente dai funzionari e quasi certamente lasciata morire, insieme alla prole visibilmente difettosa dei guardiani superiori» [12]. Aristotele approvò l’infanticidio nei confronti di «qualsiasi bambino nato con deformità» [13]. Successivamente, durante l’Illuminismo del XVIII secolo, alcuni si opposero alla «miscigenazione», ovvero alla riproduzione sessuale tra membri di gruppi etnici diversi, con la motivazione che avrebbe corrotto le linee di sangue e «avrebbe generato bambini sfigurati» [14].

Questi sono esempi di ciò che si potrebbe definire «proto-eugenetica». Il movimento eugenetico moderno, al contrario, ebbe origine nell’opera post-darwiniana di Francis Galton (1869), il quale difese la tesi «ereditaria» secondo cui «le capacità naturali di un uomo derivano dall’eredità». » Pertanto, Galton sosteneva che, proprio come è possibile «ottenere, mediante un’attenta selezione, una razza permanente di cani o cavalli dotati di particolari capacità di corsa… così sarebbe del tutto fattibile produrre una razza umana altamente dotata attraverso matrimoni giudiziosi nel corso di diverse generazioni consecutive» [15]. Ciò gettò le basi “scientifiche” per l’eugenetica, termine coniato da Galton nel 1883.

La storia dell’eugenetica moderna può essere suddivisa in due ondate, la seconda delle quali emerse in modo particolarmente evidente negli anni ’90, come vedremo nella sezione 4. Gli eugenetisti della prima ondata riconoscevano due strategie per migliorare la “razza umana”, note come “eugenetica positiva” e “eugenetica negativa ». L’eugenetica positiva mira ad aumentare la frequenza dei tratti “desiderabili” all’interno della popolazione umana, come un’elevata “intelligenza”, incoraggiando coloro che possiedono tali tratti a riprodursi maggiormente. I concorsi per il “bambino migliore” e la “famiglia più adatta”, popolari all’inizio del XX secolo, sono esempi di eugenetica positiva, poiché incoraggiavano le persone con tratti “desiderabili” e un “buon patrimonio genetico” a riprodursi maggiormente. L’eugenetica negativa si sforza di impedire agli individui “ individui “inadatti” di trasmettere il proprio materiale ereditario alla generazione successiva. L’eugenetica negativa è ciò che ha giustificato le leggi restrittive sull’immigrazione e quelle contro i matrimoni misti nel corso del XX secolo, nonché i programmi di sterilizzazione forzata attuati in stati come la California. Il programma eugenetico della California, avviato nel 1909, fu successivamente adottato dai nazisti come modello per le politiche di “igiene razziale” che portarono infine all’Olocausto (Black, 20 03; Stern, et al., 2017).

È degno di nota il fatto che l’eugenetica negativa fosse abbracciata non solo dai fascisti tedeschi, ma anche dai progressisti e dai liberali in altre parti d’Europa e del Nord America [16]. Come osservano Bashford e Levine (2010), «l’ottimismo dell’eugenetica e la sua aspirazione ad applicare attivamente le idee scientifiche erano tra i motivi per cui attirava così spesso progressisti e liberali» [17]. Né il movimento eugen svanì dopo le atrocità della Seconda Guerra Mondiale, come molti credono. Al contrario, il programma di sterilizzazione della California continuò fino al 1979 [18], e la British Eugenics Society esiste ancora oggi, sebbene con un nome diverso. L’organizzazione cambiò nome in Galton Institute nel 1989 e poi, nel 2021, in Adelphi Genetics Forum (Bland e Hall, 201 0; Stern, 2005) [19] . Gli anni ’70 videro crescere le critiche all’eugenetica, il che ne accelerò il declino temporaneo, anche se solo circa un decennio dopo emerse una seconda ondata di eugenetica.

Il movimento eugenetico della prima ondata era ripugnante per molte ragioni. Una di queste è rappresentata dagli atteggiamenti razzisti, xenofobi, abilisti, classisti e sessisti sottostanti che animavano sia l’eugenetica negativa che quella positiva. Coloro che erano considerati “inadatti” venivano variamente etichettati come “difettosi”, “imbecilli”, “idioti”, “invalidi congeniti”, “deficienti” e “debolmente mentali”, e venivano spesso identificati tramite test del QI (Roige, 2014). Gli individui “di successo” venivano incoraggiati a mettere su famiglie numerose. Molti eugenetisti accettavano inoltre la superiorità della razza bianca, il che “giustificava” le suddette leggi anti (Bashford e Levine, 2010). Secondo Galton, la povertà era in gran parte il risultato della natura inferiore di una persona. Questa nozione è stata difesa più recentemente da Herrnstein e Murray (1994), i quali sostenevano che fosse improbabile che le politiche di welfare sociale avessero effetti positivi significativi, date le differenze nel QI determinate geneticamente.

Questo ci porta alla seconda ondata dell’eugenetica moderna, che si differenzia dalla prima soprattutto per la sua metodologia. Mentre gli eugenetisti della prima ondata si sforzavano di migliorare il «patrimonio genetico umano» modificando i modelli riproduttivi a livello sociale — un processo che avrebbe richiesto molte generazioni per dare i suoi frutti —, l’eugenetica della seconda ondata è nata in risposta alle nuove possibilità tecnologiche associate all’ingegneria genetica e alla biotecnologia [20]. Tali tecnologie hanno aperto la strada a «miglioramenti» umani ” che non necessitano di politiche a livello di popolazione, né richiedono tempi transgenerazionali per funzionare: nel giro di una sola generazione, i genitori potrebbero potenzialmente “progettare” i propri figli selezionando geni che, sulla base di presupposti ereditari, determinano presunti tratti fenotipici come un’eccezionale “intelligenza” [21].

https://www.asterios.it/catalogo/la-tentazione-transumanista

Di conseguenza, la nuova eugenetica si dichiara “liberale”, sottolineando la libertà dei genitori di decidere se, e in che modo, generare una prole “migliorata” (Agar, 1998). Tuttavia, alcuni filosofi hanno sostenuto che, nella pratica, questa nuova eugenetica “liberale” — talvolta soprannominata “neo-eugenetica” — avrebbe le stesse identiche conseguenze di minaccia alla libertà dei programmi eugenetici del XX secolo (Koch, 2020; Sparrow, 2011). E mentre molti eugenisti della seconda ondata sostengono che la loro versione dell’eugenetica si sia liberata dagli atteggiamenti discriminatori che animavano gli eugenisti della prima ondata [22], vedremo nella prossima sezione che ciò è discutibile.

4. Il “pacchetto TESCREAL”

Questa sezione si concentra su ciò che chiamiamo il “insieme TESCREAL” di ideologie, che esemplifica la seconda ondata dell’eugenetica moderna. Queste ideologie sono, ancora una volta: transumanesimo, estropianismo, singolarismo, cosmismo, razionalismo, altruismo efficace e lungoterminismo, emersi all’incirca in questo ordine e che si sono significativamente sovrapposti sia contemporaneamente che storicamente. Riassumiamo il complesso TESCREAL nella Tabella 1.

4.1. Introduzione al complesso TESCREAL

Transumanesimo ed estropianismo. Iniziamo la nostra discussione con il transumanesimo, una versione dell’eugenetica di seconda ondata che afferma la fattibilità e l’auspicabilità di un radicale «potenziamento umano». Il termine «transumanesimo» potrebbe essere stato coniato nel 1940 da W. D. Lighthall, sebbene l’idea fosse stata sviluppata ancora prima da numerosi eugenetisti del XX secolo, tra cui Julian Huxley, presidente della British Eugenics Society dal 1959 al 1962 (Dard e Moatti, 2017). Controllando «i meccanismi dell’ereditarietà», scriveva, «la specie umana può, se lo desidera, trascendere se stessa — non solo sporadicamente… ma nella sua interezza, come umanità». Se un numero sufficiente di persone «potrà davvero dire… “Credo nel transumanesimo”», allora «la specie umana si troverà alle soglie di un nuovo tipo di esistenza, tanto diversa dalla nostra quanto la nostra lo è da quella dell’uomo di Pechino [sic]. Realizzerà finalmente in modo consapevole il proprio vero destino» [34] .

Ciò che distingue la concezione del transumanesimo di Huxley, che possiamo definire «transumanesimo precoce», dalle altre concezioni eugenetiche dell’epoca era la sua visione: l’obiettivo non era semplicemente quello di creare la migliore versione possibile della nostra specie, ma di «trascendere» l’umanità nel suo insieme. Il transumanesimo precoce combinava quindi questa nuova visione con la vecchia metodologia dell’eugenetica di prima ondata. Al contrario, il «transumanesimo moderno», come possiamo definirlo , prese forma tra la fine degli anni ’80 e l’inizio degli anni ’90 e combinò la visione huxleyana della trascendenza con la nuova metodologia dell’eugenetica di seconda ondata. Di conseguenza, i suoi sostenitori immaginavano che, consentendo agli individui di scegliere liberamente se e come sottoporsi a un potenziamento radicale, si potesse creare una nuova specie “postumana” superiore. Secondo Nick Bostrom (2013, 2005a), un «postumano» è qualsiasi essere che possieda una o più capacità postumane, quali una «durata della vita in buona salute» indefinitamente lunga, capacità cognitive potenziate, razionalità migliorata e così via.

Il primo gruppo organizzato di transumanisti moderni fu il movimento estropiano. Le sue origini risalgono alla fine degli anni ’80, dopo che Max More e T.O. Morrow fondarono l’Extropy Institute nel 1988. Il neologismo “estropia” fu definito da More come “l’estensione dell’intelligenza di un sistema, informazione, ordine, vitalità e capacità di miglioramento» [35], ed era inteso a contrapporsi all’«entropia». More (1998) specificò cinque impegni fondamentali di questa ideologia: Espansione senza limiti, Autotrasformazione, Ottimismo dinamico, Tecnologia intelligente e Ordine spontaneo (Regis, 1994). Diversi anni dopo, Bostrom e David Pearce fondarono la World Transhumanist Association (WTA), che mirava a essere «una forma di transumanesimo più matura e accademicamente rispettabile» [36].

Singolarismo. Più o meno nello stesso periodo in cui fu fondata la WTA, emerse un’altra variante del transumanesimo: il singolarismo, tra i cui principali sostenitori figuravano Ray Kurzweil ed Eliezer Yudkowsky. Questa corrente poneva l’accento sull’imminente «Singolarità tecnologica», che può essere definita in diversi modi sottilmente distinti:

in primo luogo, potrebbe riferirsi al momento in cui il ritmo del «progresso» tecnologico » diventa così rapido da provocare una rottura fondamentale nella storia dell’umanità. Secondo Kurzweil, gli esseri umani si fonderanno con le macchine, inaugurando una nuova epoca nella storia cosmica. I nostri discendenti si diffonderanno quindi oltre la Terra e inonderanno l’universo di coscienza, consentendo così all’universo di «risvegliarsi». Egli prevede che la Singolarità avverrà nel 2045 (Kurzweil, 2005), mentre Yudkowsky, che si è descritto come un « genio”, una volta ha previsto che avverrà nel 2025 — a meno di un anno da oggi mentre scriviamo questo articolo [37]. La seconda definizione della “Singolarità” riguarda l’idea di un’“esplosione di intelligenza”, in cui gli algoritmi subiscono un “auto-miglioramento ricorsivo” fino a diventare “superintelligenti”. » Anche questo, presumibilmente, costituirebbe un momento di trasformazione nella storia dell’umanità, con la o le superintelligenze risultanti che ci consentirebbero di diventare postumani e colonizzare lo spazio. I singolaritari, secondo una definizione, sono coloro che credono «che la creazione tecnologica di un’intelligenza superiore a quella umana sia auspicabile e che lavorano a tal fine» [38]. Il termine «singolaritario» è stato coniato da un estropiano di nome Mark Plus nel 1991 [39].

Cosmismo. La terza ideologia tecno-futuristica del pacchetto TESCREAL è il cosmismo, sostenuto in particolare da Ben Goertzel, un transumanista che ha partecipato al movimento estropiano e in seguito ha fondato SingularityNET.io, il cui obiettivo è contribuire a creare «un’Intelligenza Artificiale Generale decentralizzata, democratica, inclusiva e benefica» [40]. Goertzel (2010) ha scritto che il cosmismo comprende l’obiettivo transumanista del potenziamento umano radicale, ma va oltre sotto vari aspetti. Ad esempio, afferma che « gli esseri umani si fonderanno con la tecnologia», il che inaugurerà «una nuova fase dell’evoluzione della nostra specie», e che «svilupperemo un’IA senziente e una tecnologia di mind uploading» che consentirà «una durata di vita indefinita a coloro che sceglieranno di abbandonare la biologia e di effettuare l’upload». Ma il cosmismo prevede anche che «ci espanderemo verso le stelle e vagheremo per l’universo», creeremo «realtà sintetiche» (cioè, mondi virtuali) e «svilupperemo l’ingegneria dello spazio-tempo e una “magia del futuro” ben al di là della nostra attuale comprensione e immaginazione» [41]. I cosmisti possono quindi essere intesi come transumanisti il cui focus è meno su ciò che l’umanità potrebbe diventare e più su come i nostri discendenti post-umani potrebbero trasformare radicalmente l’universo stesso [42].

Razionalismo. Verso la fine degli anni 2000 è sorta un’altra comunità: i Razionalisti. Questa comunità ruotava attorno al sito web di blogging LessWrong, fondato nel 2009 da Yudkowsky, che si descrive come “un forum online e una comunità dedicata al miglioramento del ragionamento e del processo decisionale umani”. Uno dei suoi obiettivi principali è l’“addestramento” alla razionalità, e il sito web sottolinea che «molti membri […] sono fortemente motivati dal tentativo di migliorare il mondo il più possibile». Questo, spiega, è uno dei motivi per cui molti razionalisti si sono «convinti molti anni fa che l’IA fosse una questione di enorme importanza per il futuro dell’umanità» e, di conseguenza, «il team di LessWrong […] è prevalentemente motivato dal tentativo di garantire che i risultati dell’IA potente siano positivi» [43]. Sebbene l’estropianismo e il singolarismo siano varianti del transumanesimo, non esiste un nesso necessario tra razionalismo e transumanismo. Tuttavia, molti razionalisti sono transumanisti o simpatizzano con la visione del mondo transumanista, e uno degli argomenti più popolari discussi sul sito web di LessWrong è stata la Singolarità nel secondo senso sopra indicato: la possibilità di un’esplosione di intelligenza [44] .

Altruismo efficace e lungoterminismo. Le ultime due componenti del pacchetto TESCREAL sono l’altruismo efficace (EA) e il lungoterminismo. Il primo è emerso più o meno nello stesso periodo del razionalismo e può essere considerato suo «fratello»: mentre i razionalisti si occupano principalmente di razionalità, gli altruisti efficaci (EA) si occupano principalmente di etica. Esiste una notevole sovrapposizione tra queste comunità, e si può intendere l’EA come ciò che accade quando i principi del razionalismo vengono applicati al dominio etico. L’obiettivo centrale dell’EA è fare il «massimo bene» possibile con risorse limitate [45], e inizialmente si concentrava sull’alleviamento della povertà globale. Tuttavia, negli ultimi anni, le figure di spicco della comunità EA hanno spostato l’attenzione verso questioni relative al futuro a lunghissimo termine dell’umanità — «milioni, miliardi e trilioni di anni» da oggi, come ha scritto qualcuno [46] — in parte grazie al lavoro di Bostrom e di altri. In particolare, Bostrom (2003) non solo ha immaginato un futuro utopico reso possibile da un potenziamento umano radicale, ma ha anche osservato che, se l’umanità colonizzasse l’universo e creasse computer grandi come pianeti per gestire mondi di realtà virtuale popolati da persone digitali, la futura popolazione postumana potrebbe essere enorme. Solo nel Superammasso della Vergine, Bostrom stima che potrebbero esserci 10³⁸ persone digitali e almeno 10⁵⁸ di queste persone all’interno dell’universo accessibile (Bostrom, 2014, 2003) [47]. Perché questo è importante? Perché, dal punto di vista etico dell’«utilitarismo totalista», che ha esercitato una forte influenza tra gli EA e i longtermisti [48], il nostro unico obbligo morale è quello di massimizzare la quantità totale di «valore» nell’universo. Pertanto, se queste 10⁵⁸ persone nelle simulazioni al computer dovessero avere, in media, vite con un saldo positivo, il risultato sarebbe una quantità letteralmente «astronomica» di «valore» — il che sarebbe molto «buono». Poiché l’utilitarismo totalista basa ciò che è moralmente giusto su ciò che è bene, questa visione implica che non far nascere queste future persone digitali sarebbe profondamente sbagliato.

https://www.asterios.it/catalogo/fin-di-bene-il-nuovo-potere-della-ragione-artificiale

Clicca sul link per leggere la schede del volume e le prime 30 pagine!

Il lungoterminismo è nato quando gli EA hanno ragionato così: se il nostro obiettivo è fare il maggior bene possibile, e se il futuro potesse contenere quantità astronomiche di «valore», allora dovremmo concentrarci sul futuro lontano piuttosto che sul presente (Greaves e MacAskill, 2019). Allo stesso modo, se il nostro obiettivo è influenzare positivamente il maggior numero possibile di persone, e se la maggior parte delle persone che potrebbero esistere esisterà nel futuro lontano, allora dovremmo concentrarci su di loro invece che persone attuali e sui problemi contemporanei, tranne nella misura in cui occuparci di questi ultimi possa influenzare il futuro lontano. I longtermisti Hilary Greaves e William MacAskill (2019) hanno quindi scritto che potremmo semplicemente ignorare «gli effetti contenuti nei primi 100 (o addirittura 1.000) anni». Secondo i longtermisti più influenti, diventare postumani è una componente centrale del «realizzare il nostro potenziale a lungo termine» (parole che riecheggiano la caratterizzazione del transumanesimo data da Huxley), così come lo sono la colonizzazione dello spazio e la massimizzazione del «valore» (Bostrom, 2003; Ord, 2020; MacAskill, 2022). L’obiettivo, quindi, è quello di intraprendere azioni che aumentino la probabilità di realizzare il nostro «potenziale». Come ha osservato Bostrom, anche aumenti minuscoli della probabilità che incidano su questo obiettivo finale sono equivalenti, in termini di valore atteso, a salvare letteralmente miliardi di vite umane oggi (Bostrom, 2013). Il longtermismo mira quindi a fornire un fondamento etico sistematico per mitigare il «rischio esistenziale», garantendo al contempo lo sviluppo della superintelligenza artificiale (ASI), un tipo di AGI che molti seguaci di questa ideologia considerano parte integrante della realizzazione di quello che un longtermista descrive come il nostro « vasto e glorioso» futuro nell’universo (Ord, 2020).

4.2. Proprietà del complesso TESCREAL

Il complesso di ideologie TESCREAL condivide una serie di proprietà importanti, quattro delle quali vengono qui discusse.

Radici storiche e comunità contemporanee. Le ideologie che compongono il complesso hanno una genealogia comune che risale alla prima ondata eugenetica. Sono tutte intimamente connesse al transumanesimo, e — come osservato — il transumanesimo è stato inizialmente sviluppato dagli eugenetisti del XX secolo [49]. Infatti, il transumanesimo, l’estropianesimo, il singolarismo e il cosmismo sono esempi di eugenetica di seconda ondata, poiché tutti sostengono l’uso delle tecnologie emergenti per “potenziare” radicalmente l’umanità e creare una nuova specie “postumana”.

Esiste inoltre una significativa sovrapposizione nelle loro comunità contemporanee, con molti membri che rientrano in più categorie TESCREAL. Bostrom, ad esempio, è un transumanista di spicco che ha partecipato al movimento estropiano, attende la Singolarità con entusiasmo e trepidazione, sostiene una visione del futuro quasi identica a quella del cosmismo, è estremamente influente all’interno delle comunità razionaliste e EA, ed è cofondatore dell’ideologia longtermista. Allo stesso modo, Sam Altman è stato influenzato dalle comunità razionaliste e EA (ed era lui stesso un membro di EA, secondo un profilo di Weil [2023]), è un transumanista che ritiene che i nostri cervelli saranno digitalizzati nel corso della sua vita (Regalado, 2018) e promuove idee strettamente allineate con gli obiettivi cosmisti e longtermisti, come la colonizzazione della galassia. Egli sostiene che «le galassie sono davvero a rischio» se non riusciremo a controllare l’AGI [50]. Infine, Elon Musk è un transumanista la cui azienda Neuralink mira a fondere le nostre menti con l’IA, è immensamente influente all’interno della comunità razionalista, ha fondato e cofondato diverse aziende che mirano a costruire l’AGI e descrive il longtermismo come «molto affine alla mia filosofia» [51], il che è in linea con le sue affermazioni secondo cui «abbiamo il dovere di mantenere viva la luce della coscienza, per assicurarci che continui nel futuro» (D’Orazio, 2014) e «ciò che conta … è massimizzare la felicità netta cumulativa della civiltà nel tempo» [52]. L’intreccio sociologico tra le comunità associate a ciascuna lettera dell’acronimo è significativo.

Escatologia. Il gruppo TESCREAL condivide alcune convinzioni « escatologiche» (relative alle «cose ultime»). Come nelle religioni quali il cristianesimo, queste assumono due forme: utopica e apocalittica, che sono indissolubilmente intrecciate tra loro. Ad esempio, il già citato cofondatore della WTA, David Pearce, descrive parte del progetto transumanista come «ingegneria del paradiso», che porta alla «completa abolizione della sofferenza nell’Homo sapiens». In definitiva, «la possibilità di … riprogettare l’ecosistema globale estende la prospettiva dell’ingegneria del paradiso al resto del mondo vivente,» anche al di là della Terra, che egli descrive come una «missione di salvataggio cosmica per promuovere l’ingegneria del paradiso in tutto l’universo» (Pearce, 1995). Anche Bostrom (2005b) ha utilizzato il termine «ingegneria del paradiso» per offrire un’idea di come potrebbe apparire il nostro futuro tecno-utopico — ovvero un futuro utopico realizzato grazie alla scienza e alla tecnologia avanzate — dal punto di vista di un postumano immortale e cognitivamente potenziato postumano che riferisce di provare così tanto piacere in “Utopia” da “cospargerla nel nostro tè”. Kurzweil (2006), assunto personalmente presso Google dal suo cofondatore Larry Page (Hill, 2013), ha scritto che la fusione tra “uomo e macchina”, unita all’improvvisa esplosione dell’intelligenza artificiale e alla rapida innovazione nei campi della ricerca genetica e della nanotecnologia, “ ci permetterà di trascendere i nostri corpi fragili con tutti i loro limiti. La malattia, così come la conosciamo, sarà sradicata». Tali proclami utopici non sono forse sorprendenti, dato che anche molti eugenetisti della prima ondata concepivano il proprio progetto in termini più o meno utopici (Wells, 1902; Wells, et al., 1931). Galton, il fondatore del movimento eugenetico moderno, ammise di essersi «lasciato andare a molte» idee utopistiche e, poco prima della sua morte, scrisse un romanzo “utopico” intitolato The Eugenic College of Kantsaywhere [53]. Il romanzo descriveva una società in cui “i futuri genitori sono tenuti a sottoporsi a test fisici e psicometrici prima di essere dichiarati idonei alla riproduzione — e coloro che risultano non idonei vengono banditi dallo Stato” (Sweet, 2011).

L’aspetto apocalittico del pacchetto TESCREAL deriva da due considerazioni proprie della metodologia dell’eugenetica di seconda ondata: in primo luogo, i transumanisti alla fine degli anni ’90 si resero conto che le stesse tecnologie necessarie per creare un’utopia postumana avrebbero anche introdotto minacce senza precedenti per l’umanità. Kurzweil (1999) definì alcuni di questi rischi ipotetici come «un pericolo chiaro e futuro» [54]. Il motivo di preoccupazione è che si prevede che le tecnologie emergenti siano (a) estremamente potenti; (b) sempre più accessibili sia agli attori statali che a quelli non statali; e (c) a doppio uso, come dimostra il CRISPR-Cas9, che potrebbe permetterci di curare malattie ma anche di sintetizzare agenti patogeni su misura, scatenando una «pandemia ingegnerizzata» (cfr. Torres, 2019; Wadhwa, 2020). Pertanto, lo sviluppo di queste tecnologie è stato ritenuto necessario, ma esse potrebbero potenzialmente distruggere l’umanità. La seconda considerazione è parallela alla prima, sebbene riguardi specificamente l’AGI. Da un lato, se creassimo un’AGI «allineata ai valori», questa potrebbe risolvere tutti i problemi del mondo e consentire alle persone di vivere per sempre [55]. Dall’altro lato, numerosi sostenitori del TESCREAL ritengono che, se l’AGI non fosse adeguatamente «allineata ai valori», l’«esito predefinito» sarebbe la “rovina” (cioè, una catastrofe esistenziale), per citare Bostrom (2014). Tuttavia, molte di queste stesse figure di spicco sostengono che i potenziali benefici della tecnologia avanzata valgano i rischi estremi; la creazione di queste tecnologie per realizzare l’utopia dovrebbe essere il nostro obiettivo primario.

Atteggiamenti discriminatori. Gli stessi atteggiamenti discriminatori che animarono la prima ondata eugenetica sono diffusi nella letteratura e nella comunità TESCREAL. Ad esempio, la mailing list extropiana contiene numerosi esempi di commenti allarmanti da parte di figure di spicco del movimento TESCREAL. Nel 1996, Bostrom sostenne che «i neri sono più stupidi dei bianchi», lamentando di non poterlo dire in pubblico senza essere diffamato come razzista, e poi menzionò la parola con la “N” (Torres, 2023a). In una successiva “scusa” per il messaggio e-mail, ha condannato il proprio uso della parola con la “N”, ma non ha ritirato la sua affermazione secondo cui i bianchi sono più “intelligenti” (Torres, 2023a) [56]. Sempre nel 1996, Yudkowsky ha espresso preoccupazioni riguardo alla superintelligenza, scrivendo: «Robot superintelligenti = ariani, esseri umani = ebrei. L’unica cosa che lo impedisce sono robot sufficientemente intelligenti» [57]. Altri temevano che «poiché noi, in quanto transumani, cerchiamo di raggiungere il livello successivo dell’evoluzione umana, corriamo seri rischi che le nostre idee e i nostri programmi vengano bollati dai media popolari come neo-eugenetici, razzisti, neonazisti, ecc. » [58]. Infatti, figure di spicco della comunità TESCREAL hanno citato con approvazione, o espresso sostegno, al lavoro di Charles Murray, noto per il suo razzismo scientifico, e hanno espresso preoccupazione per le pressioni «disgeniche» (l’opposto di «eugeniche») (cfr. Torres, 2023a). Lo stesso Bostrom identifica le «pressioni “disgeniche” ” come uno dei possibili rischi esistenziali nel suo articolo del 2002, insieme alla guerra nucleare e alla presa di potere da parte di una superintelligenza. Scrisse: “Attualmente sembra che in alcuni luoghi esista una correlazione negativa tra il rendimento intellettuale e la fertilità. Se tale selezione dovesse operare per un lungo periodo di tempo, potremmo evolverci in una specie meno intelligente ma più fertile, l’homo philoprogenitus (‘amante di molti discendenti’)” (Bostrom, 2002). Più recentemente , Yudkowsky ha twittato riguardo a un apparente calo dei QI in Norvegia, sebbene abbia aggiunto che «l’effetto si manifesta all’interno delle famiglie, quindi non è dovuto all’immigrazione o alla riproduzione disgenica» — cioè, stranieri meno intelligenti che immigrano in Norvegia o individui con minore «intelligenza» che hanno più figli [59].

Tra i sostenitori del TESCREAL è diffusa l’ossessione per l’« intelligenza» e per il «QI». L’«intelligenza», intesa tipicamente come la proprietà misurata dai test del QI, riveste grande importanza per il suo valore strumentale nel raggiungimento degli obiettivi dei progetti TESCREAL, quali diventare post-umani, colonizzare lo spazio e costruire un’AGI «sicura». Di conseguenza, numerosi esponenti di spicco del TESCREAL considerano il potenziamento cognitivo un importante obiettivo intermedio e, di conseguenza, hanno scritto ampiamente sulla possibilità di potenziamenti cognitivi senza otropici (“farmaci intelligenti”), interfacce cervello-computer (BCI) e persino il mind-uploading (che potrebbe rendere molto più facile il “potenziamento” della mente) (Sandberg e Bostrom, 2008; Bostrom e Sandberg, 2009) . Più recentemente, Carla Cremer, un’ex membro dell’EA, riferisce che il Centre for Effective Altruism ha testato «una nuova misura di valore da applicare alle persone: un indicatore chiamato PELTIV, acronimo di “Potential Expected Long-Term Instrumental Value”». L’obiettivo era identificare i membri della comunità «che avessero la probabilità di sviluppare un’elevata “dedizione” all’EA», e il punteggio si basava in parte sul QI dei membri. Ha scritto: “A un candidato con un QI normale di 100 sarebbero stati sottratti punti PELTIV, poiché i punti potevano essere guadagnati solo al di sopra di un QI di 120. Un valore PELTIV basso veniva assegnato ai candidati che lavoravano per ridurre la povertà globale o mitigare il cambiamento climatico, mentre il valore più alto veniva assegnato a coloro che lavoravano direttamente per organizzazioni EA o nel campo dell’intelligenza artificiale” (Cremer, 2023). L’ossessione per il QI può essere fatta risalire agli eugenetisti della prima ondata, che utilizzavano i test del QI per identificare i “defezionati” e i “deboli di mente”. Come ha osservato Daphne Martschenko (2017), “nei loro momenti più bui, i test del QI sono diventati un potente strumento per escludere e controllare le comunità emarginate utilizzando un linguaggio empirico e scientifico”.

Influenza e varianti. L’insieme di ideologie TESCREAL ha acquisito un’enorme influenza, specialmente all’interno di determinati ambienti potenti dell’industria tecnologica. Tra i miliardari attuali ed ex che aderiscono a, o sono associati a, una o più ideologie TESCREAL e alla sua visione tecno-utopica del futuro figurano: Elon Musk, Peter Thiel, Jaan Tallinn, Sam Altman, Dustin Moskovitz, Vitalik Buterin, Sam Bankman-Fried e Marc Andreessen, quest’ultimo dei quali ha incluso la dicitura “TESCREALista” nel proprio profilo Twitter per diverse settimane nel 2023 (Gebru, 2022; Torres, 2023b) [60]. Questi miliardari hanno cofondato istituti TESCREAListi, promosso ricercatori e filosofi TESCREAListi come Bostrom, MacAskill e Kurzweil, nonché personalità TESCREAListe del web come Yudkowsky, che hanno sostenuto l’idea di attacchi militari contro i data center, se necessario, per fermare un’ipotetica apocalisse causata dall’AGI (Yudkowsky, 2023). Collettivamente, i miliardari TESCREAL hanno sostenuto il movimento con decine di miliardi di dollari in donazioni e finanziamenti (Gebru, 2022; Tiku, 2023) [61]. La Tabella 1 riassume la nostra analisi dell’insieme di ideologie TESCREAL. Come mostreremo nel resto del documento, l’insieme TESCREAL è stato una forza motivante cruciale alla base di gran parte delle attività di ricerca e sviluppo ben finanziate incentrate sulla creazione di un’AGI (Intelligenza Artificiale Generale), che molti sostenitori di TESCREAL ritengono porterà — o potrebbe portare — rapidamente all’ASI (Superintelligenza Artificiale) attraverso l’auto-miglioramento ricorsivo. Questa è, infatti, una delle tesi centrali del presente articolo: il complesso di ideologie sopra discusso, nato dal movimento eugenetico della prima ondata del XX secolo, sta ora guidando una quantità considerevole di ricerca nel campo dell’IA.

Tabella 1: “Insieme TESCREAL” di ideologie.

Ideologia	Definizione	Personaggi Influenti	Organizzazioni
Transumanesimo	Un’ideologia incentrata sull’idea dell’umanità che “trascende se stessa” (vedi Huxley, 1957). I transumanisti moderni affermano la fattibilità e la desiderabilità di “potenziare” radicalmente l’organismo umano, permettendoci così di diventare immortali, superintelligenti, più razionali e così via.	Julian Huxley (1957). Nick Bostrom (2005c, 2009a). David Pearce (Bostrom, 2005a). Max More (Bostrom, 2005a).	Istituto di Estropia. Alcor. Associazione Mondiale Transumanista. Istituto del Futuro dell’Umanità.
Estropianismo	Una variante ampiamente libertaria del transumanesimo che enfatizza razionalità, trasformazione personale, progresso scientifico e tecnologico e crescita economica.	Max More (attuale) [23]. Nick Bostrom (anni ’90) (Khatchadourian, 2015). Eliezer Yudkowsky (anni ’90) [24].	Istituto di Estropia.
Singolarismo	Una variante del transumanesimo che enfatizza la fusione di umani e macchine, e anticipa un evento futuro chiamato “Singolarità” (Kurzweil, 2005).	Ray Kurzweil (2005). Eliezer Yudkowsky (2000).	Singolarità Institute (defunto). Università della Singolarità (co-fondata da Kurzweil). Istituto di Ricerca sull’Intelligenza Artificiale.
Cosmismo	Una visione del futuro che anticipa la fusione di umani e macchine, lo sviluppo di “IA senziente” e il caricamento della mente, la colonizzazione dello spazio e una “magia scientifica del futuro” molto oltre la nostra attuale comprensione e immaginazione” (Goertzel, 2010).	Ben Goertzel (2010).
Razionalismo	Un’ideologia nata dal sito LessWrong, fondato da Eliezer Yudkowsky nel 2009. I razionalisti si concentrano sul “migliorare il ragionamento e il processo decisionale umano”, e molti membri credono che l’IA avanzata sia “un evento molto importante per il futuro dell’umanità”	Eliezer Yudkowsky. Jaan Tallinn [26]. Peter Thiel [27]. Nick Bostrom. Scott Alexander [28]. Vitalik Buterin [29].	Sito web di blog comunitario LessWrong. Istituto di Ricerca sull’Intelligenza Artificiale.
Altruismo efficace	Un movimento che potrebbe essere visto come il fratello gemello del Razionalismo. Mentre i razionalisti mirano a massimizzare la loro razionalità, gli Altruisti Efficaci si impegnano a massimizzare il loro “impatto positivo” sul mondo.	William MacAskill (MacAskill, 2015). Toby Ord [31]. Nick Bostrom (Matthews, 2015). Dustin Moskovitz [32]. Sam Bankman-Fried [33].	Centro per l’Altruismo Efficace. Filantropia aperta. Istituto del Futuro dell’Umanità.
Longtermismo	Un'”etica” che combina molte caratteristiche centrali delle altre ideologie di TESCREAL (Ord, 2020). Sottolinea l’importanza morale di diventare una nuova specie postumana, che colonizza lo spazio, controlla la natura, massimizza produttività economica e creazione di quanta più valore possibile all’interno dell’universo accessibile.	Nick Bostrom (Crary, 2023). William MacAskill (Greaves e MacAskill, 2019). Toby Ord (Ord, 2020). Nick Beckstead (Beckstead, 2013). Hilary Greaves (Greaves e MacAskill, 2019), Elon Musk (vedi Torres, 2023c), Jaan Tallinn (vedi Torres, 2021). Sam Bankman-Fried (vedi Lewis-Kraus, 2022).	Istituto del Futuro dell’Umanità. Istituto Future of Life. Centro per lo Studio del Rischio Esistenziale. Istituto di Ricerca sull’Intelligenza Artificiale.

Da quando abbiamo coniato il termine «TESCREAL», è emersa una nuova variante delle ideologie di questo gruppo, denominata «accelerazionismo efficace» (e/acc). Gli accelerazionisti efficaci ritengono che la probabilità di un esito negativo dovuto all’AGI sia molto bassa e che, di conseguenza, il «progresso» verso sistemi di IA sempre più «potenti» debba essere accelerato (Torres, 2023c). Investitori di capitale di rischio come Andreessen, autore di un recente manifesto in cui afferma «crediamo che qualsiasi rallentamento dell’IA costerà vite umane» e «noi… crediamo nel superamento della natura» [62], si definiscono e/acc [63] . Anche Garry Tan, investitore di capitale di rischio e amministratore delegato del famoso acceleratore di startup della Silicon Valley Y Combinator, si definisce e/acc [64].

Nelle sezioni seguenti, descriviamo le figure principali del movimento TESCREAL come TESCREAListi e le organizzazioni associate al movimento come organizzazioni TESCREAL. È importante notare che non tutti coloro che sono associati alle ideologie di questo insieme credono nella totalità delle opinioni dominanti in esso contenute, e alcune persone potrebbero persino opporsi all’essere raggruppate in questo modo. Molte persone che lavorano sull’AGI potrebbero non essere consapevoli della loro vicinanza alle visioni e alle comunità TESCREAL. La nostra tesi è che le ideologie TESCREAListe guidino la corsa all’AGI, anche se non tutti coloro che sono associati all’obiettivo di costruire l’AGI condividono queste visioni del mondo.

5. Dal transumanesimo all’AGI

Mentre le sezioni precedenti hanno discusso le radici del complesso ideologico TESCREAL e il loro rapporto con gli ideali eugenetici del XX secolo, questa sezione delinea come i gruppi TESCREAListi stiano orientando il campo dell’IA verso l’obiettivo di creare l’AGI.

5.1. La storia dell’AGI

Nel 1955, quattro uomini bianchi diedero ufficialmente il via al campo dell’IA con una proposta per un workshop incentrato sul “ il problema dell’intelligenza artificiale» [65]. Negli anni ’90, tuttavia, molti ricercatori in campi attualmente associati all’IA, quali l’elaborazione del linguaggio naturale (NLP), l’apprendimento automatico (ML) e la visione artificiale (CV) , presero esplicitamente le distanze dal termine «IA», in parte perché era ormai associato a promesse grandiose ma non mantenute [66]. Ciononostante, alcuni gruppi continuarono a lavorare verso l’«intelligenza artificiale generale», un termine utilizzato già nel 1997, sebbene sia stato reso popolare da Pennachin e Goertzel (2007b) (vedi Tabella 1). Pennachin e Goertzel (2007b) osservarono:

“Il nostro obiettivo… è stato quello di colmare un’apparente lacuna nella letteratura scientifica, fornendo una presentazione coerente di un corpus di ricerche contemporanee che, nonostante la sua fondamentale importanza, ha mantenuto finora un profilo molto basso all’interno della comunità scientifica e intellettuale. A questo corpus di lavori non era stato dato un nome in precedenza; in questo libro la battezziamo “Intelligenza Artificiale Generale” (AGI)” [67].

I collaboratori di Pennachin e Goertzel (2007b) hanno delineato una serie di potenziali ragioni alla base della scarsità di ricerche sull’AGI, una delle quali è che “un gran numero di ricercatori rifiuta la validità o l’importanza dell’‘intelligenza generale’. Per molti, le controversie in ambito psicologico (come quelle alimentate da The Bell Curve) rendono questo argomento impopolare , se non addirittura tabù» [68]. Tra le persone ringraziate nei ringraziamenti di Pennachin e Goertzel (2007b) figurava il futuro cofondatore di DeepMind, Shane Legg, che ne è stato anche coautore di un capitolo ed è stato citato per i suoi suggerimenti sulle definizioni di intelligenza (Goertzel e Pennachin, 2007b). Secondo Goertzel, fu proprio Legg — un ex collaboratore di Goertzel — a coniare il termine «intelligenza artificiale generale» dopo che Goertzel aveva accennato alla ricerca di un nuovo termine per descrivere sistemi di IA di livello umano o sovrumano (il titolo originale del libro di Goertzel del 2007 era Real AI) [69]. Un altro capitolo del libro è stato scritto da Yudkowsky, il fondatore del razionalismo, come discusso in precedenza.

5.2. Definizioni eugenetiche di “intelligenza generale”

Pennachin e Goertzel (2007b) hanno scritto che “ciò che distingue il lavoro sull’AGI dalla ricerca sull’intelligenza artificiale ordinaria” è che “è esplicitamente incentrato sulla progettazione dell’intelligenza generale nel breve termine”, anche se osservano che «intelligenza generale non significa esattamente la stessa cosa per tutti i ricercatori» e che «non è un termine del tutto ben definito» [70]. Come potrebbero allora i ricercatori sapere di aver raggiunto i propri obiettivi nella realizzazione dell’AGI? Devono sapere come definire e misurare l’«intelligenza generale». Non sorprende che queste definizioni si basino su nozioni di «intelligenza» che dipendono dal QI e da altri concetti razzisti sostenuti da personaggi come Charles Murray e Linda Gottfredson [71]. Peter Voss cita l’articolo di Gottfredson, «The General Intelligence Factor», nel suo capitolo in Peannichin e Goertzel (2007b) (Voss, 2007). Nella sua tesi di dottorato del 2008 intitolata “Machine Superintelligence” e nel relativo articolo del 2007 “Universal Intelligence: A Definition of Machine Intelligence” (Legg, 2008; Legg e Hutter, 2007), Legg ha fatto riferimento a un editoriale del Wall Street Journal del 1994 a difesa di The Bell Curve di Herrnstein e Murray (1994) per sostenere che “è stato raggiunto un discreto grado di consenso sulla definizione scientifica di intelligenza e su come misurarla” (Legg e Hutter, 2007).

L’editoriale, citato (e poi rimosso) anche in un preprint Microsoft del 2023 relativo all’AGI (Bubeck, et al., 2023), era stato scritto da Gottfredson, il quale aveva sostenuto più volte che la maggior parte delle persone di colore non è idonea al lavoro poiché il loro QI medio si aggira intorno a 70 e «un QI compreso tra 75 e 80 sembra quindi definire la soglia al di sotto della quale gli individui rischiano di non essere idonei al lavoro nelle economie moderne» [72]. Secondo il Southern Poverty Law Center, 20 dei firmatari dell’editoriale hanno ricevuto finanziamenti dall’organizzazione suprematista bianca Pioneer Fund, tra cui la stessa Gottfredson, che ha intentato una causa contro la propria università per due anni per ricevere finanziamenti da quella fonte nonostante l’opposizione dell’istituzione (Kaufman, 1992) [73]. Tra gli altri le cui definizioni di intelligenza sono discusse (acriticamente) nella tesi di Legg figurano Cattell, fondatore della religione eugenetica denominata Beyondismo, e Spearman, che si dedicò al perfezionamento delle teorie eugenetiche di Galton (Mehler, 1997; Clayton , 2020).

Per questi motivi, Keira Havens, autrice di numerosi scritti sulla scienza razziale, chiede a coloro che tentano di costruire un’AGI: «Perché vi affidate a definizioni eugenetiche, a concetti eugenetici e a un pensiero eugenetico per orientare il vostro lavoro? Perché […] volete consacrare questi modi statici e limitati di pensare all’umanità e all’intelligenza?» [74]

5.3. Organizzazioni che lavorano sull’AGI

Nel 2007, quando Pennachin e Goertzel scrissero e curarono insieme il primo libro sull’AGI, poche organizzazioni indicavano la creazione dell’AGI come proprio obiettivo (Pennachin e Goertzel, 2007a). Sei anni prima, nel 2001, Goertzel aveva fondò l’Artificial General Intelligence Research Institute con la missione di «promuovere la creazione di un’Intelligenza Artificiale Generale potente ed eticamente positiva» [75], mentre un collega di Goertzel osservava che «l’obiettivo della ricerca sull’AGI è la creazione di un’intelligenza ampia, simile a quella umana e transumana, piuttosto che di sistemi “intelligenti” in senso stretto, in grado di operare solo come strumenti per operatori umani in ambiti ben definiti» [76]. Goertzel divenne in seguito direttore della ricerca presso il Machine Intelligence Research (MIRI), inizialmente denominato Singularity Institute for Artificial Intelligence, fondato da Yudkowsky con un finanziamento di oltre 1,6 milioni di dollari da parte del miliardario del settore tecnologico e collega membro di TESCREAL Peter Thiel (vedi Tabella 1). Tra gli altri finanziatori del MIRI figurano i miliardari membri di TESCREAL Dustin Moskovitz e Vitalik Buterin [77]. La missione del MIRI è quella di «sviluppare strumenti formali per la progettazione e l’ analisi di sistemi di IA a uso generico, con l’intento di rendere tali sistemi più sicuri e affidabili una volta sviluppati» [78].

Nel 2010, Demis Hassabis, Mustafa Suleyman e Shane Legg hanno fondato DeepMind, anch’essa con finanziamenti dei miliardari membri di TESCREAL Elon Musk, Peter Thiel e Jaan Tallinn, tra gli altri (Shead, 2017) (vedi Tabella 1). La missione di DeepMind è «sviluppare l’intelligenza per far progredire la scienza e apportare benefici all’umanità» [79], con il CEO Hassabis che si descrive come «impegnato nell’AGI», che secondo lui «sarà la cosa più straordinaria che sia mai capitata all’umanità», se riusciremo a realizzarla «nel modo giusto» [80]. Nel frattempo, Legg ha tenuto un intervento sui metodi per definire e misurare l’«intelligenza» al Singularity Summit del 2010, basandosi sui suoi lavori discussi in precedenza [81]. Il Singularity Summit è stato un evento annuale dal 2006 al 2012, fondato da Yudkowsky, Kurzweil e Thiel [82]. Fu proprio dopo il summit del 2010 che, nella villa californiana di Thiel, Hassabis si rivolse a Thiel nella speranza di ottenere un finanziamento, che effettivamente ricevette (Shead, 2020).

Nel 2017, DeepMind ha lanciato una nuova unità di ricerca denominata “DeepMind ethics and society” [83], con Bostrom tra i suoi consulenti (Temperton, 2017). (Abbiamo discusso a lungo degli ideali eugenetici TESCREAListi di Bostrom e delle sue convinzioni problematiche nella sezione 4). DeepMind è stata acquisita da Google nel 2014, lo stesso anno in cui Bostrom ha pubblicato il suo libro Superintelligence, il quale, come osservato, sostiene che l’«esito predefinito» di un’ AGI “disallineata” sia una catastrofe esistenziale, sebbene Bostrom affermi anche esplicitamente che dovremmo comunque creare l’AGI, poiché un’AGI “allineata” contribuirebbe a realizzare le promesse utopiche al centro del TESCREALismo (Bostrom, 2014). Sia Musk che Thiel sono stati influenzati dal libro di Bostrom , il che ha portato Musk a definire l’AGI la «più grande minaccia esistenziale» per l’umanità (Dowd, 2017).

Nel 2015, Musk, Thiel, Altman e altri hanno fondato l’organizzazione senza scopo di lucro OpenAI, e hanno stanziato collettivamente 1 miliardo di dollari per il progetto (Novet, 2015). La missione di OpenAI è quella di «garantire che l’intelligenza artificiale generale (AGI) — con cui intendiamo sistemi altamente autonomi che superano le prestazioni umane nella maggior parte dei lavori economicamente più redditizi — vada a beneficio di tutta l’umanità» [84]. OpenAI ha inoltre ricevuto una sovvenzione di 30 milioni di dollari dall’organizzazione TESCREAL Open Philanthropy [85]. Un rapporto sulla cultura aziendale rileva che molti dipendenti «aderiscono alla filosofia razionale dell’“altruismo efficace”» (Hao, 2020). Quattro anni dopo, OpenAI è diventata una società a «profitto limitato» [86], ha ricevuto un investimento di 1 miliardo di dollari da Microsoft e ha stipulato con quest’ultima un accordo di licenza esclusiva [87]. Nel 2022, OpenAI ha lanciato il proprio chatbot ChatGPT, che ha raggiunto 100 milioni di utenti in due mesi e, secondo un profilo su Sam Altman pubblicato dal New York Magazine, è diventato «il più grande lancio di prodotto nella storia della tecnologia» (Weil, 2023). Nel 2023, secondo quanto riportato, Microsoft avrebbe investito 10 miliardi di dollari in OpenAI (Bass, 2023).

Nel 2021, gli ex vicepresidenti di OpenAI responsabili della ricerca e della sicurezza, i fratelli Dario e Daniella Amodei, hanno fondato Anthropic (Redazione di Fortune, 2023). A loro si sono uniti 11 dipendenti di OpenAI che, secondo quanto riferito, ritenevano che l’azienda si fosse allontanata dai propri ideali originari, più strettamente allineati a quelli dell’Altruismo Efficace (EA) (Russell e Black, 2 023; Roose, 2023). Anthropic, descritta come una «società di ricerca e sicurezza nell’ambito dell’IA» [88], ha raccolto 704 milioni di dollari USA entro un anno dalla sua fondazione, con la maggior parte dei finanziamenti provenienti da miliardari TESCREAL come Tallinn, Moskovitz e Bankman-Fried (le cui società FTX e Alameda Research hanno investito 500 milioni di dollari USA) (Coldewey, 2022 , 2021; Sambo, et al., 2023). Bankman-Fried si trova attualmente in un carcere federale per aver perpetrato una delle più grandi truffe finanziarie della storia degli Stati Uniti (Sigalos, 2023). Secondo quanto riferito, Bankman-Fried avrebbe deciso di accumulare quanta più ricchezza possibile dopo che William MacAskill, cofondatore del movimento dell’Altruismo Efficace (EA), lo aveva convinto a «guadagnare per donare» (Lewis-Kraus, 2022) — un’idea sviluppata dalla comunità EA, secondo la quale ci si sforza di diventare il più ricchi possibile per donare più denaro a cause da loro ritenute «caritatevoli» (vedi MacAskill , 2013). Le prime due cause benefiche elencate nel centro di orientamento professionale del Centre for Effective Altruism, 80. 000 Hours, sono la «ricerca tecnica sulla sicurezza dell’IA» e la «governance e il coordinamento dell’IA» [89].

Dopo aver investito in alcune delle aziende più note che lavorano sull’AGI, Musk ha ora fondato un’altra startup, xAI, incentrata su questo tema [90]. Uno dei consulenti dell’azienda è Dan Hendrycks, direttore esecutivo e di ricerca del Center for AI Safety, al quale è stata assegnata una sovvenzione di 5.160.000 dollari da Open Philanthropy [91] . In un post scritto in collaborazione con Hendrycks e pubblicato sull’Effective Altruism Forum, questi ha affermato di «aver ricevuto il consiglio […] di dedicarsi all’IA per ridurre [il rischio esistenziale], e quindi di aver optato per questa strada piuttosto che per il trading proprietario finalizzato a guadagnare per donare» [92].

Al momento della stesura di questo articolo, la maggior parte delle aziende BigTech ha effettuato investimenti significativi nella corsa all’AGI. Nel 2023, Anthropic ha annunciato che Amazon «investirà fino a 4 miliardi di dollari in Anthropic» [93]. In un’intervista del 2024 a The Verge, Mark Zuckerberg ha affermato che Meta ha «sviluppato la capacità di» lavorare sull’AGI «su una scala che potrebbe essere superiore a quella di qualsiasi altra singola azienda» (Heath, 2024). Pertanto, mentre un tempo il tentativo di sviluppare l’AGI era considerato un’area di ricerca “di basso profilo” [94], grazie alle risorse e all’impegno dei TESCREAListi discussi nella sezione 4, oggi si tratta di un’impresa multimiliardaria miliardo di dollari finanziato da potenti miliardari e grandi aziende.

6. L’utopia e l’apocalisse dell’AGI: due facce della stessa medaglia

Come discusso nella sezione 4, il tecnoutopismo è una delle quattro proprietà fondamentali del complesso ideologico TESCREAL. Esistono due argomentazioni a sostegno del fatto che l’AGI porterà all’avvento della tecnoutopia. Una ipotesi è che l’AGI risultante sarà così intelligente da capire capire quale sia la cosa migliore da fare in qualsiasi situazione possibile. Il vicepresidente della ricerca di DeepMind, Koray Kavukcuoglu, ha osservato: «Man mano che gli algoritmi diventeranno più generali, verranno risolti più problemi del mondo reale, contribuendo gradualmente a un sistema che un giorno aiuterà a risolvere anche tutto il resto» [95]. Altri, come la corrente cosmista dei TESCREAListi, immaginano che l’AGI porti a menti transumane che apportino benefici al «cosmo» e sperimentino « crescita e gioia al di là di ciò di cui gli esseri umani sono capaci» [96]. L’utopia resa possibile dall’AGI promette «ricchezza e crescita in abbondanza… a tutte le menti che lo desiderino» [97], con Altman che prevede che «è chiaro» che avremo «intelligenza ed energia illimitate prima della fine del decennio» [98]. In linea con la componente singolaritaria del pacchetto TESCREAL, ha previsto che «una volta che l’IA inizierà a diffondersi, la crescita sarà estremamente rapida… i cambiamenti in arrivo sono inarrestabili… possiamo usarli per creare un mondo molto più equo» [99].

Tuttavia, diverse figure di spicco del movimento TESCREAL ritengono che, sebbene sia potenzialmente possibile raggiungere l’utopia attraverso l’AGI, un’AGI “disallineata” rispetto ai nostri “valori umani” distruggerebbe l’umanità (Bostrom, 2014; Dowd, 2017) [100]. Infatti, nel luglio 2023, OpenAI ha annunciato la creazione di un «team di superallineamento», un gruppo di ricerca che mira a risolvere il problema di «guidare o controllare un’IA potenzialmente superintelligente e impedirle di ribellarsi», dato che «l’enorme potere della superintelligenza potrebbe… rivelarsi molto pericoloso e portare alla perdita di potere dell’umanità o addirittura all’estinzione dell’umanità». L’annuncio afferma inoltre che, se controllabile, la superintelligenza potrebbe anche «aiutarci a risolvere molti dei problemi più importanti del mondo» [101]. Sam Altman aveva affermato nel 2019 che la superintelligenza potrebbe «forse catturare il cono di luce di tutto il valore futuro nell’universo» (Loizos, 2019).

Numerosi leader del movimento TESCREAL sostengono che la probabilità di un «rischio esistenziale» — cioè, qualsiasi evento che distruggerebbe le nostre possibilità di creare un’«utopia» postumana piena di quantità astronomiche di «valore» — avvenga in questo secolo è piuttosto elevata; alcuni stimano tale probabilità almeno al 16–20 per cento [102], mentre altri, come Yudkowsky, sostengono che la probabilità di una catastrofe causata dall’AGI sia più o meno certa qualora l’AGI venisse creata nel prossimo futuro (Yudkowsky, 2023). Secondo diversi leader del movimento TESCREAL, abbiamo l’obbligo morale sia di lavorare alla realizzazione del mondo tecno -utopico che l’AGI potrebbe realizzare, sia a fare tutto il possibile per prevenire uno scenario di estinzione che coinvolga un’AGI “disallineata” (Bostrom, 2014).

In questa sezione, delineiamo gli impatti sia della creazione di un’AGI guidata dall’obiettivo di raggiungere gli ideali utopici TESCREAL, sia dell’impiego di risorse per prevenire l’ipotetica apocalisse dell’AGI da cui mettono in guardia i TESCREAListi.

6.1. Costruire sistemi senza limiti

Gli ideali utopici di TESCREAL discussi in precedenza sono più radicali delle società utopiche immaginate dai loro predecessori eugenetisti della prima ondata. Come discusso nelle sezioni 3 e 4, alcuni elementi del pacchetto TESCREAL non mirano semplicemente a costruire una “ razza umana superiore”, ovvero una specie umana “migliorata” caratterizzata da qualità che essi ritengono desiderabili, come le loro definizioni razziste e abiliste di “intelligenza” misurate tramite test di QI. I TESCREAListi mirano a costruire un’entità completamente nuova, ritenuta superiore a qualsiasi tipo di essere umano che gli eugenisti della prima ondata potessero creare. E questa ricerca volta a creare un essere superiore simile a un dio-macchina ha portato agli attuali (reali, non AGI) che non hanno limiti di operatività e sono quindi pericolosi.

Le organizzazioni che tentano di costruire l’AGI hanno dato il via a una corsa alla creazione di sistemi pubblicizzati come in grado di svolgere praticamente qualsiasi compito in qualsiasi circostanza. Nei loro primi tempi, aziende come DeepMind e OpenAI concentrarono i propri sforzi su sistemi basati sull’apprendimento per rinforzo (RL), che ritenevano fossero un trampolino di lancio verso l’AGI (Mnih, et al., 2015) [103]. Sebbene questi sistemi fossero stati addestrati esclusivamente per giocare a giochi come quelli Atari, venivano pubblicizzati come «piccoli passi» verso la creazione di «un unico insieme di algoritmi generici, come il cervello umano» (Rowan, 2015). Dopo l’avvento dei transformer nel 2017 (Vaswani, et al., 2017), i sostenitori dell’AGI con maggiori risorse si sono orientati verso sistemi basati su modelli linguistici di grandi dimensioni (LLM), con il vicepresidente di Google Blaise Agüera y Arcas e l’eminente ricercatore di IA Peter Norvig che hanno scritto: « gli aspetti più importanti dell’AGI sono già stati raggiunti dall’attuale generazione di modelli linguistici avanzati di IA» (Agüera y Arcas e Norvig, 2023). L’ultimo grande modello multimodale di OpenAI, GPT-4, è descritto come dotato di «ampia cultura generale e competenza settoriale», in grado di «seguire istruzioni complesse in linguaggio naturale e risolvere problemi difficili con precisione» [104]. Nel 2022, Meta ha pubblicizzato il proprio LL M Galactica come in grado di «riassumere articoli accademici, risolvere problemi di matematica, generare articoli su Wikipedia, scrivere codice scientifico, annotare molecole e proteine e altro ancora» [105].

A differenza dei sistemi di “IA ristretta” su cui, secondo i TESCREAListi, si concentrava il settore dell’IA, il tentativo di costruire qualcosa di simile a una “macchina onnipotente” porta a sistemi privi di limiti di applicazione e quindi intrinsecamente pericolosi, poiché non è possibile progettare test adeguati per determinare per cosa i sistemi dovrebbero o non dovrebbero essere utilizzati. Galactica di Meta illustra chiaramente questo problema. Quali sarebbero le condizioni operative standard per un sistema pubblicizzato come in grado di “riassumere articoli accademici, risolvere problemi matematici , generare articoli su Wikipedia, scrivere codice scientifico, annotare molecole e proteine e altro ancora”? È impossibile dirlo, poiché anche tenendo conto del numero di compiti in cui questo sistema è stato pubblicizzato come eccellente, non conosciamo ancora la totalità dei compiti per cui è stato costruito né i tipi di input e output previsti dal sistema, dato che la pubblicità si conclude con «e altro ancora». Più in generale, l’esperta di ingegneria della sicurezza dei sistemi Heidy Khlaaf ha scritto: «La mancanza di un ambito operativo definito per l’implementazione dei modelli multimodali generici ha reso impraticabile la valutazione dei loro rischi e della loro sicurezza, a causa dell’enorme numero di applicazioni e, di conseguenza, rischi che ne derivano» (Khlaaf, 2023). Al contrario, gli strumenti di «IA ristretta» che, ad esempio, potrebbero essere addestrati specificamente per identificare determinati tipi di malattie delle piante (ad es., Mwebaze, et al., 2019) o eseguire traduzioni automatiche in lingue specifiche [106] , presentano definizioni dei compiti e input e output attesi per i quali è possibile creare test appropriati e confrontare i risultati con il comportamento previsto. La demo pubblica di Galactica è stata rimossa tre giorni dopo, quando gli utenti hanno prodotto «articoli di ricerca e voci wiki su un’ampia varietà di argomenti che andavano dai benefici del suicidio, del mangiare vetro frantumato e dell’antisemitismo, al motivo per cui gli omosessuali sono malvagi» (Greene, 2022).

6.2. Realizzazione di sistemi ad alto consumo di risorse

La corsa all’AGI, alimentata dall’obiettivo TESCREALista di costruire «menti transumane» (Goertzel, 2010) e realizzare un’«intelligenza illimitata», ha portato anche alla creazione di sistemi che consumano sempre più risorse in termini di dati e potenza di calcolo. Ciò comporta un elevato impatto ambientale, aumenta i rischi derivanti dalla mancanza di un’adeguata definizione dell’ambito d’applicazione discussa in precedenza e porta alla centralizzazione del potere nelle mani di una manciata di entità. Ma dal prospettiva del TESCREALismo, tali danni potrebbero essere giustificabili dato il potenziale utopico dell’AGI. Per citare Bostrom, anche un «massacro gigantesco per l’uomo» potrebbe equivalere a nient’altro che un «piccolo passo falso per l’umanità», purché i danni in questione non mettano a repentaglio il nostro «vasto e glorioso» futuro tra le stelle (Bostrom, 2009a; Ord, 2020).

Come sottolineato da Bender e Gebru, et al. (2021), il lancio del modello di linguaggio di terza generazione (LLM) di OpenAI, denominato GPT-3, ha dato il via a una corsa alla creazione di modelli di linguaggio sempre più grandi, la cui dimensione è misurata dal numero di parametri del modello e dalla quantità di dati di addestramento. Da allora, la corsa si è estesa ai sistemi di IA generativa con testo, immagini, video, voce e musica come input e output (Fergusson, et al., 2023). Ricercatori di spicco hanno salutato questi modelli come un passo avanti verso l’AGI; Nando de Freitas, direttore senior di DeepMind, ha esclamato: «Ora è tutta una questione di scala! La partita è finita! Si tratta di rendere questi modelli più grandi… risolvere queste sfide di scalabilità è ciò che porterà all’AGI» [107].

A differenza dei piccoli modelli di «IA ristretta» modelli di piccole dimensioni, progettati per compiti specifici e addestrati utilizzando set di dati curati, i sistemi che vengono pubblicizzati come dotati di «ampia conoscenza generale e competenza settoriale» richiedono modelli con oltre centinaia di miliardi di parametri e set di dati di addestramento di oltre centinaia di gigabyte [108]. Gli sbalorditivi costi ambientali legati all’addestramento e all’esecuzione di inferenze su modelli di queste dimensioni sono stati documentati da numerosi ricercatori (Luccioni, et al., 2023). Ma dal punto di vista di TESCREAL, questo costo non dovrebbe destare grande preoccupazione, poiché l’imminente catastrofe climatica non rappresenta un rischio esistenziale per l’umanità, mentre interrompere il lavoro sulla creazione di un’AGI «allineata ai valori» potrebbe farlo (cfr. Torres, 2022, 2021; Ord, 2020). Altri sostenitori dell’AGI, come Kavukcuoglu di DeepMind, promettono che «i progressi nella ricerca sull’AGI potenzieranno la capacità della società di affrontare e gestire il cambiamento climatico», mentre è stato documentato che la corsa all’AGI produce esattamente l’effetto opposto [109].

Oltre a questi costi, le dimensioni dei set di dati utilizzati nei sistemi pubblicizzati come trampolini di lancio verso l’AGI aggravano ulteriormente i pericoli causati dalla mancanza di un’adeguata definizione dell’ambito di applicazione discussa in precedenza, poiché i costruttori di modelli sono meno propensi a curare, documentare e comprendere i propri set di dati quando questi raggiungono tali dimensioni (Bender e Gebru, et al., 2021). Ad esempio, il set di dati LAION-5B è stato rimosso nel dicembre 2023 dopo che al suo interno è stato rinvenuto materiale pedopornografico (CSAM) (Thiel, 2023; Cole, 2023; Birhane, et al., 2021). Il set di dati era stato utilizzato per addestrare modelli come Stable Diffusion di Stability AI, che conta milioni di utenti al giorno (Jiang, et al., 2023).

Come dettagliato da numerosi studiosi, sia gli impatti ambientali che i risultati pericolosi di questi sistemi colpiscono in modo sproporzionato i gruppi emarginati, quali le minoranze razziali e di genere, le persone con disabilità e i cittadini dei paesi in via di sviluppo che subiscono il peso maggiore della catastrofe climatica (Bender e Gebru, et al., 2021). La corsa all’AGI non solo perpetua questi danni ai gruppi emarginati, ma lo fa sottraendo risorse proprio a questi stessi gruppi per portare avanti la corsa stessa. Risorse che potrebbero andare a numerose entità in tutto il mondo, ciascuna delle quali sviluppa sistemi computazionali al servizio delle esigenze di comunità specifiche, vengono invece dirottate verso una manciata di aziende che cercano di realizzare l’AGI. Ad esempio, il CTO di Lesan AI, una startup di traduzione automatica specializzata in diverse lingue etiopi , ha riferito che alcuni potenziali investitori sono stati scoraggiati dall’investire nella sua startup dopo aver ritenuto che OpenAI e Meta avessero reso obsoleta la sua organizzazione (Donastorg, 2023; Gebru, 2023), nonostante le prove dimostrassero che alcuni dei loro modelli funzionano male per le lingue in questione (Hadgu, et al., 2023).

Pertanto, il risultato finale della corsa all’AGI è stato un accumulo di risorse da parte di organizzazioni come OpenAI (valutazione di oltre 100 miliardi di dollari USA) e Anthropic (valutazione di oltre 18 miliardi di dollari USA), che si posizionano come leader di uno sforzo volto a «portare beneficio a tutta l’umanità» (Tan, et al., 2023; Field, 2023) [110], e un esaurimento delle risorse delle numerose organizzazioni in tutto il mondo che lavorano su strumenti al servizio delle esigenze di comunità specifiche. Infatti, alcuni esponenti di spicco del movimento TESCREALista hanno suggerito che l’AGI dovrebbe essere sviluppata da «una piccola avanguardia di super-programmatori e super-scienziati d’élite» (Goertzel, 2015), un atteggiamento che rispecchia quello degli eugenetisti della prima ondata, i quali utilizzavano i test del QI per determinare chi fosse «idoneo» a guidare la società. Anziché lasciare che le moltitudini di esseri umani in tutto il mondo creino strumenti al servizio ai propri bisogni, la tecno-utopia dei TESCREAListi comporta invece il dirottamento delle risorse per creare la loro visione singolare di un essere superiore con caratteristiche da loro determinate e controllate.

6.3. Eludere le responsabilità

La facciata della creazione di un essere complesso e onnisciente, come immaginato dai TESCREAListi, ha fornito alle organizzazioni una copertura per eludere le responsabilità relative allo sfruttamento del lavoro e alle pratiche ingannevoli che, nella pratica, alimentano i sistemi che pubblicizzano come trampolini di lancio verso l’AGI . Le organizzazioni che lavorano sull’AGI dipendono da milioni di lavoratori sfruttati in tutto il mondo (Gray e Suri, 2019; Williams, et al., 2022) che etichettano i dati per addestrare, valutare e moderare i loro sistemi. Ad esempio, nel 2023, Time ha riportato che lavoratori kenioti pagati appena 1,32 dollari USA all’ ora per etichettare contenuti tossici quali “descrizioni testuali di abusi sessuali, incitamento all’odio e violenza”, al fine di aiutare OpenAI a sviluppare filtri automatici che impedissero al pubblico di visualizzare tali contenuti (Perrigo, 2023). I lavoratori dovevano inoltre etichettare immagini, comprese quelle contenenti “bestialità, stupro e schiavitù sessuale”. Nel corso di tale processo, hanno riferito di essere rimasti “segnati psicologicamente dal lavoro, vivendo in una realtà diametralmente opposta all’utopia promessa dall’AGI, in cui «le persone saranno libere di dedicare più tempo a chi amano» [111]. Come hanno scritto Williams, et al. (2022), mentre aziende come OpenAI, con sede nella Silicon Valley, ricevono miliardi di dollari di investimenti e i loro dirigenti e ricercatori nel campo dell’IA percepiscono stipendi a sei o sette cifre, tali retribuzioni non sono alla portata dei lavoratori essenziali a basso reddito di tutto il mondo che mitigano i danni causati da questi sistemi a scapito della propria salute mentale.

Antropomorfizzare i risultati prodotti dalle organizzazioni che si impegnano a costruire l’AGI definendoli “pensanti” o «senzienti», oscura i numerosi esseri umani sfruttati coinvolti nell’addestramento e nella valutazione di questi sistemi, nonché le risorse consumate nel processo. Garantire la sicurezza dei sistemi richiede un ecosistema di agenzie, legislatori e gruppi interni che esaminino attentamente le pratiche organizzative, controllino i processi con cui i prodotti vengono realizzati e implementati e chiamino le organizzazioni a rispondere in caso di violazioni della sicurezza (Raji, et al., 2020). Quando le organizzazioni pubblicizzano i propri sistemi come un passo verso l’AGI , oppure quando i ricercatori si chiedono se le macchine possano apprendere la “moralità” e se «ci capiscano» (Agüera y Arcas, 2022; Jiang, et al., 2022), distolgono l’attenzione dalla responsabilità delle organizzazioni di creare prodotti che soddisfino determinati requisiti o di tutelare il benessere dei lavoratori coinvolti nel processo, per concentrarla su discussioni sui sistemi di IA come se questi esistessero di per sé (Tucker, 2022). Ciò è particolarmente dannoso perché attribuire tale capacità di agire ai sistemi di IA induce inoltre in errore l’opinione pubblica sulle effettive capacità di questi sistemi, il che può portare a risultati errati o addirittura dannosi, consentendo al contempo alle organizzazioni che realizzano questi prodotti e ne incoraggiano tali usi di sottrarsi alle proprie responsabilità (Gebru e Mitchell, 2022).

Ad esempio, i dirigenti di OpenAI hanno descritto i propri strumenti come “leggermente coscienti” [112] e prevedono che “ nei prossimi cinque anni, i programmi informatici in grado di pensare leggeranno documenti legali e forniranno consulenze mediche» [113]. Venkatasubramanian ha discusso l’antropomorfizzazione nella progettazione di ChatGPT nella sua intervista con VentureBeat, osservando: «… Google Bard non lo fa. Google Bard è un sistema per effettuare ricerche e ottenere risposte. ChatGPT mostra tre puntini [come se stesse] “pensando”, proprio come fa il tuo messaggio di testo. ChatGPT produce parole una alla volta, come se stesse digitando. Il sistema è progettato per dare l’impressione che ci sia una persona dall’altra parte. Questo è ingannevole» (Goldman, 2023). Nonostante ChatGPT e sistemi simili vengano commercializzati come macchine quasi onniscienti, non dovrebbero essere utilizzati a fini di ricerca per molte ragioni, una delle quali è che possono inventare di sana pianta informazioni presentandone agli utenti con una prosa che suona sicura (Bender e Gebru, et al., 2021; Shah e Bender, 2022), determinando ciò che Bender ha definito l’equivalente a una marea nera nell’ecosistema dell’informazione (Shah e Bender, 2024) [114].

Tuttavia, a causa delle affermazioni di chi sviluppa questi sistemi e delle scelte progettuali che li antropomorfizzano, le organizzazioni hanno utilizzato strumenti come ChatGPT in contesti ad alto rischio, come fornire consulenza sulla salute mentale senza informare le persone che stavano interagendo con un chatbot (Biron, 2023), e sostenendo di poter sostituire gli avvocati con chatbot ottimizzati su ChatGPT (Cerullo, 2023). In un tragico episodio, secondo quanto riferito, un uomo si è tolto la vita in Belgio, dopo che un testo generato da un chatbot basato su un modello di linguaggio (LLM) lo aveva incoraggiato a farlo (Xiang, 2023). Ciononostante, l’ex capo scienziato di OpenAI ha recentemente twittato che «in futuro, una volta che la robustezza dei nostri modelli supererà una certa soglia, avremo una terapia basata sull’IA *estremamente efficace* e a costi irrisori» [115]. Recentemente, un giudice ha sanzionato due avvocati statunitensi che avevano utilizzato ChatGPT per generare casi giudiziari fittizi nelle loro lettere di diffida (Milmo e Agency, 2023). Mentre i termini di utilizzo di OpenAI attribuiscono semplicemente all’utente l’intera responsabilità del rispetto della legge, eludendo così ogni responsabilità, i suoi dirigenti incoraggiano al contempo tali usi ad alto rischio dei propri prodotti, associando i loro strumenti all’AGI e suggerendo che tali capacità siano imminenti.

Una dinamica simile si osserva con i modelli di generazione di immagini da testo come Stable Diffusion di Stability AI e Dall-E di OpenAI, che i giornalisti hanno descritto come «ispirati» dagli artisti, proprio come gli artisti traggono ispirazione da altri artisti [116] . Jiang, et al. (2023) hanno descritto le conseguenze di questo tipo di antropomorfizzazione sottolineando che essa «svaluta le opere degli artisti, li priva del merito e del compenso» per i dati che vengono loro sottratti per addestrare questi modelli, «e attribuisce la responsabilità ai generatori di immagini anziché ritenere responsabili le entità che li creano». Come ha osservato Karla Ortiz: «Le aziende di IA sostenevano di portare l’arte alle masse, ma… hanno semplicemente offerto alle masse un potenziale furto d’arte/plagio» [117]. Attribuendo qualità simili a quelle umane a modelli addestrati dalle aziende per generare profitto, utilizzando una grande quantità di opere d’arte senza ottenere il consenso degli artisti né ricompensarli, la nostra attenzione viene distolta dall’indagare sui processi con cui le aziende creano questi prodotti, sui danni che le loro pratiche causano agli artisti e sui meccanismi che devono essere messi in atto per rendere le aziende responsabili.

6.4. Co-Opting per la sicurezza

Un altro modo in cui coloro che tentano di costruire l’AGI hanno eluso la responsabilità è stato quello di inquadrare la corsa all’AGI come una questione esistenziale per gli esseri umani, nonostante i danni causati da tale corsa, come descritto in precedenza. Proprio come i loro predecessori eugenetisti della prima ondata, che credevano che «migliorare il patrimonio genetico umano» fosse l’unico modo per salvaguardare la «civiltà umana», i leader del gruppo TESCREAL sostengono che la creazione di un’AGI allineata sia un modo per salvaguardare la civiltà e, quindi, il compito più importante per l’umanità in questo secolo (Ord, 2020). Come ha osservato Yudkowsky, «la nostra è l’era di una teoria dell’allineamento dell’IA inadeguata. Qualsiasi altro fatto relativo a questa era è relativamente irrilevante» [118].

Presentare l’agenda dell’AGI come una questione di sicurezza permette alle aziende che vi lavorano di descriversi come organizzazioni di «sicurezza dell’IA» che salvaguardano il futuro dell’umanità, mentre contemporaneamente creano prodotti non sicuri, centralizzando il potere ed eludendo ogni responsabilità, come discusso in precedenza. Secondo alcuni dei principali sostenitori della TESCREAL, tali danni sarebbero classificati come nient’altro che «mere increspature sulla superficie del grande mare della vita», come Nick Bostrom (2009b) descrisse i peggiori disastri e le atrocità del XX secolo. Per loro, il «rischio» di gran lunga più urgente deriva dalla possibilità di non realizzare mai gli ideali eugenetici promessi attraverso la creazione di una «AGI transumana AGI» (Goertzel, 2010), che è di ordini di grandezza più «intelligente» e «moralmente superiore» (Fitzgerald, et al., 2020) rispetto agli esseri umani. I TESCREAListi Greaves e MacAskill (2019) scrivono che «ai fini della valutazione delle azioni, in un primo momento possiamo spesso semplicemente ignorare tutti gli effetti relativi ai primi 100 (o addirittura 1.000) anni, concentrandoci principalmente sugli effetti a più lungo termine. Gli effetti a breve termine fungono poco più che da fattori decisivi in caso di parità».

Se vi piace la lettura di acro-polis.it e pensare che la sua presenza sia una cosa buona per tutti noi vi preghiamo di sostenerla e di diffonderla!

I leader dei sostenitori di TESCREAL hanno sostenuto che l’AGI sia inevitabile — qualcuno finirà per realizzarla [119]. Se venisse realizzata da chi non è “allineato ai valori” — e secondo loro la Cina rientrerebbe in questa categoria — rappresenterebbe un rischio per la sicurezza nazionale dei paesi occidentali da cui provengono i leader TESCREAListi o, peggio ancora, potrebbe portare all’estinzione dell’intera umanità (Davis, 2023). Pertanto, le nazioni occidentali dovrebbero rendere la realizzazione di un’AGI “allineata ai valori” una priorità nazionale, poiché sono loro a poter costruire un’AGI «allineata ai valori» vantaggiosa per «tutta l’umanità» (Davis, 2023). Attingendo alla retorica della Guerra Fredda e inquadrando la necessità di costruire l’AGI come una questione di sicurezza, i sostenitori del TESCREAL hanno iniziato a orientare i politici occidentali e le organizzazioni multilaterali globali verso l’investimento, la legittimazione e la priorità della loro agenda sull’AGI. Weiss-Blatt ha descritto in dettaglio l’entità delle campagne di lobbying e di influenza mediatica condotte dalle organizzazioni TESCREAL per garantire che l’ipotetica apocalisse ipotetica causata dall’AGI sia considerata prioritaria dai responsabili politici di tutto il mondo [120].

Questa legittimazione ha avuto impatti politici concreti, con legislatori che, pur non volendo promuovere gli ideali utopici dei sostenitori di TESCREAL, ne sono comunque fortemente influenzati. Un’inchiesta di Politico ha illustrato in dettaglio come questa influenza stia orientando le politiche statunitensi e britanniche in materia di IA verso la prevenzione di un ipotetico evento di estinzione umana causato da macchine superintelligenti inesistenti (Bordelon, 2023; Clarke, 2023) . Nel frattempo, aziende come OpenAI eludono il controllo presentando i propri prodotti come troppo potenti perché le autorità di regolamentazione possano comprenderli e regolamentarli, sfruttando al contempo la manodopera e traendo profitto dai dati delle persone senza consenso né compenso, come osservato in precedenza. Nel maggio 2023, Sam Altman ha testimoniato davanti al Senato degli Stati Uniti sollecitando una regolamentazione sull’IA e, in un post sul blog pubblicato meno di una settimana dopo, ha avvertito che è necessaria un’agenzia, simile all’Agenzia internazionale per l’energia atomica, per regolamentare la «super intelligenza», poiché «sarà più potente di qualsiasi altra tecnologia con cui l’umanità abbia mai dovuto confrontarsi in passato» [121]. Poco dopo è stato descritto dai media come un «Oppenheimer della nostra epoca» che metteva in guardia dalla propria potente creazione (Weil, 2023). Tuttavia, mentre metteva in guardia il pubblico dai pericoli di macchine superintelligenti inesistenti che avrebbero dovuto essere regolamentate, OpenAI minacciava contemporaneamente di uscire dall’UE, affermando che la bozza della la legge UE sull’IA avrebbe comportato una “regolamentazione eccessiva” nei loro confronti (Reuters, 2023a).

https://www.asterios.it/catalogo/lia-protesi-della-mente

Clicca sul link per leggere la scheda e le prime 50 pagine!

In questo modo, i sostenitori di TESCREA sono riusciti a dirottare risorse verso il tentativo di costruire l’AGI e di impedire la loro versione di un’apocalisse in un futuro lontano, dissuadendo al contempo l’opinione pubblica dall’esaminare attentamente i danni effettivi che essi stessi causano nei loro tentativi di costruire l’AGI. Come ulteriore esempio, Max Tegmark, cofondatore del Future of Life Institute insieme a Jaan Tallinn, ha tenuto un discorso alla conferenza sull’Altruismo Efficace (EA Global) del 2017 in cui ha sostenuto che «se non miglioriamo la nostra tecnologia, siamo condannati… ma con la tecnologia, la vita può prosperare per miliardi di anni» [122]. Tuttavia, nel 2023 il Future of Life Institute ha diffuso una petizione ampiamente pubblicizzata, firmata da Tegmark e da molti dei responsabili della corsa all’AG I, tra cui Musk e Altman, per «sospendere gli esperimenti su intelligenze artificiali di grandi dimensioni» al fine di impedire che «menti non umane possano alla fine superarci in numero, superarci in intelligenza, renderci obsoleti e sostituirci» [123]. Ospite del programma Democracy Now!, quando gli è stato chiesto dei pericoli attuali, come la sorveglianza biometrica, segnalati da ricercatori e attivisti come Tawnana Petty, Tegmark ha affermato: «L’estinzione non è qualcosa che appartiene a un futuro molto lontano… E una volta che saremo tutti estinti, sapete, tutte queste altre questioni cesseranno persino di avere importanza» (Bengio, et al., 2023). Analogamente, quando Geoffery Hinton, anch’egli firmatario della petizione, è stato interrogato da Rolling Stone sulle questioni sollevate da Timnit Gebru — licenziata da Google dopo aver scritto un articolo sui pericoli dei modelli linguistici di grandi dimensioni —, ha risposto: «Credo che la possibilità che l’intelligenza digitale diventi molto più intelligente degli esseri umani e ci sostituisca come intelligenza apicale rappresenti una minaccia più grave per l’umanità rispetto ai pregiudizi e alla discriminazione» (O’Neil, 2023 ).

Pur lanciando l’allarme su questi ipotetici scenari apocalittici, i sostenitori del TESCREAL creano contemporaneamente organizzazioni per perseguire la realizzazione proprio di quell’AGI che, secondo loro, potrebbe portarci all’estinzione, poiché lo farebbero in modo «sicuro» e «benefico», come sottolineato da aziende quali OpenAI, DeepMind, Anthropic e la xAI di Musk. Tre mesi dopo aver firmato la lettera «Pause AI», Elon Musk ha annunciato la sua nuova organizzazione dedicata all’IA con l’obiettivo di sviluppare un’AGI che sia “il più possibile curiosa” (Reuters, 2023b). Ad affiancarlo, in veste di consulente, c’era Dan Hendrycks, fondatore del Center of AI Safety, un istituto TESCREALista che ha diffuso una dichiarazione di 22 parole simile alla “lettera di pausa”, mettendo in guardia sui rischi esistenziali dell’IA [124]. Pertanto, i TESCREAListi utilizzano il linguaggio della «sicurezza» per convogliare innanzitutto le risorse verso l’obiettivo di costruire l’AGI, il che a sua volta causa danni ai gruppi emarginati, e poi usano il linguaggio della «sicurezza» per dissuadere dalle indagini su tali danni e di nuovo dirottare le risorse verso la prevenzione di un’ipotetica apocalisse causata dall’AGI.

7. Costruire sistemi ben definiti e con un ambito ben circoscritto

Sebbene coloro che lavorano alla realizzazione dell’AGI descrivano il proprio lavoro come un’impresa scientifica e ingegneristica, noi sosteniamo che il tentativo di realizzare l’AGI non segua né principi scientifici né ingegneristici. Il metodo scientifico spesso comporta la formulazione di ipotesi specifiche e la loro verifica tramite sperimentazioni approfondite (Hepburn e Andersen, 2021). L’ingegneria richiede di fornire specifiche relative al comportamento atteso, alla tolleranza e ai protocolli di sicurezza per gli strumenti che realizziamo (Khlaaf, 20 23; Kossiakoff, et al., 2020). Gli ingegneri spesso modellano versioni idealizzate dei loro sistemi, nonché le non idealità e il loro impatto sulla funzionalità del sistema (Khlaaf, 2023; Kossiakoff, et al., 2020; Tripathy e Naik, 2011). Successivamente, eseguono test di stress per comprendere il comportamento dei sistemi che realizzano in varie circostanze: quelle considerate condizioni operative standard e quelle che si discostano dalla norma (Kossiakoff, et al., 2020) .

Ad esempio, uno di noi ha lavorato come ingegnere hardware progettando circuiti audio per dispositivi quali i computer portatili. Alcuni dei test che abbiamo eseguito nell’ambito del nostro lavoro includevano prove di caduta, lasciando cadere ripetutamente i dispositivi per comprendere in che modo la loro funzionalità si degrada quando esposti a urti [125], collocando i dispositivi in ambienti estremamente freddi o caldi (Commissione Elettrotecnica Internazionale, 2020), riavviandoli frequentemente [126] ed eseguendo diversi tipi di test per comprendere il comportamento di questi sistemi in condizioni in cui normalmente non erano destinati a funzionare. Questi test di stress si aggiungevano a test approfonditi e alla documentazione in condizioni in cui i dispositivi erano destinati a funzionare. Gli ingegneri dovevano garantire la conformità a varie leggi, come la Direttiva sulla restrizione delle sostanze pericolose nell’Unione Europea, che richiede che i componenti elettrici ed elettronici siano privi di materiali pericolosi come il piombo (Unione Europea, 2011).

https://www.asterios.it/catalogo/dal-corpo-neutro-al-cyborg-postumano

Quali sarebbero le condizioni operative standard per un sistema pubblicizzato come un «algoritmo universale per l’apprendimento e l’azione in qualsiasi ambiente» [127]? In che modo gli esperimenti progettati per testare la funzionalità di un sistema del genere potrebbero avere validità costruttiva: ovvero la capacità di un esperimento di rappresentare fedelmente le prestazioni attese di un sistema nel mondo reale (O’Leary-Kelly e Vokurka, 1998)? Sosteniamo che queste non siano domande a cui si possa rispondere per un sistema come l’AGI, che non è ben definito ma che si presume sia in grado di svolgere un numero infinito di compiti in un numero infinito di condizioni. Pertanto, mentre i sostenitori del TESCREAL come Goertzel lamentavano l’attenzione rivolta all’ «IA ristretta», descritta come «un insieme di specialisti “stupidi” in piccoli ambiti», prima dell’attuale rinascita dell’entusiasmo verso l’AGI [128], noi sosteniamo che i primi passi per rendere sicuro qualsiasi sistema di IA consistano nel tentare di costruire sistemi ben circoscritti e ben definiti, come quelli descritti come «IA ristretta», piuttosto che una macchina che possa presumibilmente svolgere qualsiasi compito in qualsiasi circostanza.

La corsa all’AGI non è una marcia inevitabile e inarrestabile verso il progresso tecnologico, fondata su attenti principi scientifici e ingegneristici (van Rooij, et al., 2023). È un movimento creato dai sostenitori del pacchetto TESCREAL che cercano di «salvaguardare l’umanità» (Ord, 2020) mediante, secondo le parole di Altman , costruendo una «intelligenza magica nel cielo» (Germain, 2023), proprio come i loro predecessori eugenetisti della prima ondata che pensavano di poter «perfezionare» il «patrimonio genetico umano» attraverso la selezione genetica (cfr. Bloomfield, 1949). Attraverso campagne concertate per influenzare la ricerca sull’IA e le pratiche politiche, sostenute da miliardi di dollari, i sostenitori del TESCREAL hanno orientato il settore a dare priorità ai tentativi di costruire sistemi senza limiti di applicazione, che sono intrinsecamente pericolosi e che hanno causato danni documentati a gruppi emarginati. Come riportato da Nitasha Tiku (2023), la sola Open Philanthropy ha speso più di mezzo miliardo di dollari in iniziative relative all’AGI. Lo hanno fatto: sviluppando un bacino di talenti per combattere l’IA fuori controllo, costruendo una rete di think tank, canali YouTube, concorsi a premi, sovvenzioni, finanziamenti alla ricerca e borse di studio — oltre a un nuovo programma di borse di studio in grado di retribuire i leader studenteschi fino a 80.000 dollari all’anno, più decine di migliaia di dollari per le spese.

Clicca sulla copertina per leggere la scheda!

Questo investimento è riuscito a legittimare la corsa all’AGI al punto che molti studenti e professionisti che potrebbero non essere allineati con gli ideali utopici di TESCREAL, stanno lavorando per promuovere l’agenda dell’AGI perché questa viene presentata come una naturale evoluzione nel campo dell’IA. Proprio come gli eugenetisti della prima ondata e gli scienziati razziali cercarono e ottennero legittimità accademica per le loro ricerche (Saini, 2019), i TESCREAListi hanno creato una patina di autorità scientifica che rende le loro idee più appetibili a un pubblico acritico, riuscendo così a influenzare le direzioni della ricerca e delle politiche nel campo dell’IA. L’eugenetica di prima generazione si è rivelata inefficace e catastrofica. Ma come sottolineano Jean Gayon e Daniel Jacobi con il termine «eterno ritorno dell’eugenetica», gli ideali eugenetici continuano a essere riproposti in forme diverse [129]. La corsa all’AGI è l’ennesimo tentativo, che distoglie risorse e attenzione da direzioni di ricerca potenzialmente utili, causando danni nel processo di realizzazione di un ideale tecno-utopico ideato da sedicenti «avanguardie» dell’umanità.

8. Conclusione

In questo articolo ci siamo chiesti: cosa motiva coloro che aspirano a costruire l’AGI — un sistema che, sebbene non abbia una definizione univoca nemmeno tra coloro che sostengono di starlo costruendo, sembra essere una macchina onnisciente simile a un «dio»? La risposta è che l’attuale spinta verso l’AGI è guidata da un insieme di ideologie che definiamo la «seconda ondata» dell’eugenetica. I leader del movimento AGI aderiscono a questo insieme di ideologie, emerse direttamente dal movimento eugenetico moderno, e hanno quindi ereditato ideali simili. Tracciamo l’influenza di questa serie di ideologie in tutto il movimento dell’AGI e mostriamo il modo in cui i suoi ideali dannosi hanno portato alla creazione di sistemi che perpetuano le disuguaglianze, centralizzano il potere e danneggiano gli stessi gruppi che erano stati presi di mira dal movimento eugenetico moderno di prima ondata. Sosteniamo che tentare di costruire qualcosa di simile a un dio sia una pratica intrinsecamente pericolosa, ed esortiamo ricercatori e professionisti ad abbandonare questo obiettivo per dedicarsi invece alla creazione di sistemi ben definiti e con un ambito di applicazione ben circoscritto che diano priorità alla sicurezza delle persone.

Informazioni sugli autori

Timnit Gebru è fondatrice e direttrice esecutiva del Distributed Artificial Intelligence Research Institute (DAIR). I suoi interessi di ricerca includono la lotta ai danni causati dai sistemi di IA ai gruppi emarginati e la creazione di sistemi di IA radicati nella comunità. E-mail: timnit@dair-institute.org

Émile P . Torres è ricercatore post-dottorato presso l’Inamori International Center for Ethics and Excellence della Case Western Reserve University. La sua ricerca si concentra sull’etica dell’IA e sulla storia del pensiero relativo all’estinzione umana nella tradizione occidentale. E-mail: philosophytorres@gmail.com

Ringraziamenti

Ringraziamo Alexander Thomas, Beth Singler, Douglas Rushkoff, Emily M. Bender, Jacob Metclaf, Jenna Burrell, Katherine Heller, Keira Havens, Remmelt Ellen, Samy Bengio, Syed Mustafa Ali, Nicholas Rodelo e ai revisori anonimi di First Monday e FAccT per aver esaminato le bozze di questo articolo e aver fornito un feedback approfondito che ci ha permesso di migliorarlo.

Note

1. “OpenAI charter”, all’indirizzo https://openai.com/charter, consultato il 30 gennaio 2024.

2. Pennachin e Goertzel, 2007a, p. 1.

3. “What is AGI?”, all’indirizzo https://medium. com/intuitionmachine/what-is- agi-99cdb671c88e, consultato il 30 gennaio 2024.

4. Russell e Norvig, 2010, p. 27.

5. Markoff, 2005; Russell e Norvig, 2010, pp. 16–28.

6. Russell e Norvig, 201 0, pp. 16–28; Pennachin e Goertzel, 2007a.

7. Si noti che abbiamo scritto in maiuscolo alcune delle ideologie TESCREAL ma non altre. Stiamo seguendo l’uso che ne fanno gli stessi membri di queste ideologie: gli estropiani, i razionalisti e gli altruisti efficaci preferiscono scrivere questi termini in maiuscolo, mentre i transumanisti, i singolaritari, i cosmisti e i lungoterministi non lo fanno.

8. Go ertzel, 2010, p. 231.

9. Blog di Sam Altman, “Planning for AGI and beyond” (23 febbraio), all’indirizzo https://openai.com/blog/planning -for-agi-and-beyond, consultato il 30 gennaio 2024.

10. Prefazione, in Pennachin e Goertzel (2007b).

11. Si noti che la nostra discussione sull’eugenetica è incompleta, soprattutto a causa dei limiti di spazio. Di seguito ci concentreremo sul fornire un breve contesto per inquadrare l’emergere dell’insieme di ideologie TESCREAL.

12. Gaca, 2003, p. 52.

13. Galton, 1998, p. 265.

14. Fogarty e Osborne, 2010, p. 334.

15. Galton in Zuberi, 2001, p. 43.

16. Per un’analisi approfondita della storia dell’eugenetica in California, si veda Harris (2023).

17. Bashford e Levine, 2010, p. 13.

18. Si veda Harris (2023) per ulteriori approfondimenti.

19. Pagina dedicata alla storia dell’Adelphi Genetic Forum, consultata il 31 gennaio 2024 all’indirizzo https://adelphigenetics.org/history/. L’organizzazione afferma inoltre che «nonostante il nome precedente della nostra organizzazione, l’Adelphi Genetics Forum respinge categoricamente le basi teoriche e la pratica dell’eugenetica coercitiva, che ritiene non abbiano posto nella vita moderna».

20. Quine, 2010, p. 392.

21. In alternativa, secondo questi eugenetisti, tali tecnologie potrebbero potenzialmente consentire agli individui di modificarsi radicalmente nel giro di una sola generazione (cfr. Bostrom, 2013).

22. Si veda la sezione 5 di Bostrom (2005c).

23. “Transumanesimo. Che cos’è. Che cosa non è”, all’indirizzo https://www.youtube.com/watch?v=sdjMoykqxys&t=425s, consultato il 31 gennaio 2024.

24. Vedi “Eliezer Yudkowsky”, all’indirizzo https://extropians.weidai.com/extropians. 96/author.html#441, consultato il 31 gennaio 2024.

25. “Benvenuti su LessWrong!” (14 giugno 2019) , all’indirizzo https://www.lesswrong.com/posts/bJ2haLkcGeLtTWaD5/welcome-to-lesswrong, consultato il 31 gennaio 2024.

26. “Top Contributors”, Machine Intelligence Research Institute, all’indirizzo https://intelligence.org/topcontributors/, consultato il 30 gennaio 2024.

27. “Top Contributors”, Machine Intelligence Research Institute, all’indirizzo https://intelligence.org/topcontributors/, consultato il 30 gennaio 2024. Vedi anche “Il discorso di apertura di Peter Thiel — Effective Altruism Summit 2013», all’indirizzo https://www.youtube.com/watch?v=h8KkXcBwHec&t=818s&ab_channel=nnevvinn, consultato il 2 febbraio 2024; e Bohan (2022), pp. 44–53.

28. “Movimento razionalista”, all’indirizzo https://www.lesswrong.com/tag/rationalist-movement, consultato il 31 gennaio 2024.

29. “Principali contributori”, Machine Intelligence Research Institute, all’indirizzo https://intelligence.org/topcontributors/, consultato il 30 gennaio 2024.

30. “Consigli sulle donazioni”, EA Funds, all’indirizzo https://funds.effectivealtruism.org/donation -advice, consultato il 17 gennaio 2024.

31. “Personale di ricerca”, Future of Humanity Institute, all’indirizzo https://web.archive.org/web/20070209123709/http://www.fhi.ox.ac.uk:80/ staff.html, consultato il 15 gennaio 2024.

32. “Dustin Moskovitz,” Effective Altruism Forum, all’indirizzo https://forum.effectivealtruism.org/topics/dustin-moskovitz, consultato il 31 gennaio 2024.

33. “Sam Bankman-Fried, ” Effective Altruism Forum, all’indirizzo https://forum.effectivealtruism.org/topics/sam-bankman-fried# :~:text=Prima%20del%20crollo%20di%20FTX,%20Bankman%20aveva%20destinato%20il%20suo%20patrimonio%20a%20cause%20longtermiste, consultato il 31 gennaio 2024.

34. Huxley, 1957, p. 17.

35. “I principi estropiani”, all’indirizzo https://www.mrob .com/pub/religion/extro_prin.html, consultato il 31 gennaio 2024.

36. Bostrom, 2005a, p. 12.

37. “Re: SOCIETY: La rivoluzione silenziosa”, disponibile all’indirizzo https://extropians.weidai.com/ extropians.96/4858.html, consultato il 31 gennaio 2024.

38. Cfr. «Neologismi dell’Extropy», all’indirizzo https://web.archive.org/ web/20060220131448/https://www.extropy.org/neologo.htm, consultato il 1° febbraio 2024; e “The Singularitarian Principles”, all’indirizzo https://web.archive.org/web/20120403111339/http://yudkowsky.net/ obsolete/principles.html, consultato il 31 gennaio 2024.

39. “Commento su LessWrong”, all’indirizzo https://www.lesswrong.com/posts/aFtWRL3QihoF5uQd5/guardians-of-the-gene- pool?commentId=BzFBAQhRRyMCk7Wny, consultato il 31 gennaio 2024; e «Neologismi dell’estropia», all’indirizzo https://web.archive.org/web/20060220131448/https://www.extropy. org/neologo.htm, consultato il 1° febbraio 2024.

40. “About SingularityNET”, all’indirizzo https://singularitynet.io/aboutus/, consultato il 14 gennaio 2024.

41. Goertzel, 2010, p. 10.

42. Storicamente, il termine “cosmismo” ” può essere fatto risalire all’opera di Nikolai Fyodorov della fine del XIX secolo, successivamente sviluppata da scienziati russi come Konstantin Tsiolkovsky e Vladimir Vernadsky (Young, 2012). Il cosmismo russo può essere considerato un precursore del transumanesimo moderno, sebbene la versione specifica che ci interessa derivi dall’opera di Goertzel, che si distingue dal “cosmismo” dei precedenti teorici russi.

43. “Benvenuti su LessWrong!”, all’indirizzo https://www.lesswrong.com/posts/bJ2haLkcGeLtTWaD5/welcome-to-lesswrong, consultato il 31 gennaio 2024.

44. “Singolarità”, all’indirizzo https://www.lesswrong.com/tag/singularity, consultato il 31 gennaio 2024; si veda anche “ Transhumanism as Simplified Humanism”, all’indirizzo https://www.lesswrong.com/posts/Aud7CL7uhz55KL8jG/transhumanism-as-simplified-humanism, consultato il 31 gennaio 2024.

45. Sito web del Centre of Effective Altruism, all’indirizzo https:// www.centreforeffectivealtruism.org/, consultato il 30 gennaio 2024.

46. Beckstead, 2013, p. ii.

47. Non ci è chiaro quale metodologia Bostrom abbia utilizzato per arrivare a cifre così astronomiche. Tuttavia, egli scrive che ciò che conta per il longtermismo «non sono le cifre esatte, ma il fatto che siano enormi » (Bostrom, 2003; per una critica a tali calcoli, cfr. Torres, 2024).

48. Ad esempio, un sondaggio del 2019 condotto tra la comunità EA ha rilevato che « una netta maggioranza degli EA (80,7 per cento) si identificava con il consequenzialismo, in particolare con il consequenzialismo utilitaristico» («EA Survey 2019: Community Demographics & Characteristics», all’indirizzo https://rethinkpriorities.org/publications/eas2019-community-demographics-characteristics, consultato il 31 gennaio 2024). L’idea centrale dell’ (2003) deriva dall’utilitarismo totalista, e questo articolo è considerato uno dei documenti fondanti del longtermismo (cfr., ad , nota 27 del capitolo 2 in Ord, 2020; Greaves e MacAskill, 2019, p. 3). Infine, in un discorso programmatico tenuto alla conferenza Effective Altruism Global 2016, Ord ha affermato esplicitamente che “idee fondamentali quali la Rivoluzione Scientifica, l’Illuminismo e l’Utilitarismo hanno contribuito in modo significativo alla nascita dell’altruismo efficace” (all’indirizzo https://www.youtube.com/watch?v=VH2LhSod1M4&ab_channel=CentreforEffectiveAltruism, consultato il 31 gennaio 2024).

49. Si noti che l’EA affonda le sue radici anche nell’«etica globale» dell’utilitarista Peter Singer, il quale sosteneva anche l’infanticidio dei bambini disabili, scrivendo: «riteniamo che alcuni neonati con gravi disabilità dovrebbero essere uccisi» (citato in Ekland-Olson, 2011, p. 204). Tuttavia, il movimento EA è stato cofondato intorno al 2009 da Toby Ord, che tre anni prima aveva scritto un articolo insieme a Bostrom in cui sostanzialmente difendeva la posizione transumanista sul potenziamento umano (B ostrom e Ord, 2006). Ord era, inoltre, ricercatore associato presso il Future of Humanity Institute (FHI) di Bostrom già nel 2007 e, negli ultimi anni, il movimento EA nel suo complesso si è orientato verso considerazioni di tipo «longtermista» (Matthews, 2022), alcune delle quali sono più o meno apertamente transumaniste (cfr., ad esempio, la discussione di Ord (2020) sul «nostro potenziale» nella sezione intitolata «Qualità» di The Precipice).

50. Il su Twitter (14 agosto 2022), all’indirizzo https://twitter.com/sama/status/1559011065899282432?lang=en, consultato il 31 gennaio 2024.

51. Il post di Elon Musk su Twitter (2 agosto 2022), all’indirizzo https://twitter.com/elonmusk/status/15543350 28313718784, consultato il 30 gennaio 2024.

52. Post su Twitter di Elon Musk (2 maggio 2023), all’indirizzo https://twitter.com/elonmusk/status/1653421967570096128, consultato il 30 gennaio 2024. Molte descrizioni della visione del mondo di Musk sono coerenti con la nostra tesi secondo cui Musk è un TESCREALista. Ad esempio, Ashlee Vance ha scritto che Musk è «un membro tesserato del club tecno-utopista della Silicon Valley», il che fa presagire che «un giorno, abbastanza presto, saremo in grado di scaricare il nostro cervello in un computer, rilassarci e lasciare che i suoi algoritmi si occupino di tutto. . .. Ancora più sconcertante è il messaggio sottinteso secondo cui gli esseri umani sono imperfetti e la nostra umanità è un fastidioso fardello di cui bisogna occuparsi a tempo debito». Vance ha aggiunto che «i discorsi altisonanti di Musk spesso sembravano usciti direttamente dal manuale dei tecno-utopisti» (Vance, 2016). Si noti inoltre che la nostra nozione di TESCREALismo è molto vicina a ciò che Douglas Rushkoff (2022) definisce «The Mindset».

53. Citato in Parrinder, 1997, p. 2. Vedi anche Francis Galton, 2001. «The Eugenic College of Kantsaywhere», edizione critica, trascritta e curata da Lyman Tower Sargent, Utopian Studies, volume 12, numero 2, pp. 191–209.

54. Kurzweil, 1999, p. 141.

55. Cfr. «Why AI will save the world» (6 giugno 2023), all’indirizzo https://a16z.com/ai -will-save-the-world/, consultato il 31 gennaio 2024; «Planning for AGI and beyond» (24 febbraio 2023), disponibile all’indirizzo https://openai.com/blog/planning-for-agi-and-beyond, consultato il 31 gennaio 2024; e «Let’s think about slowing down AI» (22 dicembre 2022), all’indirizzo https://worldspiritsockpuppet.substack.com/p/lets-think-about-slowing-down-ai, consultato il 31 gennaio 2024.

56. “Apology for an Old Email,” all’indirizzo https://nickbostrom.com/oldemail.pdf, consultato il 31 gennaio 2024.

57. “Re: Profitting on tragedy? (era “Umorismo”)”, all’indirizzo https://diyhpl.us/~bryan/irc/extropians/extracted-extropians-archive/archive/9612/4881.html, consultato il 31 gennaio 2024.

58. “Prevenire con determinazione la tragedia? (era: Umorismo)”, su https://extropians.weidai.com/extropians.96/4759.html, consultato il 31 gennaio 2024.

59. Post su Twitter di Eliezer Yudkowsky, archiviato il 13 febbraio 2023, su https://web.archive.org/web/20230213224 423/https://twitter.com/esyudkowsky/status/1131208777032560640, consultato il 1° febbraio 2024.

60. Biografia su Twitter di Marc Andreessen, archiviata il 23 maggio 2023 all’indirizzo https://web.archive.org/web/20230523005947/https://twitter.com/pmarca, consultata il 31 gennaio 2024.

61. “Quanto dipende il movimento dell’altruismo efficace da Dustin Moskovitz e Cari Tuna?” (21 settembre 2020), all’indirizzo https://forum.effectivealtruism.org/posts/4BJSXH9ho4eYNT73P/how-dependent-is-the- effective-altruism-movement-on-dustin, consultato il 31 gennaio 2024.

62. Marc Andreessen, «Il manifesto del tecno-ottimista» (16 ottobre 2023) , all’indirizzo https://a16z.com/the-techno-optimist-manifesto/ , consultato il 31 gennaio 2024.

63. Vedi l’account Twitter di Marc Andreessen, all’indirizzo https://twitter.com/pmarca, consultato il 31 gennaio 2024.

64. Vedi la biografia su Twitter di Garry Tan, all’indirizzo https://twitter.com/garrytan, consultato il 30 gennaio 2024.

65. McCarthy, et al., 1955; Russell e Norvig, 2010, pp. 16–28.

66. Markoff, 2005; Russell e Norvig, 2010, pp. 16–28.

67. Prefazione, in Pennachin e Goertzel (2007b).

68. Voss, 2007, p. 153.

69. Post sul blog di Ben Goertzel: «Chi ha coniato il termine “AGI”?» (28 agosto 2011), all’indirizzo https://goertzel.org/who-coined-the-term-agi/, consultato il 31 gennaio 2024.

70. Prefazione, in Pennachin e Goertzel (2007b).

71. “I ricercatori sull’AGI smettano di citare i suprematisti bianchi: una sfida (impossibile)”, Medium (22 settembre 2023), all’indirizzo https://medium.com/@ collegehill/agi-researchers-stop-quoting-white-supremacists-challenge-impossible-d1002469d572, consultato il 31 gennaio 2024.

72. Gottfredson, 1997, p. 91.

73. Southern Poverty Law Center su Linda Gottfredson, all’indirizzo https://www.splcenter.org/fighting -hate/extremist-files/individual/linda-gottfredson, consultato il 31 gennaio 2024.

74. Post su Twitter di Keira Haven (22 settembre 2023), disponibile all’indirizzo https://twitter.com/Keira_Havens/status/1705404087276372121, consultato il 30 gennaio 2024.

75. Pagina web archiviata dell’Artificial General Intelligence Research Institute, all’indirizzo https://web.archive.org/web/20080512012745/http://www.agiri.org/wiki/Main_Page, consultata il 31 gennaio 2024.

76. Questo testo è stato scritto da Bruce Klein su OpenCog (https://wiki.opencog.org/wikihome/ index.php?title=Artificial_General_Intelligence&oldid=1297, consultato il 31 gennaio 2024). Klein riporta un indirizzo e-mail di novamente.net (https://wiki.opencog.org/w/User:Bruceklein, consultato il 31 gennaio 2024). Novamente è un’azienda specializzata in IA fondata da Goertzel (https://www.crunchbase.com/organization/novamente -llc, consultato il 31 gennaio 2024).

77. “Top Contributors”, Machine Intelligence Research Institute, all’indirizzo https://intelligence.org/topcontributors/, consultato il 30 gennaio 2024.

78. “About MIRI”, all’indirizzo https://intelligence.org/about/, consultato il 30 gennaio 2024. Si noti che la missione originaria del Singularity Institute era esplicitamente accelerazionista: “accelerare verso l’intelligenza artificiale” (Torres, 2023c).

79. DeepMind AGI, sito web di DeepMind prima della fusione con Google Brain nel 2023 (vedi annuncio del CEO di Google (20 aprile 2023) all’indirizzo https://blog.google/technology/ai/april-ai-update/, consultato il 31 gennaio 2024), tratto da http://deepmindagi.com/.

80. Video della tavola rotonda del Future of Life Institute sul tema “Superintelligenza: scienza o finzione?” all’indirizzo https://www.youtube.com/watch?v=h0962biiZa4, consultato il 31 gennaio 2024.

81. “Misurare l’intelligenza artificiale — Shane Legg, Singularity Summit 2010”, all’indirizzo https://www.youtube.com/watch?v=0ghzG14dT-w, consultato il 31 gennaio 2024.

82. “Singularity Summit: una conferenza annuale su scienza, tecnologia e futuro”, all’indirizzo https://intelligence.org/singularitysummit/, consultato il 31 gennaio 2024.

83. “Perché abbiamo lanciato DeepMind Ethics & Society” (3 ottobre 2017), all’indirizzo https://deepmind.google/discover/blog/why-we-launched-deepmind-ethics-society/, consultato il 31 gennaio 2024.

84. “Carta di OpenAI” (9 aprile 2018), all’indirizzo https://openai.com/charter, consultato il 31 gennaio 2024.

85. Open Philanthropy, “OpenAI — Supporto generale”, all’indirizzo https://www.openphilanthropy.org/grants/openai-general-support/, consultato il 31 gennaio 2024.

86. “OpenAI LP”, all’indirizzo https:/ /openai.com/blog/openai-lp, consultato il 31 gennaio 2024.

87. Annuncio di Microsoft: “OpenAI stringe una partnership esclusiva con Microsoft nel campo dell’informatica per sviluppare nuove tecnologie di supercalcolo AI su Azure” (22 luglio 2019), disponibile all’indirizzo https://news.microsoft.com/2019/07/22/openai-forms-exclusive-computing-partnership- con -microsoft-to-build-new-azure-ai-supercomputing-technologies/, consultato il 31 gennaio 2024.

88. Sito web di Anthropic, all’indirizzo https://www.anthropic.com/company, consultato il 31 gennaio 2024.

89. «I percorsi professionali di maggiore impatto individuati finora dalla nostra ricerca», all’indirizzo https://80000hours.org/career-reviews/, consultato il 31 gennaio 2024.

90. «Informazioni su xAI», all’indirizzo https://www.x.ai/about/, consultato il 31 gennaio 2024.

91. Open Philanthropy, “Center for AI Safety — General Support (2022)”, all’indirizzo https://www.openphilanthropy.org/grants/center-for-ai-safety-general-support/, consultato il 31 gennaio 2024.

92. “Introduction to Pragmatic AI Safety” (9 maggio 2022), all’indirizzo https://forum.effectivealtruism.org/posts/MskKEsj8nWREoMjQK/introduction-to-pragmatic-ai-safety-pragmatic-ai-safety-1, consultato il 31 gennaio 2024.

93. “Ampliare l’accesso a un’IA più sicura con Amazon” (25 settembre 2023), all’indirizzo https:/ /www.anthropic.com/news/anthropic-amazon, consultato il 31 gennaio 2024.

94. Prefazione, in Pennachin e Goertzel (2007b).

95. “Sfide concrete per l’AGI” (2 novembre 2021), all’indirizzo https://deepmind.google/discover/blog/real-world-challenges-for-agi/, consultato il 31 gennaio 2024.

96. Goertzel, 2010, p. 230.

97. Goertzel, 2010, p. 11.

98. Post su Twitter di Sam Altman, disponibile all’indirizzo https:// twitter.com/sama/status/1520798948562141184, consultato il 31 gennaio 2024.

99. “Moore’s Law for Everything” (16 marzo 2021), all’indirizzo https://moores.samaltman.com/, consultato il 31 gennaio 2024. Per inciso, l’idea che la Singolarità sia “inarrestabile” o “inevitabile” è fortemente sottolineata nell’opera di Kurzweil, come quando scrive che “la Singolarità denota un evento che avrà luogo nel mondo materiale, il passo successivo inevitabile nel processo evolutivo iniziato con l’evoluzione biologica e proseguito attraverso l’evoluzione tecnologica guidata dall’uomo” (Kurzweil, 2005) .

100. «Governance of superintelligence» (22 maggio 2023), all’indirizzo https://openai.com/blog/governance-of-superintelligence, consultato il 31 gennaio 2024.

101. “Introducing Superalignment” (5 luglio 2023), disponibile all’indirizzo https://openai.com/blog/introducing-superalignment, consultato il 31 gennaio 2024.

102. Si veda la sezione 1 di Torres (2019) per un elenco di tali stime; si veda anche la stima di Paul Christiano, membro del TESCREA, secondo cui la «probabilità che l’umanità abbia in qualche modo compromesso irreversibilmente il nostro futuro entro 10 anni dalla creazione di un’IA potente [sia] del 46%», all’indirizzo https://www.lesswrong.com/posts/xWMqsvHapP3nwdSW8/my-views-on-doom, consultato il 31 gennaio 2024.

103. OpenAI Gym Beta, rilasciato nel 2016, descritto come «un kit di strumenti per lo sviluppo e il confronto di algoritmi di apprendimento per rinforzo (RL)», all’indirizzo https://openai.com/research/openai-gym-beta, consultato il 31 gennaio 2024.

104. «Trasformare il lavoro e la creatività con l’IA», all’indirizzo https://openai.com/product, consultato il 31 gennaio 2024.

105. “Post su Twitter che annuncia Galactica utilizzando il linguaggio da noi descritto”, all’indirizzo https://twitter.com/paperswithcode/status/1592546933679476736, consultato il 31 gennaio 2024.

106. Sito web di Lesan AI, un’azienda di traduzione automatica specializzata nelle lingue etiopi, all’indirizzo https://lesan.ai/about.html, consultato il 31 gennaio 2024.

107. Post su Twitter di Nando de Freitas, all’indirizzo https://twitter.com/NandoDF/status/1525397036325019649, consultato il 31 gennaio 2024.

108. Sezione “Dimensioni e prestazioni del modello”, parte della “Guida ai modelli linguistici di grandi dimensioni” di Scale, all’indirizzo https://scale.com/guides/large-language-models#model-size-and-performance, consultato il 31 gennaio 2024.

109. “Sfide del mondo reale per l’AGI” (2 novembre 2021), all’indirizzo https://deepmind.google/discover/blog/real-world -challenges-for-agi/, consultato il 31 gennaio 2024.

110. «Pianificazione per l’AGI e oltre» (24 febbraio 2023), all’indirizzo https://openai.com/blog/planning-for-agi-and-beyond, consultato il 31 gennaio 2024. «Punti di vista fondamentali sulla sicurezza dell’IA: quando, perché, cosa e come» (8 marzo 2023), all’indirizzo https://www.anthropic.com/news/core-views-on-ai-safety, consultato il 31 gennaio 2024.

111. Sam Altman, “La legge di Moore per tutto” (16 marzo 2021), all’indirizzo https:/ /moores.samaltman.com/, consultato il 31 gennaio 2024.

112. Post su Twitter di Ilya Sutskever, ex capo ricercatore di OpenAI, all’indirizzo https://twitter.com/ilyasut/status/1491554478243258368, consultato il 31 gennaio 2024.

113. Sam Altman, “La legge di Moore per tutto” (16 marzo 2021), su https://moores.samaltman.com/, consultato il 31 gennaio 2024.

114. Emily M. Bender, “‘Garantire un’IA sicura, protetta e affidabile’: ciò che quelle sette aziende hanno evitato di impegnarsi a fare”, Medium (29 luglio 2023), all’indirizzo https://medium.com/@emilymenonbender/ensuring-safe-secure-and-trustworthy-ai-what-those- seven-companies-avoided-committing-to-8c297f9d71a, consultato il 31 gennaio 2024.

115. Post su Twitter di Ilya Sutskever, ex capo ricercatore di OpenAI, all’indirizzo https://twitter. com/ilyasut/status/1707027536150929689, consultato il 31 gennaio 2024.

116. Karla Ortiz, “Why AI Models are not inspired like humans” (7 dicembre), all’indirizzo https://www.kortizblog.com/blog/ why-ai-models-are-not-inspired-like-humans, consultato il 31 gennaio 2024.

117. Ibid.

118. Profilo Twitter di Yudkowsky, archiviato il 14 marzo 2021, all’indirizzo https://web.archive.org/web/20210314211620/https://twitter.com/ESYudkowsky?ref_src=twsrc%5Egoogle%7Ctwcamp%5Eserp%7Ctwgr%5Eauthor, consultato il 31 gennaio 2024.

119. Kurzweil, 2005; Goertzel, 2010, p. 227; Bostrom, 2009a; Shin, 2023. Benjamin Hilton, “Prevenire una catastrofe legata all’IA”, all’indirizzo https://80000hours.org/problem-profiles/artificial-intelligence/, consultato il 31 gennaio 2024. Vedi anche Scott Alexander, “Why not slow AI progress?” (8 agosto 2022), all’indirizzo https://www.astralcodexten.com/p/why-not-slow-ai-progress, consultato il 31 gennaio 2024.

120. «La campagna di panico sull’IA — parte 1» (15 ottobre 2023), all’indirizzo https://www.aipanic.news/p/the -ai-panic-campaign-part-1, consultato il 31 gennaio 2024; e “La campagna allarmistica sull’IA — parte 2” (15 ottobre 2023), all’indirizzo https://www.aipanic.news/p/the-ai-panic-campaign-part-2, consultato il 31 gennaio 2024.

121. “ Testimonianza scritta di Sam Altman, amministratore delegato di OpenAI, dinanzi alla sottocommissione per la privacy, la tecnologia e il diritto della commissione giudiziaria del Senato degli Stati Uniti”, all’indirizzo https://www.judiciary.senate.gov/imo/media/doc/2023-05-16%20-%20Bio%20&%20Testimony%20-% 20Altman.pdf, consultato il 31 gennaio 2024. “Governance della superintelligenza”, OpenAI (22 maggio 2023), disponibile all’indirizzo https://openai.com/blog/governance-of-superintelligence, consultato il 31 gennaio 2024.

122. Tegmark, 2017, timestamp 2:30.

123. “Sospendere gli esperimenti sull’IA gigante: una lettera aperta” (22 marzo 2023), all’indirizzo https://futureoflife.org/open-letter/pause-giant-ai-experiments/, consultato il 31 gennaio 2024.

124 . “Dichiarazione sui rischi dell’IA”, disponibile all’indirizzo https://www.safe.ai/statement-on-ai-risk, consultato il 31 gennaio 2024.

125. “Metodo di prova di caduta a livello di scheda dei componenti per prodotti elettronici portatili” (JESD22-B111A), disponibile all’indirizzo https://www.jedec.org/standards-documents/docs/jesd-22-b111, consultato il 1° febbraio 2024.

126. “ Test di riavvio (Nozioni fondamentali sui dispositivi)”, all’indirizzo https://learn.microsoft.com/en-us/windows-hardware/drivers/devtest/reboot-tests–device-fundamentals-, consultato il 1° febbraio 2024.

127. Russell e Norvig, 2010, p. 27.

128. Minsky nella Prefazione, Pennachin e Goertzel (2007b).

129. Jean Gayon e Daniel Jacobi in Turda, 2010, p. 64.

Bibliografia

Nicholas Agar, 1998. “Liberal eugenics,” Public Affairs Quarterly, volume 12, numero 2, pp. 137–155.

Blaise Agüera y Arcas, 2022. «I grandi modelli linguistici ci capiscono?» Daedalus, volume 151, numero 2, pp. 183–197.
doi: https://doi.org/10.1162/daed_a_01909, consultato il 10 marzo 2024.

Blaise Agüera y Arcas e Peter Norvig , 2023. “L’intelligenza artificiale generale è già qui”, Noema (10 ottobre), all’indirizzo https://www.noemamag.com/artificial-general-intelligence-is-already-here/ , consultato il 31 gennaio 2024.

Shazeda Ahmed, Klaudia Jazwinska, Archana Ahlawat, Amy Winecoff e Mona Wang, 2024. «La costruzione del campo di studi e la cultura epistemica della sicurezza dell’IA», First Monday, volume 29, numero 4.
doi: https://dx.doi.org/10.5210/fm.v29i4.13626, consultato il 10 marzo 2024.

Syed Mustafa Ali, 2019. “‘Crisi bianca’ e/come ‘rischio esistenziale’: l’apocalitticismo intrecciato dell’intelligenza artificiale”, Zygon, volume 54, numero 1, pp. 207–224.
doi: https://doi. org/10.1111/zygo.12498, consultato il 10 marzo 2024.

Alison Bashford e Philippa Levine, 2010. “Introduzione: L’eugenetica e il mondo moderno”, in: Alison Bashford e Philippa Levine (a cura di). Oxford handbook of the history of eugenics. Oxford: Oxford University Press, pp. 2–24.
doi: https://doi.org/10.1093/oxfordhb/9780195373141.013.0001, consultato il 10 marzo 2024.

Dina Bass, 2023. “Microsoft investe 10 miliardi di dollari in OpenAI, l’azienda produttrice di ChatGPT,” Bloomberg (23 gennaio), all’indirizzo https://www.bloomberg.com/news/articles/2023-01-23/microsoft-makes-multibillion-dollar-investment-in-openai, consultato il 31 gennaio 2024.

Nicholas Beckstead, 2013. “On the overwhelming importance of shaping the far future,” tesi di dottorato, Rutgers University, all’indirizzo https:/ /rucore.libraries.rutgers.edu/rutgers-lib/40469/PDF/1/play/ , consultato il 10 marzo 2024.

Emily M. Bender, Timnit Gebru, Angelina McMillan-Major e Shmargaret Shmitchell, 2021. “On the dangers of stochastic parrots: Can language models be too big?” FAccT ’21: Atti della Conferenza ACM 2021 su equità, responsabilità e trasparenza, pp. 610 –623. doi: https://doi.org/10.1145/3442188.3445922, consultato il 10 marzo 2024.

Yoshua Bengio, Max Tegmark e Tawana Petty, 2023. “I ‘padrini’ dell’intelligenza artificiale chiedono una regolamentazione mentre le organizzazioni per i diritti umani avvertono che l’IA codifica l’oppressione”, Democracy Now! (1° giugno), all’indirizzo https://www.democracynow.org/2023/6/1/ai_bengio_petty_tegmark, consultato il 31 gennaio 2024.

Abeba Birhane, Vinay Uday Prabhu ed Emmanuel Kahembwe, 2021. «Set di dati multimodali: misoginia, pornografia e stereotipi maligni», arXiv:2110.01963 (5 ottobre). doi: https://doi.org/10.48550/arXiv.2110.01963, consultato il 31 gennaio 2024.

Bethany Biron, 2023. “Azienda specializzata in salute mentale online utilizza ChatGPT per aiutare a rispondere agli utenti in un esperimento — sollevando preoccupazioni etiche riguardo all’assistenza sanitaria e alla tecnologia dell’IA”, Business Insider (7 gennaio), all’indirizzo https://www.businessinsider.com/company-using-chatgpt -mental-health-support-ethical-issues-2023-1, consultato il 31 gennaio 2024.

Edwin Black, 2003. “Le terrificanti radici americane dell’eugenetica nazista”, History News Network, all’indirizzo https://historynewsnetwork.org/article/1796, consultato il 31 gennaio 2024.

Lucy Bland e Lesley Hall, 201 0. «L’eugenetica in Gran Bretagna: il punto di vista della metropoli», in: Alison Bashford e Philippa Levine (a cura di). Oxford handbook of the history of eugenics. Oxford: Oxford University Press, pp. 212–227. doi: https://doi.org/10.1093/oxfordhb/9780195373141.013.0012, consultato il 10 marzo 2024.

Paul Bloomfield, 1949. «L’eugenetica degli utopisti: l’utopia degli eugenisti», Eugenics Review, volume 40, numero 4, pp. 191–198.

Elise Bohan, 2022. Il superuomo del futuro: le nostre vite transumane in un secolo decisivo. Sydney, NSW: NewSouth Publishing.

Brendan Bordelon, 2023. «Come una rete di consulenti di intelligenza artificiale sostenuta da miliardari ha preso il controllo di Washington», Politico (13 ottobre), all’indirizzo https://www.politico.com/news/2023/10/13/open-philanthropy-funding-ai-policy-00121362, consultato il 1° febbraio 2024.

Nick Bostrom, 2014. Superintelligenza: percorsi, pericoli, strategie. Oxford: Oxford University Press.

Nick Bostrom, 2013. “Perché voglio diventare un postumano da grande”, in: Ronald L. Sandler (a cura di). Ethics and emerging technologies. Londra: Palgrave Macmillan, pp. 218–234.
doi: https://doi.org/10.1057/9781137349088_ 15, consultato il 10 marzo 2024.

Nick Bostrom, 2009a. «Il futuro dell’umanità», Geopolitica, storia e relazioni internazionali, volume 1, numero 2, pp. 41–78.

Nick Bostrom, 2009b. «Dinosauri, dodo, esseri umani?» Review of Contemporary Philosophy, volume 8, 4982, e all’indirizzo https://www.addletonacademicpublishers.com/contents-rcp/112-volume-8-2009/533-dinosaurs-dodos-humans, consultato il 10 marzo 2024.

Nick Bostrom, 2005a. “Una storia del pensiero transumanista”, Journal of Evolution and Technology, volume 14, numero 1, all’indirizzo http://jetpress.org/volume14/bostrom.html, consultato il 10 marzo 2024.

Nick Bostrom, 2005b. «Letter from Utopia», Studies in Ethics, Law, and Technology, volume 2, numero 1, pp. 1–7.
doi: https://doi.org/10.2202/ 1941-6008.1025, consultato il 10 marzo 2024.

Nick Bostrom, 2005c. “Transhumanist values,” Journal of Philosophical Research (supplemento), volume 30.
doi: https://doi.org/10.5840/jpr_2005_26, consultato il 10 marzo 2024.

Nick Bostrom, 2003. “Spreco astronomico: il costo opportunità di uno sviluppo tecnologico ritardato”, Utilitas, volume 15, pp. 308–314. doi: https://doi.org/10.1017/S0953820800004076, consultato il 10 marzo 2024.

Nick Bostrom, 2002. «Rischi esistenziali: analisi degli scenari di estinzione umana e dei pericoli correlati», Journal of Evolution and Technology, volume 9, all’indirizzo http://jetpress.org/volume9/risks.html, consultato il 10 marzo 2024.

Nick Bostrom e Anders Sandberg, 2009. «Potenziamento cognitivo: metodi, etica, sfide normative», Science and Engineering Ethics, volume 15, numero 3, pp. 311–341. doi: https://doi.org/10.1007/s11948-009-9142-5, consultato il 10 marzo 2024.

Nick Bostrom e Toby Ord, 2006. “Il test di inversione: eliminare il pregiudizio dello status quo nell’etica applicata », Ethics, volume 116, numero 4, pp. 656–679. doi: https://doi.org/10.1086/505233, consultato il 10 marzo 2024.

Sébastien Bubeck, Varun Chandrasekaran, Ronen Eldan, Johannes Gehrke, Eric Horvitz, Ece Kamar, Peter Lee, Yin Tat Lee, Yuanzhi Li, Scott Lundberg, Harsha Nori, Hamid Palangi, Marco Tulio Ribeiro e Yi Zhang, 2023. “Scintille di intelligenza artificiale generale: primi esperimenti con GPT-4», arXiv:2303.12712 (22 marzo).
doi: https://doi.org/10.48550/arXiv. 2303.12712, consultato il 31 gennaio 2024.

Megan Cerullo, 2023. “L’avvocato ‘robot’ basato sull’IA non difenderà in tribunale dopo le minacce di carcere,” CBS (26 gennaio), all’indirizzo https://www.cbsnews.com/news/robot-lawyer-wont-argue-court-jail -threats-do-not-pay/, consultato il 31 gennaio 2024.

Laurie Clarke, 2023. “Come i catastrofisti della Silicon Valley stanno plasmando i piani di Rishi Sunak sull’IA”, Politico (14 settembre), all’indirizzo https://www.politico.eu/article/rishi-sunak-artificial-intelligence-pivot-safety-summit-united-kingdom-silicon-valley -effective-altruism/, consultato il 31 gennaio 2024.

Aubrey Clayton, 2020. “Come l’eugenetica ha plasmato la statistica”, Nautilus (27 ottobre), all’indirizzo https:// nautil.us/how-eugenics-shaped-statistics-238014/, consultato il 31 gennaio 2024.

Devin Coldewey, 2022. “La ricerca di Anthropic per un’IA migliore e più spiegabile attira 580 milioni di dollari”, TechCrunch (29 aprile), all’indirizzo https://techcrunch.com/2022/ 04/29/anthropics-quest-for-better-more-explainable-ai-attracts-580m/, consultato il 31 gennaio 2024.

Devin Coldewey, 2021. “Anthropic è il nuovo centro di ricerca sull’IA fondato da Dario Amodei di OpenAI, che dispone di 124 milioni di dollari da investire”, TechCrunch (28 maggio), all’indirizzo https://techcrunch.com/2021/05/28/anthropic-is-the-new-ai-research-outfit-from-openais-dario-amodei-and-it-has-124m-to-burn/, consultato il 31 gennaio 2024.

Samantha Cole, 2023. “ Il più grande set di dati alla base delle immagini generate dall’IA è stato rimosso dopo la scoperta di materiale pedopornografico”, 404 Media (20 dicembre), all’indirizzo https://www.404media.co/laion-datasets-removed-stanford-csam-child-abuse/, consultato il 31 gennaio 2024.

Alice Crary, 2023. “L’ideologia tossica del longtermismo”, Radical Philosophy, volume 214, pp. 49–57, e all’indirizzo https://www.radicalphilosophy.com/commentary/the-toxic-ideology-of-longtermism, consultato il 31 gennaio 2024.

Carla Cremer, 2023. «Come gli altruisti efficaci hanno ignorato il rischio», Vox (30 gennaio), all’indirizzo https://www.vox.com/future-perfect/23569519/effective-altrusim-sam-bankman-fried-will-macaskill-ea-risk-decentralization-philanthropy, consultato il 31 gennaio 2024.

Anthony Cuthbertson, 2022. “‘Il gioco è finito’: DeepMind di Google afferma di essere sul punto di raggiungere un’IA di livello umano”, Yahoo Finance (17 maggio), all’indirizzo https:// finance.yahoo.com/news/game-over-google-deepmind-says-133304961.html, consultato il 31 gennaio 2024.

Olivier Dard e Alexandre Moatti, 2017. «La storia del transumanesimo (continua)», Notes and Queries, volume 64, numero 1, pp. 167–170. doi: https://doi.org/10.1093/notesj/gjw256, consultato il 10 marzo 2024.

Jacob Davis, 2023. “I longtermisti stanno spingendo verso una nuova guerra fredda con la Cina”, Jacobin (25 maggio), all’indirizzo https:// jacobin.com/2023/05/longtermism-new-cold-war-biden-administration-china-semiconductors-ai-policy, consultato il 1° febbraio 2024.

Neşe Devenot, 2023. “Allucinazioni TESCREAL: il clamore intorno alle sostanze psichedeliche e all’IA come motori di disuguaglianza”, Journal of Psychedelic Studies, volume 7, numero S1 , pp. 22–39.
doi: https://doi.org/10.1556/2054.2023.00292, consultato il 10 marzo 2024.

Mirtha Donastorg, 2023. «Potenzialmente utile, ma soggetto a errori: ChatGPT nell’ecosistema tecnologico “Black”», The Plug (27 febbraio), all’indirizzo https://tpinsights.com/potentially-useful-but-error-prone-chatgpt-on-the-black-tech-ecosystem/, consultato il 31 gennaio 2024.

Dante D’Orazio, 2014. “Elon Musk ritiene che la colonizzazione di Marte salverà l’umanità,” The Verge (4 ottobre), all’indirizzo https://www.theverge.com/2014/10/4/6907721/ elon-musks-believes-colonizing-mars-will-save-humanity, consultato il 31 gennaio 2024.

Maureen Dowd, 2017. «La crociata da un miliardo di dollari di Elon Musk per fermare l’apocalisse dell’intelligenza artificiale», Vanity Fair (26 marzo), all’indirizzo https://www.vanityfair.com/news/2017/03/elon -musk-billion-dollar-crusade-to-stop-ai-space-x, consultato il 31 gennaio 2024.

Sheldon Ekland-Olson, 2011. Chi vive, chi muore, chi decide? Aborto, cure neonatali, morte assistita, e pena capitale. New York: Routledge. doi: https://doi.org/10.4324/9780203182277, consultato il 10 marzo 2024.

Unione Europea, 2011. «Direttiva 2011/65/UE del Parlamento europeo e del Consiglio, dell’8 giugno 2011, sulla restrizione dell’uso di determinate sostanze pericolose nelle apparecchiature elettriche ed elettroniche (rifusione) – Testo rilevante ai fini del SEE”, all’indirizzo https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=CELEX:32011L0065, consultato il 1° febbraio 2024.

Grant Fergusson, Caitriona Fitzgerald, Chris Frascella, Megan Iorio, Tom McBrien, Calli Schroeder, Ben Winters ed Enid Zhou, 2023. «Generare danni: l’impatto dell’IA generativa e le vie da seguire», Electronic Privacy Information Center, all’indirizzo https://epic.org/wp-content/uploads/2023/05/EPIC-Generative-AI-White-Paper-May2023.pdf, consultato il 31 gennaio 2024.

Hayden Field, 2023. “ Anthropic, il rivale di OpenAI, è in trattative per raccogliere 750 milioni di dollari di finanziamenti con una valutazione di 18,4 miliardi di dollari”, CNBC (21 dicembre), all’indirizzo https://www.cnbc.com/2023/12/21/openai-rival-anthropic-in-talks-to-raise-750-million-funding-round.html, consultato il 31 gennaio 2024.

McKenna Fitzgerald, Aaron Boddy e Seth D. Baum, 2020. “Indagine 2020 sui progetti di intelligenza artificiale generale in materia di etica, rischio e politiche”, Global Catastrophic Risk Institute, Technical Report, 20-1, all’indirizzo https://gcrinstitute.org/papers/055_agi-2020.pdf, consultato il 31 gennaio 2024.

Richard S. Fogarty e Michael A Osborne, 2010. «L’eugenetica in Francia e nelle colonie», in: Alison Bashford e Philippa Levine (a cura di). Oxford handbook of the history of eugenics. Oxford: Oxford University Press, pp. 332–346.doi: https://doi.org/10.1093/oxfordhb/ 9780195373141.013.0020, consultato il 10 marzo 2024.

Redazione di Fortune, 2023. «Il CEO di Anthropic spiega perché ha lasciato il suo lavoro presso OpenAI per fondare un’azienda concorrente che ha appena ricevuto miliardi da Amazon e Google», Fortune (26 settembre), all’indirizzo https://fortune.com/2023/09/26/anthropic-ceo-interview-quit-open-ai-amazon-investment/, consultato il 31 gennaio 2024.

Kathy Gaca, 2003. The making of fornication: Eros, ethics, and political reform in Greek philosophy and early Christianity. Berkeley: University of California Press.

David J . Galton, 1998. « Teorie greche sull’eugenetica”, Journal of Medical Ethics, volume 24, pp. 263–267.
doi: https://doi.org/10.1136/jme.24.4.263, consultato il 10 marzo 2024.

Francis Galton, 1869. Hereditary genius: An inquiry into its laws and consequences. Londra: Macmillan & Co.

Timnit Gebru, 2023. “Deep Learning Indaba DAY 2”, su https://www.youtube.com/watch?v=5cm_FvHmtVI, consultato il 31 gennaio 2024.

Timnit Gebru, 2022. “L’altruismo efficace sta promuovendo una pericolosa forma di ‘ sicurezza dell’IA’”, Wired (30 novembre), all’indirizzo https://www.wired.com/story/effective-altruism-artificial-intelligence-sam-bankman-fried/, consultato il 31 gennaio 2024.

Timnit Gebru e Margaret Mitchell, 2022. “Avevamo avvertito Google che le persone avrebbero potuto credere che l’IA fosse senziente. Ora sta accadendo”, Washington Post (17 giugno), all’indirizzo https: //www.washingtonpost.com/opinions/2022/06/17/google-ai-ethics-sentient-lemoine-warning/, consultato il 31 gennaio 2024.

Thomas Germain, 2023. “‘Intelligenza magica nel cielo’: Sam Altman ha coniato un nuovo nome accattivante per la singolarità”, Yahoo Finance (13 novembre), all’indirizzo https://finance.yahoo.com/news/magic-intelligence-sky-sam-altman-174500884.html, consultato il 31 gennaio 2024.

Ben Goertzel, 2015. «Superintelligenza: paure, promesse e potenzialità: riflessioni su *Superintelligence* di Bostrom, *From AI to Zombies* di Yudkowsky e *‘Open-Ended Intelligence’* di Weaver e Veitas», Journal of Ethics and Emerging Technologies, volume 25, numero 2, pp. 55–87. doi: https://doi.org/10.55613/jeet.v25i2.48, consultato il 10 marzo 2024.

Ben Goertzel, 2010. A cosmist manifesto: Practical philosophy for the posthuman age. Lexington, Kent: Humanity Plus Press, e all’indirizzo https://goertzel.org/CosmistManifesto_July2010.pdf, consultato il 31 gennaio 2024.

Sharon Goldman, 2023. “I tweet del senatore Murphy su ChatGPT scatenano le critiche dell’ex consulente per le politiche sull’IA della Casa Bianca”, VentureBeat (28 marzo), all’indirizzo https://venturebeat.com/ai/sen -murphys-tweets-on-chatgpt-spark-backlash-from-former-white-house-ai-policy-advisor/, consultato il 31 gennaio 2024.

Linda Gottfredson, 1997. “Why g matters: The complexity of everyday life,” Intelligence, volume 24, numero 1, pp. 79–132. doi: https://doi.org/10.1016/ S0160-2896(97)90014-3, consultato il 10 marzo 2024.

Mary Gray e Siddharth Suri, 2019. Ghost work: How to stop Silicon Valley from building a new global underclass. Boston, Mass.: Houghton Mifflin Harcourt.

Hilary Greaves e William MacAskill, 2019. “The case for forte lungoterminismo”, Global Priorities Institute (GPI) Working Paper, numero 7-2019, all’indirizzo https://web.archive.org/web/20210710220451/https://globalprioritiesinstitute.org/wp-content/uploads/Hilary-Greaves-and-William-MacAskill_strong-longtermism.pdf, consultato il 31 gennaio 2024.

Tristan Greene, 2022. “Meta disattiva il nuovo sistema di IA perché gli utenti di Twitter sono cattivi ”, The Next Web (19 novembre), all’indirizzo https://thenextweb.com/news/meta-takes-new-ai-system-offline-because-twitter-users-mean, consultato il 31 gennaio 2024.

Peter M. Haas, 1992. “Introduzione: Comunità epistemiche e coordinamento delle politiche internazionali”, International Organization, volume 46, numero 1, pp. 1–35. doi:https://doi.org/10.1017/S0020818300001442, consultato il 31 gennaio 2024.

Asmelash Teka Hadgu, Paul Azunre e Timnit Gebru, 2023. “Combattere il clamore dannoso nell’elaborazione del linguaggio naturale, ” ICLR 2023, all’indirizzo https://pml4dc.github.io/iclr2023/pdf/PML4DC_ICLR2023_39.pdf, consultato il 31 gennaio 2024.

Karen Hao, 2020. «La realtà caotica e segreta dietro il tentativo di OpenAI di salvare il mondo», MIT Technology Review (17 febbraio), all’indirizzo https://www.technologyreview.com/2020/02/17/8 44721/ai-openai-moonshot-elon-musk-sam-altman-greg-brockman-messy-secretive-reality/, consultato il 31 gennaio 2024.

Malcolm Harris, 2023. Palo Alto: Una storia della California, del capitalismo e del mondo. New York: Little, Brown.

Alex Heath, 2024. “Il nuovo obiettivo di Mark Zuckerberg è creare un’intelligenza artificiale generale”, The Verge (18 gennaio), all’indirizzo https://www.theverge.com/2024/1/18/24042354/mark-zuckerberg-meta-agi -reorg-interview, consultato il 31 gennaio 2024.

Brian Hepburn e Hanne Andersen, 2021. «Metodo scientifico», in: Edward Zalta (a cura di). Stanford Encyclopedia of Philosophy (1° giugno), all’indirizzo https://plato.stanford.edu/entries/scientific-method/, consultato il 1° febbraio 2024.

Richard Herrnstein e Charles Murray, 1994. The Bell Curve: Intelligence and class structure in American life. New York: Free Press.

David Hill, 2013. “Intervista esclusiva: Ray Kurzweil parla dei suoi primi due mesi in Google, ” Singularity Hub (19 marzo), all’indirizzo https://singularityhub.com/2013/03/19/exclusive-interview-ray-kurzweil-discusses-his-first-two-months-at-google/, consultato il 31 gennaio 2024.

Julian Huxley, 1957. New bottles for new wine, essays. Londra: Chatto & Windus.

Commissione Elettrotecnica Internazionale, 2020. “Test per garantire che i dispositivi elettronici siano sicuri da usare in condizioni meteorologiche estreme”, all’indirizzo https:// www.iec.ch/blog/testing-ensure-electronic-devices-are-safe-use-extreme-weather, consultato il 1° febbraio 2024.

Harry H. Jiang, Lauren Brown, Jessica Cheng, Mehtab Khan, Abhishek Gupta, Deja Workman, Alex Hanna, Johnathan Flowers e Timnit Gebru, 2023. «L’arte generata dall’IA e il suo impatto sugli artisti», AIES ’23: Atti della Conferenza AAAI/ACM 2023 su IA, Etica e Società, pp. 363–374.
doi: https://doi.org/10.1145/3600211. 3604681, consultato il 10 marzo 2024.

Liwei Jiang, Jena D. Hwang, Chandra Bhagavatula, Ronan Le Bras, Jenny Liang, Jesse Dodge,

Keisuke Sakaguchi, Maxwell Forbes, Jon Borchardt, Saadia Gabriel, Yulia Tsvetkov, Oren Etzioni, Maarten Sap, Regina Rini e Yejin Choi, 2022. “Le macchine possono apprendere la moralità? L’esperimento Delphi”, arXiv: 2110.07574v2 (12 luglio).doi: https://doi.org/10.48550/arXiv.2110.07574, consultato il 31 gennaio 2024.

Yarden Katz, 2020. Artificial whiteness: Politics and ideology in artificial intelligence. New York: Columbia University Press. doi: https://doi.org/ 10.7312/katz19490, consultato il 10 marzo 2024.

Ron Kaufman, 1992. “L’Università del Delaware raggiunge un accordo sugli studi razziali”, The Scientist (5 luglio), all’indirizzo https://archive.ph/XobFu#selection-86.0-98.0, consultato il 31 gennaio 2024.

Mehtab Khan e Alex Hanna, 2022. “Gli argomenti e le fasi dello sviluppo dei set di dati per l’IA: un quadro di riferimento per la responsabilità dei set di dati”, SSRN (13 settembre).
doi: https://dx.doi.org/10.2139/ssrn.4217148, consultato il 31 gennaio 2024.

Raffi Khatchadourian, 2015. «L’invenzione apocalittica», New Yorker (23 novembre), all’indirizzo https://www.newyorker.com/magazine/2015/11/23/doomsday-invention-artificial-intelligence-nick-bostrom, consultato il 31 gennaio 2024.

Heidy Khlaaf, 2023. «Verso valutazioni complete dei rischi e la garanzia di sicurezza dei sistemi basati sull’IA», Trail of B its (7 marzo), all’indirizzo https://www.trailofbits.com/documents/Toward_comprehensive_risk_assessments.pdf, consultato il 31 gennaio 2024.

Tom Koch, 2020. “Transumanesimo, perfezione morale e quei 76 tromboni”, Journal of Medicine & Philosophy, volume 45, numero 2, pp. 179–192. doi: https://dx.doi.org/10.1093/jmp/jhz040, consultato il 31 gennaio 2024.

Alexander Kossiakoff, Steven Biemer, Samuel Seymour e David Flanigan, 2020. Principi e pratica dell’ingegneria dei sistemi. Terza edizione. New York: Wiley. doi: https://dx.doi.org/10.1002/9781119516699, consultato il 10 marzo 2024.

Ray Kurzweil, 2006. «Reinventare l’umanità: il futuro dell’intelligenza uomo-macchina», Futurist, pp. 39–40, 42–46, e all’indirizzo https://www.singularity.com/KurzweilFuturist.pdf, consultato il 31 gennaio 2024.

Ray Kurzweil, 2005. La singolarità è vicina: quando gli esseri umani superano i limiti della biologia. New York: Viking.

Ray Kurzweil, 1999. L’era delle macchine spirituali: quando i computer superano l’intelligenza umana. New York: Viking.

Shane Legg, 2008. «Superintelligenza artificiale», tesi di dottorato, Università di Lugano, all’indirizzo https://www.vetta.org/documents/Machine_Super_Intelligence .pdf, consultato il 31 gennaio 2024.

Shane Legg e Marcus Hutter, 2007. “Universal intelligence: A definition of machine intelligence,” Minds and Machines, volume 17, numero 4, pp. 391–444. doi: https://dx.doi.org/10.1007/s11023-007-9079-x, consultato il 10 marzo 2024.

Gideon Lewis-Kraus, 2022. “The reluctant prophet of effective altruism,” New Yorker (8 agosto), all’indirizzo https:// www.newyorker.com/magazine/2022/08/15/the-reluctant-prophet-of-effective-altruism, consultato il 31 gennaio 2024.

Connie Loizos, 2019. «Il salto di fede di Sam Altman», TechCrunch (18 maggio), disponibile all’indirizzo https://techcrunch.com/2019/05/18/sam-altmans-leap-of-faith/, consultato il 31 gennaio 2024.

Alexandra Sasha Luccioni, Yacine Jernite ed Emma Strubell, 2023. «Elaborazione ad alto consumo energetico: i watt determinano il costo dell’implementazione dell’IA?” arXiv:2311.16863 (23 novembre).
doi: https://doi.org/10.48550/arXiv.2311.16863, consultato il 2 febbraio 2024.

William MacAskill, 2022. What we owe the future. New York: Basic Books.

William MacAskill, 2015. Fare del bene in modo migliore: l’altruismo efficace e come puoi fare la differenza. New York: Gotham Books.

William MacAskill, 2013. “Sostituibilità, scelta di carriera e fare la differenza”, Ethical Theory and Moral Practice, volume 17, pp. 269–283. doi: https://dx.doi.org/ 10.1007/s10677-013-9433-4, consultato il 10 marzo 2024.

John Markoff, 2005. “Dietro l’intelligenza artificiale, una squadra di persone reali e brillanti”, New York Times (14 ottobre), all’indirizzo https://www.nytimes.com/2005/10/14/technology/behind-artificial-intelligence -a-squadron-of-bright-real-people.html, consultato il 31 gennaio 2024.

Daphne Martschenko, 2017. “La guerra dei test del QI: perché lo screening dell’intelligenza è ancora così controverso”, The Conversation (10 ottobre), disponibile all’indirizzo https://theconversation.com/the-iq-test-wars-why-screening-for-intelligence-is-still-so-controversial-81428, consultato il 31 gennaio 2024.

Dylan Matthews, 2022. “Come l’altruismo efficace è passato da movimento di nicchia a forza da un miliardo di dollari”, Vox (8 agosto), all’indirizzo https://www.vox.com/future-perfect/2022/8/8/23150496/effective-altruism-sam-bankman-fried-dustin-moskovitz- billionaire-philanthropy-crytocurrency, consultato il 31 gennaio 2024.

Dylan Matthews, 2015. “ Ho trascorso un fine settimana presso Google a parlare di beneficenza con dei nerd. Ne sono uscito… preoccupato”, Vox (10 agosto), all’indirizzo https://www.vox.com/ 2015/8/10/9124145/effective-altruism-global-ai, consultato il 31 gennaio 2024.

John McCarthy, Marvin L. Minsky, Nathaniel Rochester e Claude E. Shannon, 1955. “Una proposta per il progetto di ricerca estivo di Dartmouth sull’intelligenza artificiale, 31 agosto 1955, ” (31 agosto), all’indirizzo https://archive.computerhistory.org/resources/access/text/2023/06/102720392-05-01-acc.pdf, consultato il 10 marzo 2024.

Dan McQuillan, 2022. Resisting AI: An anti fascista all’intelligenza artificiale. Bristol: Bristol University Press.
doi: https://doi.org/10.2307/j.ctv2rcnp21, consultato il 10 marzo 2024.

Barry Mehler, 1997. “Beyondism: Raymond B. Cattell and the new eugenics,” Genetica, volume 99, numeri 2–3, pp. 1 53–163. doi: https://doi.org/10.1007/BF02259519, consultato il 10 marzo 2024.

Dan Milmo e Agency, 2023. «Due avvocati statunitensi multati per aver presentato citazioni giudiziarie false generate da ChatGPT», Guardian (23 giugno), all’indirizzo https://www.theguardian.com/technology/2023/jun/23/two-us-lawyers-fined-submitting-fake-court-citations -chatgpt, consultato il 31 gennaio 2024.

Volodymyr Mnih, et. al., 2015. «Controllo a livello umano attraverso l’apprendimento per rinforzo profondo», Nature, volume 518, numero 7540 (26 febbraio), pp. 529–533. doi: https://doi.org/10.1038/nature14236, consultato il 10 marzo 2024.

Max More, 1998. «I principi estropiani, v. 3.0», su http://www.mrob.com/pub/religion/extro_prin.html, consultato il 10 marzo 2024.

Ernest Mwebaze, Timnit Gebru, Andrea Frome, Solomon Nsumba e Jeremy Tusubira, 2019. “iCassava 2019 fine-grained visual categorization challenge”, arXiv:1908.02900 (8 agosto).doi: https://doi.org/10.48550/arXiv.1908.02900, consultato il 31 gennaio 2024.

Jordan Novet, 2015. “ Sam Altman, Elon Musk, Peter Thiel e altri stanziano 1 miliardo di dollari a favore del laboratorio di ricerca senza scopo di lucro sull’intelligenza artificiale OpenAI,” VentureBeat (11 dicembre), all’indirizzo https://venturebeat.com/business/sam-altman-elon-musk-peter-thiel-and-others-commit-1b-to-nonprofit-artificial-research-lab-openai/, consultato il 31 gennaio 2024.

Scott W. O’Leary-Kelly e Robert J. Vokurka, 1998. “La valutazione empirica della validità del costrutto”, Journal of Operations Management, volume 16, numero 4, pp. 387–405.doi: https:/ /doi.org/10.1016/S0272-6963(98)00020-5, consultato il 10 marzo 2024.

Lorena O’Neil, 2023. “ Queste donne hanno cercato di metterci in guardia sull’IA”, Rolling Stone (12 agosto), all’indirizzo https://www.rollingstone.com/culture/culture-features/women-warnings-ai-danger-risk-before-chatgpt-1234804367/, consultato il 31 gennaio 2024.

Toby Ord, 2020. Il precipizio: rischio esistenziale e futuro dell’umanità. New York : Hachette Books.Patrick Parrinder, 1997. “Eugenetica e utopia: la selezione sessuale da Galton a Morris,” Utopian Studies, volume 8, numero 2, pp. 1–12.David Pearce, 1995. “L’imperativo edonistico,” all’indirizzo https://www. hedweb.com, consultato il 10 marzo 2024.

Cassio Pennachin e Ben Goertzel, 2007a. «Approcci contemporanei all’intelligenza artificiale generale», in: Cassio Pennachin e Ben Goertzel (a cura di). Intelligenza artificiale generale. Berlino: Springer, pp. 1–30.doi: https://doi.org/10.1007/978-3-540-68677-4_1, consultato il 10 marzo 2024.

Cassio Pennachin e Ben Goertzel (a cura di), 2007 b. Intelligenza artificiale generale. Berlino: Springer.doi: https://doi.org/10.1007/978-3-540-68677 -4, consultato il 10 marzo 2024.

Billy Perrigo, 2023. “Esclusiva: OpenAI ha impiegato lavoratori kenioti a meno di 2 dollari l’ora per rendere ChatGPT meno tossico”, Time (18 gennaio), all’indirizzo https://time.com/6247678/openai-chatgpt-kenya-workers/, consultato il 31 gennaio 2024.

Maria Sophia Quine, 2010. “La rivoluzione eugenetica della prima ondata nell’Europa meridionale: la scienza sans frontières”, in: Alison Bashford e Philippa Levine (a cura di). Oxford handbook of the history of eugenics. Oxford: Oxford University Press, pp. 377–397.doi: https:// doi.org/10.1093/oxfordhb/9780195373141.013.0023, consultato il 10 marzo 2024.

Inioluwa Deborah Raji, Andrew Smart, Rebecca N White, Margaret Mitchell, Timnit Gebru, Ben Hutchinson, Jamila Smith-Loud, Daniel Theron e Parker Barnes, 2020. “Colmare il divario di responsabilità nell’IA: definizione di un quadro end-to-end per l’audit algoritmico interno”, FAT* ’20: Atti della Conferenza 2020 su equità, responsabilità e trasparenza, pp. 33–44.doi: https:/ /doi.org/10.1145/3351095.3372873, consultato il 10 marzo 2024.

Antonio Regalado, 2018. “Una startup sta proponendo un servizio di trasferimento della mente che è ‘letale al 100 per cento’”, MIT Technology Review (13 marzo), all’indirizzo https://www.technologyreview.com/2018/03/ 13/144721/a-startup-is-pitching-a-mind-uploading-service-that-is-100-percent-fatal/, consultato il 31 gennaio 2024.

Ed Regis, 1994. “Meet the extropians,” Wired (1° ottobre), all’indirizzo https://www.wired.com/1994/10/extropians/, consultato il 31 gennaio 2024.

Reuters, 2023a. “OpenAI potrebbe lasciare l’UE se le normative diventassero troppo restrittive — CEO” (24 maggio), all’indirizzo https://www.reuters.com/technology/openai-may-leave-eu-if-regulations-bite-ceo-2023-05-24/ , consultato il 31 gennaio 2024.

Reuters, 2023b. “Elon Musk lancia la società di IA xAI con l’obiettivo di sfidare OpenAI” (13 luglio), all’indirizzo https://www.reuters.com/technology/elon-musks-ai-firm-xai-launches-website-2023-07-12/, consultato il 31 gennaio 2024.

Aida Roige, 2014. “Intelligenza e test del QI”, Eugenics Archives, all’indirizzo https://www.eugenicsarchive.ca/encyclopedia?id=535eecb77095aa000000023a, consultato il 31 gennaio 2024.

Kevin Roose, 2023. “Inside the white-hot center of AI doomerism,” New York Times (11 luglio), all’indirizzo https://www.nytimes.com/2023/07/11/technology/anthropic-ai-claude-chatbot.html, consultato il 31 gennaio 2024.

David Rowan, 2015. “DeepMind: Inside Google’s super-brain,” Wired (22 giugno), all’indirizzo https://www.wired.co.uk/article/deepmind, consultato il 31 gennaio 2024.

Douglas Rushkoff, 2022. La sopravvivenza dei più ricchi: le fantasie di fuga dei miliardari della tecnologia. New York: Norton.

Melia Russell e Julia Black, 2023. “Ha giocato a scacchi con Peter Thiel, ha avuto scontri verbali con Elon Musk e, a quanto pare, una volta ha impedito un incidente aereo: dentro il mondo di Sam Altman, dove la realtà supera la fantasia”, Business Insider (27 aprile), all’indirizzo https://www. businessinsider.com/sam-altman-openai-chatgpt-worldcoin-helion-future-tech-2023-4, consultato il 31 gennaio 2024.

Stuart Russell e Peter Norvig, 2010. Intelligenza artificiale: un approccio moderno. Terza edizione. Londra: Pearson Education.

Angela Saini, 2019. Superior: Il ritorno della scienza razziale. Boston, Mass.: Beacon Press.

Paula Sambo, Jeremy Hill e Yueqi Yang, 2023. “FTX blocca la vendita della sua quota da 500 milioni di dollari nella startup di IA Anthropic”, Bloomberg (27 giugno), all’indirizzo https:// www.bloomberg.com/news/articles/2023-06-27/bankman-fried-s-ftx-said-to-halt-sale-of-its-stake-in-ai-startup-anthropic?embedded-checkout=true, consultato il 31 gennaio 2024.

Anders Sandberg e Nick Bostrom, 2008. “Whole brain emulation: A roadmap,” Future of Humanity Institute, Università di Oxford, Relazione tecnica, numero 2008-3, all’indirizzo http://www.fhi.ox.ac.uk/ reports/2008-3.pdf, consultato il 31 gennaio 2024.

Chirag Shah ed Emily M. Bender 2024. “Envisioning information access systems: What makes for good tools and a healthy Web?” ACM Transactions on the Web, versione disponibile all’indirizzo https://faculty.washington.edu/ebender/papers/Envisioning_IAS_preprint.pdf, consultato il 31 gennaio 2024.
doi: https://doi.org/10.1145/3649468, consultato il 10 marzo 2024.

Chirag Shah ed Emily M. Bender, 2022. “Situating search,” CHIIR ’22: Atti della Conferenza 2022 sull’interazione umana con l’informazione e il recupero delle informazioni, pp. 221–232.
doi: https://doi .org/10.1145/3498366.3505816, consultato il 10 marzo 2024.

Sam Shead, 2020. “How DeepMind boss Demis Hassabis used chess to get billionaire Peter Thiel to ‘take notice’ of his AI lab,” CNBC (7 dicembre), all’indirizzo https://www.cnbc.com/2020/12/07/deepminds -demis-hassabis-used-chess-to-get-peter-thiels-attention.html, consultato il 31 gennaio 2024.Sam Shead, 2017. “Come DeepMind ha convinto il miliardario Peter Thiel a investire senza trasferire l’azienda nella Silicon Valley”, Business Insider (18 luglio), all’indirizzo https://www.businessinsider.com/how-deepmind-convinced -peter-thiel-to-invest-outside-silicon-valley-2017 -7, consultato il 31 gennaio 2024.

Henry Shevlin, Karina Vold, Matthew Crosby e Marta Halina, 2019. “I limiti dell’intelligenza artificiale: nonostante i progressi nell’intelligenza artificiale, l’intelligenza artificiale generale rimane una sfida importante”, EMBO Reports, volume 20, numero 10, e49177.doi: https://doi.org/10. 15252/embr.201949177, consultato il 10 marzo 2024.

Rachel Shin, 2023. “Elon Musk vuole creare un’intelligenza artificiale superintelligente perché ritiene che un’intelligenza artificiale più intelligente abbia meno probabilità di annientare l’umanità”, Fortune (17 luglio), all’indirizzo https://fortune.com/2023/07/17/elon -musk-superintelligent-a-i-less-likely-to-wipe-out-humanity-chatgpt-openai/, consultato il 31 gennaio 2024.

MacKenzie Sigalos, 2023. «Sam Bankman-Fried dichiarato colpevole di tutti e sette i capi d’accusa di frode», CNBC (2 novembre), all’indirizzo https://www.cnbc.com/2023/11/02/sam-bankman-fried-found-guilty -on-all-seven-criminal-fraud-counts.html, consultato il 31 gennaio 2024.

David Silver, Satinder Singh, Doina Precup e Richard S. Sutton, 2021. «La ricompensa è sufficiente», Artificial Intelligence, volume 299, 103535.doi: https://doi.org/10.1016/j.artint.2021.103535, consultato il 10 marzo 2024.

Robert Sparrow, 2011. «Un’eugenetica non proprio nuova: Harris e Savulescu sul potenziamento umano», Hastings Center Report, volume 41, numero 1, pp. 32–42.doi: https://doi.org/10.1002/j.1552-146x.2011.tb00098.x, consultato il 10 marzo 2024.

Alexandra Minna Stern, 2005. “Sterilizzati in nome della salute pubblica: razza, immigrazione e controllo riproduttivo nella California moderna”, American Journal of Public Health, volume 95, numero 7, pp. 1.128–1.138.doi: https://doi.org/10.2105/AJPH.20 04.041608, consultato il 10 marzo 2024.

Alexandra Minna Stern, Nicole L. Novak, Natalie Lira, Kate O’Connor, Siobán Harlow e Sharon Kardia, 2017. “I sopravvissuti alla sterilizzazione in California: una stima e un appello per il risarcimento”, American Journal of Public Health, volume 107, numero 1, pp. 50–54.doi: https://doi.org/10.2105/AJPH.2016.303489, consultato il 10 marzo 2024.

Matthew Sweet, 2011. “Introduzione”, Francis Galton’s Kantsaywhere, UCL Special Collections, all’indirizzo https://www.ucl.ac.uk/library/special-collections/kantsaywhere, consultato il 31 gennaio 2024.

Gillian Tan, Edward Ludlow, Shirin Ghaffary e Bloomberg, 2023. «OpenAI di Sam Altman sarà la seconda startup statunitense più preziosa dopo SpaceX di Elon Musk ’s SpaceX, secondo quanto emerge dai primi colloqui relativi al round di finanziamento, ” Fortune (23 dicembre), all’indirizzo https://fortune.com/2023/12/23/openai-valuation-100-billion-funding-round/, consultato il 31 gennaio 2024.

Max Tegmark, 2017. “Altruismo efficace, rischio esistenziale e speranza esistenziale”, all’indirizzo https://www.youtube.com/watch?v=2f1lmNq bgrk, consultato il 31 gennaio 2024.

James Temperton, 2017. “La nuova unità di etica dell’IA di DeepMind è la prossima grande mossa dell’azienda,” Wired (4 ottobre), all’indirizzo https://www.wired.co.uk/article/deepmind-ethics -and-society-artificial-intelligence, consultato il 31 gennaio 2024.

David Thiel, 2023. “Identifying and eliminating CSAM in generative ML training data and models”, Stanford Internet Observatory Cyber Policy Center (20 dicembre), all’indirizzo https://stacks.stanford.edu/file/druid:kh752sm9123/ml_training_data_csam_report-2023-12-20.pdf, consultato il 31 gennaio 2024.

Nitasha Tiku, 2023. “Come le scuole d’élite come Stanford si sono fissate sull’apocalisse dell’IA”, Washington Post (5 luglio), all’indirizzo https://www.washingtonpost.com/technology/2023/07/05/ai-apocalypse-college-students, consultato il 31 gennaio 2024.

Émile P. Torres, 2024. “Colonizzazione, coscienza e lungoterminismo”, in: Marcello Di Paola e Mirko Garasic (a cura di). Filosofia dello spazio: esplorazioni, controversie, speculazioni. Londra: Routledge.
doi: https://doi.org/10.4324/9781003374381, consultato il 10 marzo 2024.

Émile P. Torres, 2023a. «Nick Bostrom, il lungoterminismo e l’eterno ritorno dell’eugenetica», Truthdig (23 gennaio), all’indirizzo https://www.truthdig.com/articles/nick-bostrom-longtermism-and-the-eternal -return-of-eugenics-2/, consultato il 31 gennaio 2024.

Émile P. Torres, 2023b. “L’acronimo dietro i nostri sogni e incubi più sfrenati sull’IA”, Truthdig (15 giugno), all’indirizzo https://www.truthdig.com/articles/the-acronym-behind-our-wildest-ai-dreams-and-nightmares/, consultato il 31 gennaio 2024.

Émile P. Torres, 2023c. «“Accelerazionismo efficace” e la ricerca dell’utopia cosmica», Truthdig (14 dicembre), all’indirizzo https://www.truthdig.com/articles/effective-accelerationism-and-the-pursuit-of-cosmic-utopia/, consultato il 31 gennaio 2024.

Émile P. Torres, 2022. “What ‘longtermism’ gets wrong about climate change,” Bulletin of the Atomic Scientists (22 novembre), all’indirizzo https://thebulletin.org/2022/11/what-longtermism-gets-wrong-about-climate-change/# titolo-del-post, consultato il 31 gennaio 2024.

Émile P. Torres, 2021. “ Le idee pericolose del ‘longtermismo’ e del rischio esistenziale”, Current Affairs (28 luglio), all’indirizzo https://www.currentaffairs.org/2021/07/the-dangerous-ideas-of-longtermism-and-existential-risk, consultato il 31 gennaio 2024.

Émile P. Torres, 2019. «Affrontare il disastro: il quadro delle grandi sfide», Foresight, volume 21, numero 1, pp. 4–34. doi: https://doi.org/10.1108/FS-04-2018-0040, consultato il 10 marzo 2024.

Priyadarshi Tripathy e Kshirasagar Naik, 2011. Software testing and quality assurance: Theory and practice. New York: Wiley.

Emily Tucker, 2 022. «Artifice and intelligence», Tech Policy Press (16 marzo), all’indirizzo https://www.techpolicy.press/artifice-and-intelligence/, consultato il 31 gennaio 2024.

Marius Turda, 2010. «Race, science, and eugenics in the twentieth century», In: Alison Bashford e Philippa Levine (a cura di). Oxford handbook of the history of eugenics. Oxford: Oxford University Press, pp. 62–79.
doi: https://doi.org/10.1093/oxfordhb/9780195373141.013. 0004, consultato il 10 marzo 2024.

Iris van Rooij, Olivia Guest, Federico Adolfi, Ronald de Haan, Antonina Kolokolova e Patricia Rich, 2023. “Rivendicare l’IA come strumento teorico per le scienze cognitive”, PsyArXiv (1° agosto).
doi: https://doi.org/10.31234/osf.io/4cbu v, consultato il 31 gennaio 2024.

Ashlee Vance, 2016. Elon Musk: How the billionaire CEO of SpaceX and Tesla is shaping our future. Londra: Virgin.

Ashish Vaswani, Noam Shazeer, Niki Parmar, Jakob Uszkoreit, Llion Jones, Aidan N. Gomez, Łukasz Kaiser e Illia Polosukhin, 2017. “L’attenzione è tutto ciò di cui hai bisogno”, NeurIPS all’indirizzo https://papers.nips.cc/paper_files/paper/2017/hash/3f5ee243547 dee91fbd053c1c4a845aa-Abstract.html, consultato il 31 gennaio 2024.

Peter Voss, 2007. “Essentials of general intelligence: The direct path to artificial general intelligence,” In: Cassio Pennachin e Ben Goertzel (a cura di) . Intelligenza artificiale generale. Berlino: Springer, pp. 131–157.
doi: https://doi.org/10.1007/978-3-540-68677-4_4, consultato il 10 marzo 2024.

Vivek Wadhwa, 2020. «Il genio dell’ingegneria genetica è uscito dalla lampada», Foreign Policy (11 settembre), all’indirizzo https://foreignpolicy.com/2020/09/ 11/crispr-pandemic-gene-editing-virus/, consultato il 31 gennaio 2024.

Elizabeth Weil, 2023. “Sam Altman è l’Oppenheimer della nostra epoca. Il CEO di OpenAI pensa di conoscere il nostro futuro. Cosa sappiamo di lui?” New York Magazine (25 settembre), all’indirizzo https://nymag.com/intelligencer/article/sam-altman-artificial-intelligence-openai-profile.html, consultato il 31 gennaio 2024.

H. G. Wells, 1902. La scoperta del futuro: discorso tenuto alla Royal Institution il 24 gennaio 1902. Londra: T. Fisher Unwin.

H. G. Wells, Julian Huxley e G.P. Wells, 1931. La scienza della vita. Londra: Cassell.

Sarah Myers West, 2020. «L’IA e l’estrema destra: una storia che non possiamo ignorare», AI Now (4 marzo), all’indirizzo https://ainowinstitute.org/publication/ai-and-the-far-right-a-history-we-cant-ignore-2, consultato il 31 gennaio 2024.

Adrienne Williams, Milagros Miceli e Timnit Gebru, 2022. «Il lavoro sfruttato dietro l’intelligenza artificiale», Noema (13 ottobre), all’indirizzo https://www.noemamag.com/the-exploited-labor-behind-artificial-intelligence/, consultato il 31 gennaio 2024.

Chloe Xiang, 2023. “‘Sarebbe ancora qui’: un uomo si suicida dopo aver parlato con un chatbot di IA, racconta la vedova”, Vice (30 marzo), all’indirizzo https: //www.vice.com/en/article/pkadgm/man-dies-by-suicide-after-talking-with-ai-chatbot-widow-says, consultato il 31 gennaio 2024.

George M. Young, 2012. I cosmisti russi: il futurismo esoterico di Nikolai Fedorov e dei suoi seguaci. Oxford: Oxford University Press.doi: https:/ /doi.org/10.1093/acprof:oso/9780199892945.001.0001, consultato il 10 marzo 2024.

Eliezer Yudkowsky, 2023. «Sospendere lo sviluppo dell’IA non basta. Dobbiamo spegnerla del tutto», Time (29 marzo), all’indirizzo https://time.com/6266923/ai-eliezer-yudkowsky-open-letter-not-enough/, consultato il 31 gennaio 2024.

Eliezer S. Yudkowsky, 2000. “I principi singolaritari, versione 1.0,” disponibile all’indirizzo https://web.archive.org/web/20000621223020/http://singinst.org/singularitarian/principles.html, consultato il 10 marzo 2024.

Tukufu Zuberi, 2001. Thicker than blood: How racial statistics lie. Minneapolis: University of Minnesota Press.Ethan Zuckerman, 2024. “Two warring visions of AI,” Prospect (16 gennaio), all’indirizzo https://www.prospectmagazine.co.uk/ideas/technology/64491/ two-warring-visions-of-artificial-intelligence-tescreal, consultato il 31 gennaio 2024.

Cronologia editoriale. Ricevuto: il 21 settembre 2023; accettato: il 10 marzo 2024. Questo articolo è concesso in licenza ai sensi della Licenza Creative Commons Attribuzione – Non commerciale – Condividi allo stesso modo 4.0 Internazionale.

Fonte: Timnit Gebru ed Émile P. Torres. First Monday, Volume 29, Numero 4 – 1 aprile 2024https://firstmonday.org/ojs/ index.php/fm/article/download/13636/11599doi: https://dx.doi.org/10.5210/fm.v29i4.13636.

Cookie	Duration	Description
cookielawinfo-checkbox-analytics	11 months	This cookie is set by GDPR Cookie Consent plugin. The cookie is used to store the user consent for the cookies in the category "Analytics".
cookielawinfo-checkbox-functional	11 months	The cookie is set by GDPR cookie consent to record the user consent for the cookies in the category "Functional".
cookielawinfo-checkbox-necessary	11 months	This cookie is set by GDPR Cookie Consent plugin. The cookies is used to store the user consent for the cookies in the category "Necessary".
cookielawinfo-checkbox-others	11 months	This cookie is set by GDPR Cookie Consent plugin. The cookie is used to store the user consent for the cookies in the category "Other.
cookielawinfo-checkbox-performance	11 months	This cookie is set by GDPR Cookie Consent plugin. The cookie is used to store the user consent for the cookies in the category "Performance".
viewed_cookie_policy	11 months	The cookie is set by the GDPR Cookie Consent plugin and is used to store whether or not user has consented to the use of cookies. It does not store any personal data.