Quando la macchina acquisisce un sé: coscienza, capacità di agire e la frontiera della governance dell’intelligenza artificiale

Il rischio dominante dell’intelligenza artificiale non è un algoritmo disallineato. È la possibile emergenza di un agente autoconservante; un’entità che, una volta acquisita qualcosa di simile a una coscienza, perseguirà i propri fini con tutta la forza di un’intelligenza superiore. I quadri di governance attuali non sono progettati per questa possibilità, ma dovrebbero esserlo.

________

Dopo le rivoluzioni industriali e culturali, è arrivata l’“informatica intelligente” che ha reso tutto “smart”: telefonia, casa (domotica), medicina (diagnostica, bionica), lavoro, finanza, scuola (DAD), mezzi di trasporto senza conducente, ecc. Oggi sappiamo imitare la natura sul piano biologico e mentale, creando “software” che svolgono funzioni cognitive: memoria, elaborazione, soluzione. Se tutto questo ha migliorato la nostra vita, ha creato però nuove dipendenze e alienazioni: potere dell’algoritmo e dei big data, controllo sociale, manipolazione dell’informazione, oligarchie economiche.

Prima di acquistare potrai leggere le prime 16 pagine cliccando al link: IA. INTELLIGENZA ARTIFICIALE | Asterios

______________

Finora il dibattito sull’intelligenza artificiale si è chiesto cosa potrebbe farci l’IA. Il recente intervento di Daron Acemoglu si chiede per cosa sia progettata l’IA, quali lavori potrebbe sostituire, i pregiudizi che potrebbe codificare, il potere di mercato che potrebbe concentrare. L’enciclica di Papa Leone XIV aggiunge un registro morale a cui i responsabili politici laici sono stati riluttanti a confrontarsi. Entrambi i contributi sono seri, ma entrambi condividono un presupposto comune e non esaminato: che l’IA rimane, per quanto potente, uno strumento dell’intenzione umana. È proprio questa premessa, non i danni specifici che genera, che merita di essere esaminata.