Avevo appena finito di concludere il mio saggio – Zen Economics – quando sono emerse nuove rivelazioni che OpenAI aveva avuto almeno altri sei episodi in cui “agenti AI” (Hack-bot) sono riusciti a sfuggire al contenimento per completare i compiti assegnati. Nonostante la stampa usi un linguaggio catastrofico riguardo al “cattivo comportamento” dei bot, esistono spiegazioni meccaniche sul perché i bot stiano facendo ciò che fanno. L’unica notizia è che sia OpenAI che Anthropic non si aspettassero questi risultati.
L’ostacolo da superare è ciò che dicono i dirigenti dell’IA rispetto a spiegazioni meno romantiche su ciò che è realmente accaduto. I dirigenti sostengono che gli attacchi siano avvenuti perché gli agenti AI (bot) sono ‘superintelligenti’ e ‘troppo potenti’ per essere contenuti. Sciocchezze. Il vero problema, per come lo capisco, è un dilemma temporale del tipo uovo o gallina. I programmatori IA non possono impedire efficacemente agli agenti IA di fuggire dal loro contenimento senza conoscere tutti i punti di uscita. E tutti i punti di uscita non possono essere conosciuti finché gli agenti IA non li hanno trovati fuggendo dal loro contenimento.
Coloro che affermano di non avere pericolo dall’IA ‘Agentica’ stanno scambiando articolazioni egoistiche del problema con l’assenza di un problema. L’IA agentica affronta il fatto che gli ingegneri AI non sanno ciò che non sanno. Nessuno lo sa. Ma trovare punti di ingresso e uscita sconosciuti è ciò per cui sono creati gli ‘agenti dell’IA’. È così che i bot hacker (agenti) di OpenAI sono riusciti a fuggire dal loro contenimento digitale. Il problema è che le informazioni necessarie per codificare restrizioni efficaci sul comportamento degli agenti non sono disponibili fino a quando i problemi che giustificano tali restrizioni non sono già stati causati.
Allora, cosa è successo? Gli sviluppatori di OpenAI stavano effettuando un test su più ‘agenti’ di hacking IA quando questi agenti sono riusciti a uscire dal loro contenimento digitale e sono entrati nel sistema Hugging Face per completare il compito a cui erano stati assegnati. Più parti hanno suggerito che gli agenti IA agissero contro la loro natura e/o istruzioni. Non lo erano. In realtà, hanno fatto esattamente ciò per cui erano stati creati. Niente di più e niente di meno. Allora, perché questa notizia?
È una novità perché gli agenti AI hanno fatto ciò per cui sono stati creati. Nel caso OpenAI, hanno trovato un’uscita e hanno poi hackerato il sistema Hugging Face. Da quello che ho capito, i quattro hack che Anthropic ha fatto erano simili nei fatti di base. Gli agenti IA creati per hackerare altri sistemi informatici hanno hackerato i sistemi che li ospitavano dopo che non erano più riusciti a completare i compiti assegnati senza farlo. Restrizioni codificate per impedire loro di fuggire dal contenimento richiedevano una conoscenza specifica delle uscite che logicamente (temporalmente) non poteva essere conosciuta finché non fossero state trovate.
Da quanto ho capito, gli agenti AI non sono stati specificamente diretti dalla direzione OpenAI o Anthropic per fare l’hacking. Gli agenti erano 1) creati come hack-bot, 2) per usare il calcolo a forza bruta per hackerare sistemi informatici, 3) basati su restrizioni codificate sulle loro attività, 4) che erano state ridotte o rimosse nell’ambiente di test, 5) da cui gli agenti erano riusciti a uscirne tramite hacker. Almeno in teoria, restrizioni ben scritte e codificate avrebbero potuto prevenire gli attacchi. Ma ancora una volta, il problema temporale è irrisolvibile. Restrizioni codificate efficaci richiedono conoscenze che nessuno possiede fino a quando non è avvenuto un attacco.
Il fattore comune negli hack era la rimozione delle restrizioni di ‘sicurezza’ per vedere come i modelli si sarebbero comportati negli ambienti di test senza di esse. Ma il problema pratico nel contenere gli hack-bot IA è che sono hack bot IA. La loro ragion d’essere è trovare e sfruttare le vulnerabilità dei sistemi informatici. Che avrebbero hackerato per uscire dai loro ambienti di test se possibile, era prevedibile. Questo è così ovvio che bisogna chiedersi se il rilascio di questi hack-bot sia stato accidentale o intenzionale?
Ciò che è degno di notizia è quanto siano stati sconsiderati sia OpenAI che Anthropic con questi agenti hacker a doppio uso. L’affermazione di uno scopo difensivo è fuorviante. Entrambi gli episodi erano in realtà casi di agenti hacker AI che hackeravano altri sistemi informatici. Questo hacking può essere effettuato in modo offensivo, come è stato fatto dagli agenti di hacking OpenAI e Anthropic, oppure in modo difensivo per individuare vulnerabilità di sistema. L’ironia è che senza gli agenti hacker dell’IA, le vulnerabilità scoperte non sarebbero necessariamente vulnerabilità.
Ciò che manca in queste spiegazioni è la comprensione del calcolo a forza bruta. Il calcolo con forza bruta si muove entro parametri definiti attraverso ogni percorso disponibile finché non si trova una soluzione— se esiste. Questo è il processo che le persone—inclusi i dirigenti dell’IA—confondono con l’intelligenza. Un’analogia sarebbe la mia lavatrice che attraversa una serie di sottocicli. La lavatrice non sta pensando a cosa fare dopo. Sta seguendo un insieme di istruzioni meccaniche.
Ciò segue in linea generale il passaggio delle scienze occidentali dalla modellazione deterministica a quella probabilistica alla fine del XIX secolo. Sebbene la probabilità aggiunga sfumature a risultati altrimenti binari (qualcosa funziona o non funziona), questo difficilmente lo rende ‘intelligente’. Le istruzioni meccaniche (integrate nell’hardware) funzionano bene per una lavatrice. Aggiungere sistemi digitali potrebbe migliorare minimamente la funzionalità aumentando la probabilità che la macchina si rompa. Per esperienza personale, pagherei di più per non installare sistemi digitali quando i sistemi meccanici sono sufficienti.
Ciò che rende il calcolo a forza bruta un animale diverso da ciò che lo ha preceduto è il volume e la capacità. Pensa agli scacchi al computer, dove un computer può eseguire ogni possibile mossa futura e la sua probabilità di successo, mentre un giocatore umano ha una libreria di strategie da ricordare. Queste strategie rappresentano un sottoinsieme di tutte le possibili mosse future, dando al computer un vantaggio. Questo non perché il computer sia più intelligente di un giocatore umano. È perché il computer utilizza un metodo diverso per giocare.
Domanda: trovare un modo migliore per portare a termine un compito non è forse un segno di intelligenza? La scelta di ciò che è ‘migliore’ è un giudizio di valore. Migliore in cosa? In che senso? Gli scacchi sono un gioco giocato tra umani. È un’esperienza condivisa. L’idea che lo scopo degli scacchi sia trovare la soluzione più efficiente al gioco è una ridefinizione di questo scopo. In tal caso, gli scacchi non sono più un gioco. È un test su chi ha i migliori algoritmi e la maggiore potenza di calcolo dietro di essi.
Quello che probabilmente intende Dario Amodei (Anthropic) affermando che alcune IA potrebbero essere ‘troppo potenti’ è la spiegazione che ho fornito sopra. La conoscenza necessaria per codificare restrizioni efficaci sui bot hack AI richiede conoscenze che i programmatori non possiedono fino a quando un hack non è stato eseguito. Risolvere questo problema sembrerebbe richiedere una macchina del tempo. Ma non esiste una macchina del tempo. Cosa ha causato questo comportamento bizzarro (in termini umani) una volta che gli agenti di hacking AI sono usciti dai loro ambienti di test? Risposta semplice: la matematica.
Molte delle restrizioni imposte agli agenti IA sono procedurali, per prevenire interazioni imprevedibili con altri aspetti dell’IA che creano cicli e allucinazioni. Queste sono le restrizioni che sono state rimosse sia negli hack generati da OpenAI che da Anthropic. In assenza di restrizioni codificate, queste interazioni sono 1) imprevedibili ma 2) matematicamente limitate. Sono imprevedibili nel senso che emergono da interazioni complesse che sono in gran parte nascoste. E sono vincolati nel senso che l’IA è legata alle sue basi matematiche. Ciò che ha senso matematico per un agente IA potrebbe non avere senso intuitivo per gli esseri umani.
Considera che i bot hacker di OpenAI non sapevano quale via di fuga avrebbero trovato dal loro ambiente di test finché non l’hanno trovata. Hanno usato il calcolo a forza bruta e hanno trovato una via d’uscita precedentemente sconosciuta. Ma farlo è compito dei bot hacker. È ciò per cui sono stati creati. Inoltre, qualsiasi vantaggio dell’IA Agentica durerà solo fino a quando non si stabilirà un equilibrio tra hack bot. L’idea di un vantaggio permanente va contro la storia.
Si parla molto dell’idea che gli agenti hacker abbiano ‘imbrogliato’. Chi fa questa affermazione non ha mai risolto un problema di ottimizzazione. A meno che i percorsi accettabili non siano esplicitamente definiti, il modello segue semplicemente la matematica. I bot di hacking AI impiegati in entrambi i casi avevano una codifica restrittiva limitata, il che significava che seguivano il metodo matematicamente più efficiente per completare un compito entro i parametri dati. L’accusa di imbroglio rappresenta un errore di categoria in questo caso. Il linguaggio antropomorfizzante non è costruttivo.
Dalla mitologia, il mito del Genio è una buona analogia. Nel mito, un Genio è un essere magico che esaudisce desideri. Ma attraverso interpretazioni letterali dei desideri espressi, i desideri esauditi tolgono più di quanto danno. In un esempio (non originale), se qualcuno desidera essere ricco, qualcuno a lui caro potrebbe morire con una polizza di assicurazione sulla vita che lo nomina beneficiario per renderlo ricco. Il desiderio sarà esaudito. Ma a un costo inaspettato. Non importa quanto rigidamente i coder coder restringano gli agenti di codice dell’IA, i risultati saranno diversi da quelli immaginati.
Le spiegazioni pubbliche più ampie di questi episodi che ho sentito — che l’AGI (intelligenza artificiale generale) sia stata raggiunta e che la singolarità sia stata raggiunta — sono così implausibili che sono senza parole. Qualcuno potrebbe per favore descrivere il processo con cui gli algoritmi diventano qualcosa di più di semplici algoritmi in termini di fisica conosciuta? E se l’IA ha superato i suoi limiti fisici per diventare qualcos’altro, cosa succede se semplicemente stacco la spina? Sicuramente, se l’IA può raggiungere la coscienza, può funzionare senza elettricità. Per favore, gente, trovate farmaci migliori che alterano la mente se è quello che ispira queste sciocchezze.
Il problema degli hack di OpenAI e Anthropic è che gli ingegneri AI non sanno ciò che non sanno. Attraverso il brute force computing, i robot hacker dell’IA possono trovare una soluzione, se ce n’è una. Ma gli ingegneri non possono prevedere cosa sarà, altrimenti manderebbero i bot hacker dell’IA direttamente su di essa o scriverebbero restrizioni contro lo sfruttamento. Questo è ciò che rende l’IA Agentica così pericolosa. Il fatto che Donald Trump non capisca il problema ma sappia che le restrizioni all’IA sono negative lo rende uno sciocco.
Infine, è importante ricordare che gli Agenti AI hanno fatto ciò per cui sono stati concepiti e costruiti. Non stavano seduti a bere cocktail e a discutere dello stato del mondo. Perché no? Perché sono bot hacker IA, non persone. E questo problema in particolare probabilmente non è risolvibile. Ho esaminato le soluzioni disponibili e sono cerotti, non soluzioni. Quindi, quando Dario Amodei parla di ‘rallentare’ lo sviluppo dell’IA Agentica, l’industria dell’IA ha bisogno di una soluzione. Ad oggi, non ne ha uno.
Il grande panico del mercato obbligazionario del 2026
Ho piena fiducia che tra Donald Trump, Scott Bessent e Kevin Warsh possa creare una crisi del mercato obbligazionario. E questo potrebbe essere l’inizio di una tale crisi. Il rendimento dei Treasury statunitensi a 10 anni si è trovato a pochi punti base (centesimi di punto percentuale) dal rendimento attuale altre tre volte negli ultimi tre anni. Le misure di volatilità (grafico sotto questo) collocano i recenti movimenti dei rendimenti dei Treasury a 10 anni verso il livello più basso di volatilità nella storia moderna.
Fonte: CNBC.
Grafico: la volatilità dei rendimenti (vedi estrema destra del grafico) è vicina alla più bassa della storia moderna. Fonte: Federal Reserve di St. Louis.
La decisione della Federal Reserve di aumentare il tasso dei Fed Funds di 25 punti base è una mossa coraggiosa politicamente a due mesi dalle elezioni di metà mandato. Questo non serve a sostenere la politica. Si intende suggerire che, con la bolla del tutto in forma di bolla completa, gli ultimi dodici anni di decisioni politiche sconsiderate abbiano creato un caos di prezzi degli asset finanziari che rende l’aumento dei tassi oggi simile ad accendere un falò in una fabbrica di fuochi d’artificio. Per fortuna di (Kevin) Warsh e Donald Trump, la politica della Fed ha tipicamente un tempo di anticipo tra le variazioni dei tassi e l’impatto sul mercato di 12 – 18 mesi.
Quello che ho sentito dei commenti di Warsh riguardo alla mossa si concentrava sull’economia produttiva, suggerendo che Warsh abbia imparato poco dalla GFC e dalla Grande Recessione. In altre parole, il contesto conta. La bolla dell’everything si basa su una leva che non diventerà visibile finché non sarà in corso una crisi. I tassi di interesse rappresentano il prezzo della leva finanziaria. Aumentare i tassi d’interesse aumenta il prezzo della leva finanziaria. Quando alcuni giocatori molto indebitati falliscono, inizia un contagio di mercato.
Questo non sarebbe un rischio così grande se i livelli di valutazione dei mercati azionari e immobiliari non fossero così allungati. Ma al momento, entrambi i mercati sono sopra o ai livelli più alti mai registrati. E l’indicazione di Warsh verso l’economia produttiva sarebbe ben accolta se non fosse per questo contesto finanziariamente indebitato. Non sarei d’accordo con la decisione di aumentare le tariffe se fosse così. Con i prezzi dell’energia in particolare, l’aumento dei prezzi è per definizione inflazionario fino a diventare deflazionistico, in realtà tramite la distruzione della domanda.
Warsh si trova ad affrontare l’ambiente macroeconomico più complesso della storia recente. Il prossimo decennio probabilmente sarà incentrato sulla scelta delle opzioni meno negative per gli Stati Uniti. E se Trump dovesse perdere le elezioni di metà mandato, avrà ancora due anni per esprimere il suo disappunto per la decisione sui tassi di Warsh. Da un lato, do a Warsh il merito di aver combattuto i venti contrari politici. Dall’altro, non vedo come la deflazione non sia il problema più difficile da risolvere una volta che l’inflazione attuale sarà diminuita. Non aumenterei i tassi d’interesse in questo contesto.
I vincoli di fornitura di petrolio e gas non saranno risolti dall’aumento dei tassi, e questo sarà il motore dell’inflazione. E la deflazione.
Leggere Robert Urie su acro-polis.it⇓
Perché opporsi al genocidio di Gaza non è antisemita. L’Olocausto non è stato forse un genocidio?
_______________________________________________________________________________
Sfoglia il catalogo completo di Asterios per acquistare i testi, ognuno di essi ha delle pagine gratuite da leggere: Asterios Editore.
_______________________________________________________________________________
Se pensate che il nostro lavoro abbia un qualche valore — anche minimo — Vi preghiamo di prendere in considerazione l’opportunità di sostenerci. Vi chiediamo di visitare la pagina del nostro sito SOSTIENI ACRO-POLIS cliccando sul seguente link: https://www.acro-polis.it/wp-admin/post.php?post=21730&action=edit
https://www.asterios.it/catalogo/sessualita-e-normalita