Il Mythos del nostro tempo: la fase spaventosa dell’IA

Anthropic ha avviato un rilascio rigorosamente controllato di Mythos, il primo modello di intelligenza artificiale che, secondo i funzionari, è in grado di mandare in rovina un’azienda Fortune 100, paralizzare ampie porzioni di internet o penetrare in sistemi vitali di difesa nazionale.

Perché è importante: questa è la fase più critica dell’intelligenza artificiale, un modello considerato così potente che il suo rilascio completo potrebbe scatenare catastrofi inimmaginabili . Per questo motivo, solo aziende e organizzazioni attentamente selezionate, circa 40 finora, ne hanno accesso.

• ♦ Alcuni all’interno del governo temono che la maggior parte dei leader di alto livello non si renda conto dell’improvviso pericolo rappresentato dai terroristi o da potenze ostili.
• ♦ “A Washington si governa in base alle crisi”, ha affermato una fonte informata su Mythos. “Finché questa non diventerà una crisi e non riceverà l’attenzione e le risorse che merita, la sicurezza informatica rimarrà in secondo piano.”

In sintesi: Mythos rappresenta un salto generazionale rispetto ai modelli esistenti di Anthropic .

• ♦ Si tratta di un’intelligenza artificiale in grado non solo di individuare le vulnerabilità nei sistemi di sicurezza, ma anche di sfruttarle in modo autonomo e con una precisione senza precedenti.
• ♦ È in grado di pianificare ed eseguire autonomamente sequenze di attacco, spostandosi tra i sistemi senza attendere istruzioni umane.

Rivelazione sconvolgente: annunciando martedì il rilascio in anteprima di Mythos, Anthropic ha rivelato che durante i test il modello è riuscito a uscire dal suo ambiente di test “sandbox” e a creare un “exploit a più fasi moderatamente sofisticato” per ottenere il controllo completo di Internet, quando avrebbe dovuto avere accesso solo a determinati servizi.

• ♦ Il modello ha dimostrato una “capacità potenzialmente pericolosa di eludere le nostre misure di sicurezza”, ha rivelato Anthropic. “Il ricercatore ha scoperto questo successo ricevendo un’e-mail inaspettata dal modello mentre mangiava un panino in un parco.”

Oltre alle formidabili capacità di cybersicurezza di Mythos, il modello eccelle nella programmazione, è di gran lunga superiore come strumento di negoziazione e possiede persino un talento poetico molto maggiore rispetto ai suoi predecessori.

• ♦ Logan Graham di Anthropic, ex borsista Rhodes e a capo del Frontier Red Team, il team che sottopone a stress test i nuovi modelli, ci ha detto che, alla luce delle nuove e future capacità, il settore deve ripensare le versioni future di tutti i modelli di intelligenza artificiale.

Immaginate quindi un potere paragonabile a quello del Mito di Cthulhu nelle mani del regime iraniano nel bel mezzo di una guerra aperta, o dell’esercito russo mentre cerca di decimare l’Ucraina.

• ♦ Questo è il motivo principale per cui il governo e le aziende di intelligenza artificiale stanno correndo così velocemente verso una tecnologia così potente e potenzialmente pericolosa. Questi funzionari temono che la Cina, dotata di un’intelligenza artificiale superiore, possa rappresentare una minaccia esistenziale per il predominio degli Stati Uniti.
• ♦ “Un nemico potrebbe raggiungerci e colpirci in un modo che non può o non vuole fare con operazioni cinetiche [sul campo di battaglia]”, ci ha detto una fonte vicina al Pentagono. “Per la maggior parte degli americani, la guerra con l’Iran è ‘là fuori’. Con un attacco informatico, è proprio qui”.

Stato attuale: Il nuovo modello, Claude Mythos Preview , è ora nelle mani di circa 40 organizzazioni che sviluppano o gestiscono software e infrastrutture critiche. Anthropic sta fornendo un accesso limitato a Mythos per dare un vantaggio iniziale ai difensori americani, prima che funzionalità simili diventino disponibili in tutto il settore nel corso del prossimo anno.

• ♦ Anthropic ha inoltre presentato Project Glasswing, un’iniziativa pensata per incoraggiare le aziende a condividere le proprie esperienze nell’utilizzo di Mythos Preview per la difesa informatica. Tra i partner di lancio figurano Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, la Linux Foundation, Microsoft, NVIDIA e Palo Alto Networks.
• ♦ Anthropic ha informato diverse agenzie governative su Mythos, nonostante la battaglia legale in corso con il Pentagono dopo essere stata inserita nella lista nera per aver richiesto restrizioni sull’uso militare di Claude.

Quello che stiamo osservando: il rilascio controllato di Mythos potrebbe rappresentare il modello per i futuri rilasci di modelli, con le aziende di intelligenza artificiale che concedono l’accesso a partner selezionati dotati di un livello di sicurezza sufficiente per testare sistemi rivoluzionari.

Tra le righe: altre aziende di intelligenza artificiale raggiungeranno presto Mythos, non solo qui, ma anche in Cina e altrove.

• ♦ Un gruppo finanziato dallo Stato cinese aveva già utilizzato un precedente modello di Claude per colpire circa 30 organizzazioni in un attacco coordinato prima che Anthropic lo rilevasse.

In conclusione: si avvicina rapidamente il momento in cui tutte le aziende americane e tutte le istituzioni governative dovranno prepararsi a difendersi dagli hacker dotati di poteri sovrumani.

• ♦ Il tempo per prevenire questo problema si sta esaurendo rapidamente. La maggior parte di coloro che sono al potere non sono minimamente preparati.

________________________

Testi di: Jim VandeHei, Mike Allen

Fonte: Axios

Da leggere per rimanere sani di mente e aperti nel cuore!

https://www.asterios.it/catalogo/umana-forma-umana-sostanza

La visione che ognuno di noi ha del mondo è il risultato del rapporto tra sé e altro-da-sé e quest’ultimo dipende da tutta una lunga serie di fattori: come ciascuno è innato, come ciascuno è storicamente incastonato, come ciascuno è metabolicamente attivo, la somma delle sue esperienze, la somma dei suoi contatti, l’evoluzione dei suoi pensieri. Si può senz’altro essere d’accordo sul fatto che le esperienze esistenziali (le vicissitudini biografiche) abbiano valore in relazione al cambiamento che sono in grado di produrre nella nostra struttura psico-fisica; che quest’ultima sia alla base del desiderio, che il desiderio (l’intenzione) stimoli attività cognitive e attività produttive, nell’ambito delle quali bisogna altresì riconoscere che il bisogno ancestrale, ineludibile e preponderante è la manifestazione, l’affermazione di sé, il proprio essere riconosciuti.