Qualcuno deve aver detto bugie su Joseph K., perché senza aver fatto nulla di male è stato arrestato una mattina”. ~ Il processo (1925), Franz Kafka
Eccoti, a fissare il tuo schermo. Il cursore si blocca, quindi lo si spinge – solo per essere al sicuro. Sembravi solo inattivo? Non c’è niente che non va. Eppure, ti comporti come se lo fosse.
Un programma software silenzioso sta guardando costantemente. L’azienda lo chiama “aiuto”. Un “partner” dell’IA per renderti più veloce, più intelligente, più produttivo, ancora più felice. Eppure si percepisce che qualcosa si è spostato sotto lo sguardo di questo inquisitore digitale. Forse non sai nemmeno cosa viene guardato o misurato, o dove vanno tutte quelle informazioni.
Questo sta rapidamente diventando la nuova normalità negli uffici, dove gli occhi algoritmici non sbattono mai le palpebre. Lo spostamento mette una vera pressione su come pensiamo ai diritti. Alcuni sono già sui libri – se non facilmente applicabili – come limiti alla sorveglianza intrusiva, alle protezioni della privacy e al giusto processo nella valutazione e nel licenziamento. Altri sono più difficili da nominare, anche se le persone li sentono ogni giorno: la necessità di un margine di opacità e la comprensione abbiamo un senso di sé che non è riducibile ai dati. Questi diritti sono il fondamento per la dignità e il lavoro significativo – vitale per una forza lavoro di successo, imprese fiorenti e una società prospera.
I datori di lavoro hanno sempre cercato il controllo; i lavoratori hanno sempre combattuto per l’autonomia e la dignità. L’IA è l’ultimo capitolo, e forse il più intenso ancora – più intimo e pervasivo di qualsiasi monitoraggio che è venuto prima. Dove va la storia non è chiaro, ma senza un intervento rapido e deliberato, l’arco si piega verso la normalizzazione di sistemi senza risposta che sono decisamente kafkiani.
Gli occhi senza un viso
I sistemi di monitoraggio dell’intelligenza artificiale di oggi sono disponibili in due varietà: strumenti che tracciano il tuo comportamento e i tuoi sistemi che prendono decisioni automatizzate al riguardo. Insieme, sono spesso chiamati “bossware” – un termine piuttosto scomodo vicino al termine già stabilito, “spyware”.
Non accontentarsi di guardare e misurare, il bossware prevede, spinge e interviene: Krista, rimanere all’interno di applicazioni approvate durante l’orario di lavoro. Dave, prendi provvedimenti correttivi per migliorare il tuo punteggio di fidanzamento.
Consegnare i tuoi incarichi non basta più. Il lavoro può sembrare che tu sia costretto a giocare su un tavolo che non puoi vedere. Più si digita, più l’algoritmo impara. Da solo conosce veramente il punteggio.
Molti lavoratori a tempo pieno, part-time e gig stanno ora affrontando quello che alcuni descrivono come un dehumanizing livello di sorveglianza “disumanizzante”. E la maggior parte, soprattutto i lavoratori dei colletti bianchi e gli appaltatori con poca protezione organizzata o accordi chiari, stanno andando alla deriva in una zona grigia legale. Anche per coloro che hanno la fortuna di avere sindacati, le vecchie salvaguardie sono indietro rispetto alla tecnologia. I dipendenti sono lasciati improvvisare, cercando di navigare nei sistemi di spycraft che non comprendono appieno.
Sempre più spesso, la visione è guidata dal software “task mining”, che registra il modo in cui i dipendenti interagiscono con i loro computer e flussi di lavoro per mappare il modo in cui il lavoro viene svolto e dove può essere ottimizzato o automatizzato. Il tuo comportamento digitale quotidiano diventa un set di dati continuo sulla produttività.
Questo è, di fatto, il taylorismo per il XXI secolo. I datori di lavoro lo propongono come un’efficienza, ma i lavoratori spesso lo sperimentano come esposizione e umiliazione. Per alcuni, non è tanto il monitoraggio degli output, come i pacchetti consegnati o le vendite chiuse. Questo, potrebbero convivere. È il controllo degli input: minuti inattivi segnalati, pause per il bagno a tempo, tono e cadenza raccolti a parte sulle chiamate. Quando aggiungi politiche opache, l’aspettativa sempre attiva e gli screenshot costanti che ti fanno temere di cercare una ricetta per il pesce al vapore, ciò che potrebbe essere stato guadagnato nella produttività si perde in un’ondata di stress.
Considera, un barista di Starbucks, o qualsiasi numero di impiegati o gig worker, può trovarsi sotto lo sguardo di una particolare IA chiamata “Aware” che scansiona Slack, Teams e Zoom per l’engagement, il sentiment o qualsiasi altra cosa si qualifichi come “comportamento a rischio”, quindi spinge i suoi valutatori alle dashboard dei manager. I lavoratori vedono solo i risultati, non la logica che li ha prodotti. È la logica di Kafka aggiornata per il software.
Il barista ha acconsentito a questo sistema? Non in alcun senso ordinario. L’algoritmo non è opzionale, e i contratti ordinari e le protezioni del lavoro non prevedevano un supervisore, questo opaco e incorporato.
Con strumenti più sofisticati a loro disposizione, i datori di lavoro cercano di catturare non solo ciò che fai, ma come ti senti mentre lo fai. I sistemi di intelligenza artificiale interpretano le espressioni facciali, i movimenti degli occhi, persino la postura, trasformando il tuo umore in una metrica. Ciò che già si insinuava sul posto di lavoro come biosorveglianza (leggi sotto) si è trasformato in Intelligenza Artificiale Emotiva, presentandosi ovunque dai call center agli uffici finanziari.
Lavoratori biosorvegliati, contenti e felici tutto il tempo
I programmi di intelligenza artificiale pretendono di utilizzare i dati di dispositivi indossabili, testuali e attività informatiche per rilevare come ti senti, ma in realtà è solo inferenza: mai ciò che effettivamente sperimenti. Una vasta gamma di datori di lavoro sta già utilizzando l’IA emotiva, nonostante il fatto che gli studiosi avvertono la scienza dietro di esso è dubbio nel migliore dei casi. Era un elevato scetticismo o interesse del sopracciglio? Aziende come Azure Vision possono sembrare sapere, ma i ricercatori della University of Western Ontario hanno detto senza mezzi termini: “Non dovremmo prendere gli informatici alla loro parola che i paradigmi per le emozioni umane che hanno sviluppato … possono produrre verità di terra sulle emozioni umane”.
Parte del motivo è che le macchine sono di parte. Le donne, i dipendenti più anziani, i lavoratori neurodiversi e le persone di colore hanno molte più probabilità di essere letti e missurati male. Ciò che l’algoritmo segnala come “disimpegno” può essere semplicemente stanchezza, differenza culturale o, dio non voglia, un momento di riflessione tranquilla. Eppure queste errate interpretazioni possono influenzare le recensioni delle prestazioni, le promozioni e i licenziamenti.
Di cosa mi preoccupo?
Anche al suo meglio, la sorveglianza dell’IA può ritorcersi contro, lasciando i lavoratori con più precarietà, condizioni peggiori, retribuzione e programmazione ingiuste e più discriminazione – spingendo sempre più in profondità la disuguaglianza. Eppure alcuni datori di lavoro stanno lanciando la sorveglianza dell’IA come strumento di benessere invece del Grande Fratello alla tua scrivania.
A JPMorgan Chase, ad esempio, ogni mossa digitale dei banchieri junior è ora tracciata per catturare il “superlavoro”. L’azienda afferma che si tratta di “consapevolezza” e “benessere”. Ma anche quando la supervisione è inquadrata come utile, il monitoraggio e la gestione algoritmica possono generare problemi. In un esperimento, i partecipanti hanno affrontato lo stesso compito in due condizioni: osservati da un essere umano o da un sistema di intelligenza artificiale chiamato “AI Technology Feed”. Anche quando il feedback era lo stesso, il gruppo AI si sentiva stressato, impotente e meno creativo, e hanno respinto più contro l’IA rispetto all’osservatore umano. Uno studio del 2025 ha rilevato che la sorveglianza digitale dilagata erode la fiducia e mantiene i lavoratori in difficoltà.
Katharina Klug, ricercatrice di psicologia aziendale presso l’Università di Brema, avverte che la sorveglianza sul posto di lavoro guidata dall’IA “potrebbe avere effetti demotivanti … se è fatta in un modo che non è trasparente – non sai quali dati vengono raccolti o cosa fa il tuo datore di lavoro con essi”. Osserva che il risultato potrebbe essere uno spostamento della motivazione verso premi estrinseci e una situazione in cui i dipendenti si sentono sotto pressione e ansiosi. L’economista Nadia Garbellini dell’Università di Modena in Italia ha avvertito che l’IA potrebbe diminuire la qualità dei posti di lavoro, consegnando i lavoratori a un “grado di autonomia sempre in diminuzione”.
È anche un problema di salute. La visione dell’IA genera anticipatory, stress anticipatore: ti preoccupi di come ogni azione potrebbe essere interpretata in futuro. Questo può portare a burnout, capacità immaginativa indebolita e persino sintomi fisici. Alex Rosenblat ha scritto di capi dell’IA che, oltre a consentire problemi come il furto di salari, a volte incoraggiano attività rischiose, come spingere gli autisti di Uber a continuare quando sono stanchi.
Anche quando i dipendenti capiscono le metriche, si presentano problemi non intenzionali. Ad esempio, le persone giocano a ciò che viene misurato, spesso a scapito del quadro generale, portando alla conformità a livello di superficie e agli shenanigan metrici. In alcuni luoghi di lavoro, il personale è spinto a contromisure come i famosi “jiggler del mouse” che simulano il leggero movimento del cursore in modo che i dipendenti possano fare una pausa di fumo senza essere contrassegnati. Wells Fargo ha licenziato più di una dozzina di dipendenti dopo aver rilevato tali tattiche.
E cosa succede ai dati dei dipendenti una volta raccolti? Potrebbe non rimanere all’interno del posto di lavoro. I datori di lavoro possono passarlo a fornitori, servizi cloud e società di analisi, mentre strumenti come Slack o Zoom generano flussi di dati comportamentali che si muovono attraverso più terze parti nell’ambito di ampi accordi di servizio.
Le politiche sul posto di lavoro consentono sempre più un’ampia raccolta e riutilizzo di metriche di produttività, metadati di comunicazione e altre tracce digitali, spesso ampliate attraverso aggiornamenti che offrono poca chiarezza sull’uso a valle. In alcune giurisdizioni, leggi come il California Consumer Privacy Act (CCPA) della California offrono diritti limitati per accedere o rinunciare a determinati usi dei dati, comprese le vendite di informazioni personali, anche se l’applicazione è irregolare e gli opt-out sono raramente semplici. Altrove – buona fortuna.
Anche se un’azienda non intende vendere i tuoi dati, può comunque scivolare tra le dita. L’app di sorveglianza WorkComposer ha lasciato più di 21 milioni di schermate dei dipendenti esposte in un bucket Amazon S3 non protetto. Le immagini sensibili dell’attività dei dipendenti sono trapelate, mettendo i lavoratori a rischio di furto di identità e altri danni. Oops!
L’intelligenza artificiale ha anche amplificato un pericolo sul posto di lavoro che potremmo chiamare “valutazione dell’ombra”. Il tuo manager lo definisce un “programma di formazione”, ma dietro le quinte, l’IA sta rivedendo i punti deboli. Quando finisci la sessione, l’algoritmo ha già fatto la sua raccomandazione su di te, lasciando il manager umano a fare semplicemente clic su “approva”.
Nel frattempo, il sistema costruisce un quadro più completo delle tue prestazioni, acuendo i giudizi sul fatto che l’azienda possa alla fine fare a meno di te. Il direttore della ricerca INET Thomas Ferguson osserva che gli analisti del settore avvertono privatamente che i dipendenti che cercano di familiarizzare con gli strumenti di intelligenza artificiale potrebbero voler sperimentare con il software nel proprio tempo, invece di condividere le conoscenze con i loro datori di lavoro. “Le pratiche di lavoro degli Stati Uniti trattano la maggior parte dei lavoratori come strumenti casuali e usa e getta” commenta, “con effetti prevedibilmente disastrosi su quanto velocemente il beneficio sociale dell’IA può diffondersi in molti settori”. Ferguson si aspetta che l’introduzione dell’IA negli Stati del nord Europa con protezioni del lavoro più forti sarà più facile.
Senza tali protezioni, finiamo con il tribunale di Kafka al suo massimo dei casi: accuse invisibili elaborate in tempo reale da burocrati invisibili.
Bossware può anche tagliare la tua busta paga attraverso ciò che è noto come “paga di sorveglianza”. Un rapporto del Washington Center for Equitable Growth, che ha esaminato 500 fornitori di intelligenza artificiale, rileva che nell’ambito dei sistemi di intelligenza artificiale, “alle persone diverse possono essere pagati salari diversi per lo stesso lavoro in gran parte e i singoli lavoratori non possono prevedere i loro redditi nel tempo”. Il risultato è un “disaccoppiamento di duro lavoro e retribuzione sicura ed equa” – una dinamica che ha colpito per la prima volta i lavoratori di gig come i conducenti di corse e consegna di cibo e ora si sta diffondendo in altri settori e posti di lavoro.
Infine – e abbiamo a malapena graffiato la superficie dei rischi di sorveglianza dell’IA – le aziende stanno implementando l’IA per tenere a bada i sindacati. Gli strumenti costruiti per i militari stanno pattugliando i cubicoli e le corsie del magazzino, assicurandosi che l’organizzazione non metta mai un piede nella porta. Alcune aziende usano persino l’IA per perseguitare i social media al di fuori del posto di lavoro per scoprire chi ha una mente da sindacalizzare. I dipendenti di Amazon, e anche la Boston University, hanno avuto un assaggio del fallimento del sindacato alimentato dall’IA. Il dispiegamento anti-sindacale dell’IA è diventato una caratteristica sinistra di quella che è stata definita “l’amazzonificazione della forza lavoro americana”.
In modo più insidioso, la gestione algoritmica tende a spostare il posto di lavoro da uno spazio politico condiviso in un serbatoio di isolamento in cui le persone competono contro le proprie ombre di dati. L’esperienza diventa una delle metriche individuali piuttosto che delle condizioni collettive, erodendo un senso di agenzia.
Progettare per la dignità
Nell’era dell’intelligenza artificiale, ci troviamo di fronte a problemi sia normativi che concettuali. C’è una pressante necessità di precisare i paletti umani con maggiore precisione e insistere sul fatto che l’efficienza, per quanto utile, non definisce lo scopo del lavoro o l’intera portata dei diritti dei lavoratori.
Il problema più profondo è che il lavoro viene sempre più gestito attraverso sistemi che vanno oltre la semplice raccolta di informazioni sulle persone, ma trasformano tali informazioni in giudizi, spesso senza spiegazioni e con pochissimo spazio – e praticamente senza diritti legali – per discutere.
Alcuni governi stanno iniziando a rispondere. Nell’Unione europea, l’Ait Artificial Intelligence Act tratta l’intelligenza artificiale utilizzata nell’assunzione, nel licenziamento, nella retribuzione e nella revisione delle prestazioni come “ad alto rischio”, il che significa che le aziende devono documentare come funzionano questi sistemi, testarli per i pregiudizi e mantenere un essere umano nel ciclo. Il regolamento generale sulla protezione dei dati conferisce anche ai lavoratori alcuni diritti fondamentali per accedere ai loro dati e contestare decisioni completamente automatizzate che li riguardano materialmente.
Gli Stati Uniti, al contrario, stanno ancora confondendo con un patchwork. Le leggi esistenti sul lavoro e sulla privacy possono a volte essere estese per coprire la sorveglianza sul posto di lavoro o il punteggio algoritmico, ma l’applicazione è irregolare e le regole non sono state fatte per sistemi che esternalizzano il giudizio ai modelli. La maggior parte del quadro giuridico presuppone ancora che ci sia una persona reale in un posto che prende una decisione che puoi indicare. Sempre più spesso non c’è nessun essere umano.
Questo divario è importante, perché la legge da sola non riequilibra questo. I lavoratori hanno bisogno di sindacati, accordi di contrattazione e capacità organizzativa che possano effettivamente modellare il modo in cui questi sistemi vengono utilizzati nella pratica. Dove i sindacati sono robusti, hanno iniziato a respingere: chiedere trasparenza sugli strumenti di monitoraggio, limitare l’uso dei punteggi algoritmici nella disciplina e nella retribuzione e insistere sulla revisione umana quando i sistemi automatizzati segnalano o classificano i lavoratori.
Niente di tutto questo è astratto. È la vera differenza tra avere una voce nel modo in cui sei valutato e scoprire, dopo il fatto, che sei stato valutato.
È importante molto chi vede i dati e chi li controlla, e anche come influisce sulle persone a sentire che vengono costantemente interpretati da sistemi che non comprendono davvero il contesto. La maggior parte del lavoro umano non è una serie di uscite pulite e misurabili. È disordinato. Hai giorni cattivi, recupero, curve di apprendimento, distrazione, improvvisazione e chiamate di giudizio che non si traducono ordinatamente in punti dati.
In definitiva, c’è una sorta di diritto all’indeterminazione in gioco: il diritto di non essere bloccati da sistemi che cercano sempre di dedurre da quale tipo di lavoratore sei da qualsiasi traccia tu lasci dietro. Nessuno si aspetta di essere libero dalla misurazione del tutto – questo non è realistico – ma possiamo e dobbiamo aspettarci un limite a ciò che queste misure sono autorizzate a significare, e quanta autorità possono portare.
Senza questi limiti, il lavoro inizia a sembrare meno come qualcosa che fai e più come qualcosa in cui sei costantemente tradotto. Una volta che ciò accade, un lavoratore è ridotto a un semplice profilo che viene continuamente aggiornato ed eternamente segnato.
Questo non vuol dire che l’intelligenza artificiale non appartenga al posto di lavoro. Quella nave ha navigato, e molti strumenti possono essere utili se applicati con attenzione e in modo trasparente, con un sacco di input dei lavoratori. La domanda è: saranno strumenti che supportano gli esseri umani e condividono la prosperità, o permettiamo loro di essere i mezzi più nuovi con cui la gestione estrae più controllo e meno resistenza?
Solo uno di quei percorsi fa spazio alla dignità.
Autrice: Lynn Parramore è una storica della cultura il cui lavoro illumina le profonde interconnessioni tra storia, economia, cultura e psicologia, rivelando come le narrazioni collettive e i presupposti morali modellano la vita e il potere economico.
Clicca sulla copertina per leggere tutta la scheda del volume!
In un’epoca che corre verso l’artificializzazione totalitaria del mondo, Luciano Boi e Stefano Isola pongono la domanda essenziale: quale sarà il posto dell’uomo nella società futura? La direzione dei mutamenti in atto sta conducendo, infatti, verso una crescente marginalizzazione del contributo umano dagli accadimenti significativi dell’esistenza, esiliando l’uomo nel “regno dell’insignificanza”, alla periferia di un universo rifondato sull’imperio degli algoritmi, sul “non pensiero” dell’intelligenza artificiale, sulla volontà di potenza di macchine che simulano intenzioni e decisioni umane, rovesciando il principio di utilità della tecnica in quello di utilità per la tecnica.
Il “regno dell’insignificanza” è quello dove i corpi sono sostituiti dai profili; le relazioni dalle connessioni; la comunità dalla community; la città dalla smart city; la politica dalla governance; la scuola dall’eduverso; il linguaggio dal messaggio; le professioni dai robot.
