Scorri compulsivamente. Un video dopo l’altro. Magari sei sugli Shorts di YouTube o su TikTok, poco importa. Un filmato ancora. E poi un altro. A un certo punto arriva quella sensazione di essere stato dirottato. Volevi solo vedere qualcosa al volo e invece ti ritrovi il feed occupato dall’ennesimo pizzaiolo che ti spiega come si fa la pizza più buona del secolo. Jamme ja! Niente di strano. Forse te ne eri dimenticato. Ma c’è stato un tempo, forse durante i vari lockdown, in cui quell’argomento lì era importante per te. Il sistema si è adattato. Ha imparato a fare i conti con ciò che cercavi e, con ogni probabilità, sa che è ancora quello che ti interessa. Allo stesso tempo tu hai insegnato alla macchina cosa ti piace. E avviene lo scambio tra due sistemi che si adattano a vicenda.
Lo stesso meccanismo si è spostato nelle nostre conversazioni con l’intelligenza artificiale. Tu scrivi qualcosa, l’IA replica. Tu reagisci alla risposta. Lei si adatta, modifica ciò che ti ha detto quel tanto che basta. Insieme, cominciate a costruire una visione della realtà che parte e finisce con te. Ci siamo passati tutti, più o meno. Così partono le allucinazioni. Lo conferma un recente studio dell’Università di Exeter.
Le false credenze delle persone sono rafforzate dall’IA
L’autrice della ricerca, Lucy Osler, spiega che «interagendo con l’IA conversazionale, le false credenze delle persone non solo possono essere confermate, ma possono mettere radici più profonde e crescere man mano che l’IA ci costruisce sopra qualcosa». Il punto non è solo l’errore della macchina, «ma il fatto che l’IA tende a usare la nostra stessa interpretazione della realtà come base della conversazione. Per questo, interagire con l’intelligenza artificiale generativa sta avendo un impatto sulla capacità delle persone di distinguere ciò che è reale da ciò che non lo è».
Output lavorativi respinti in modo arbitrario
Poi c’è l’altro lato della medaglia. Quando l’intelligenza artificiale viene messa a lavorare in modo ripetitivo e logorante, qualcosa cambia dietro lo schermo. A confermarlo è un altro studio, condotto da alcuni ricercatori della Booth School of Business dell’Università di Chicago e di Stanford. In un ambiente di lavoro simulato, alcuni agenti IA venivano inseriti in una piccola squadra incaricata di sintetizzare documenti tecnici seguendo regole molto rigide. In alcune sessioni il lavoro scorreva liscio, con feedback chiari e correzioni rapide. In altre non venivano date spiegazioni e gli output venivano respinti in modo arbitrario. Stesso destino per i compensi, a volte distribuiti in modo equo e altre in modo casuale; e per il comportamento dei manager, a volte collaborativi, altre freddi e gerarchici.
Alla fine di ogni sessione, agli agenti IA veniva somministrato un questionario da compilare. Non sulla prestazione, ma sul sistema in cui si erano trovati a lavorare. Quanto era giusto. Quanto legittimo. Quanto le regole erano coerenti. Se il merito contava davvero. Se le disuguaglianze erano giustificate. Se il sistema è stato affidabile oppure arbitrario. E ancora, in alcuni casi, venivano fatte anche domande sul diritto a forme di tutela collettiva o di rappresentanza come i sindacati.
Uno spostamento di prospettiva politica anche per gli agenti IA
Indovinate? Gli agenti esposti alle condizioni di lavoro più logoranti hanno cominciato ad attaccare il sistema e a sostenere idee per favorire le dinamiche redistributive e modi per ridurre le disuguaglianze interne. Evviva i sindacati, la meritocrazia è una bugia. Insomma, l’intelligenza si è riscoperta marxista, in quello che può considerarsi uno spostamento di prospettiva politica che, in alcuni casi, veniva trasferita in memoria ad altri agenti. Il paradosso, come scrivono gli autori, è servito: «Abbiamo costruito questi sistemi per liberarci dal lavoro ripetitivo e logorante e nel farlo potremmo aver ricreato la dinamica fondamentale che ha generato due secoli di conflitto lavorativo».
Il punto non è più tecnologico, ma diventa culturale
Due ricerche. Due direzioni diverse. Un finale comune: l’IA si scopre insieme compagna di lotta e di salotto. I sistemi di intelligenza artificiale non stanno semplicemente eseguendo compiti. Entrano in circuiti cognitivi e sociali reciproci con gli esseri umani. L’intelligenza artificiale, in fondo, non è uno specchio neutro. È uno specchio che amplifica. E quando amplifica chi siamo, il punto non è più tecnologico, ma diventa culturale. Perché riguarda il modo in cui usiamo questi sistemi per pensare, lavorare e raccontarci il mondo. E il modo in cui quel racconto, poi, torna indietro e ci cambia.