Immaginate di trovarvi dietro il bancone di un fast food durante l’ora di punta. Tra il ritmo frenetico del drive-thru e il rumore costante delle friggitrici, la concentrazione è tutto. Nelle vostre cuffie, però, non risuona solo la ricetta di un panino: una voce digitale ascolta e analizza ogni parola che pronunciate. Se nella fretta dimenticate un "grazie" o un "benvenuto", il vostro punteggio di cordialità scende immediatamente.
Non siamo in un episodio di Black Mirror, ma di fronte a un test reale che Burger King sta conducendo negli USA con Patty, un assistente vocale basato sulla tecnologia GPT. Il caso solleva una questione giuridica ed etica fondamentale: quando la gentilezza viene trasformata in un parametro algoritmico, dove finisce l’ausilio tecnologico e dove inizia il controllo tecnologico illegittimo?
Ufficialmente, Patty nasce come uno strumento di supporto all’interno del sistema BK Assistant. Le sue funzioni operative sono innegabili: risponde a dubbi sulle preparazioni, monitora le scorte e segnala guasti tecnici.
Il nodo critico, tuttavia, risiede nel modulo di analisi semantica del linguaggio. Patty intercetta le interazioni cercando parole chiave come "prego" o "buongiorno", aggregando i dati in un friendliness score (punteggio di cordialità) consultabile dai manager. Sebbene l'azienda dichiari che il monitoraggio sia rivolto a tutto il team, la tecnologia solleva il rischio di una profilazione individuale e di una pressione psicologica costante.
Se Patty venisse introdotta in Italia, dovrebbe superare il rigoroso "muro" della nostra legislazione, che tutela la dignità del lavoratore contro il monitoraggio invasivo.
Come modificato dal D.Lgs. 151/2015 (attuativo del Jobs Act), l'articolo 4 vieta l'uso di impianti audiovisivi e altri strumenti dai quali derivi la possibilità di controllo a distanza dell'attività dei lavoratori, a meno che non vi siano esigenze organizzative, produttive o di sicurezza, e solo previo accordo sindacale o autorizzazione dell'Ispettorato del Lavoro. Un sistema che ascolta e valuta costantemente il parlato difficilmente verrebbe considerato un semplice strumento finalizzato al miglioramento del lavoro.
L’analisi del tono della voce e del linguaggio può sconfinare nel trattamento di dati biometrici o comunque in un trattamento automatizzato di dati personali (Art. 22 del GDPR) che incide sui diritti dei dipendenti. La normativa italiana, sotto la protezione del Garante Privacy, è tra le più restrittive nell'evitare che il lavoratore sia ridotto a un numero.
A livello europeo, il recente AI Act (Regolamento UE 2024/1689) mette in chiaro la situazione in merito all'uso dell'Intelligenza Artificiale nei luoghi di lavoro.
I sistemi di IA utilizzati per il reclutamento, la gestione dei lavoratori e la valutazione delle prestazioni sono classificati come sistemi ad alto rischio.
Ai sensi del Regolamento, queste tecnologie devono garantire una supervisione umana effettiva. Un algoritmo non può, da solo, determinare premi, sanzioni o il rinnovo di un contratto basandosi su un "punteggio di cortesia".
L'AI Act impone la prevenzione di discriminazioni. Un sistema come Patty potrebbe penalizzare chi ha accenti regionali, chi non è madrelingua o chi presenta neurodivergenze, violando i principi di equità del diritto europeo.
Il progetto Patty è emblematico perché tenta di trasformare la gentilezza – un tratto umano e spontaneo – in un dato statistico. Il rischio concreto è quello della reattanza psicologica: sentirsi costantemente sotto esame aumenta lo stress e, paradossalmente, peggiora la qualità del servizio.
Inoltre, il D.Lgs. 104/2022 (Decreto Trasparenza) impone ai datori di lavoro di informare i dipendenti sull'utilizzo di sistemi decisionali o di monitoraggio automatizzati. La tecnologia deve essere al servizio della sicurezza e dell'efficienza, non deve trasformarsi in un "Grande Fratello" digitale.
Sebbene l’intelligenza artificiale rappresenti una risorsa fondamentale per ottimizzare i processi quotidiani, il suo impiego non deve mai sconfinare in un monitoraggio invasivo dell’interazione umana. La dignità del lavoro non è un dato trattabile, né un parametro che si può massimizzare con un algoritmo. La sfida delle aziende moderne è adottare l'innovazione rispettando il confine invalicabile della libertà individuale e della normativa vigente.
