L’apprendimento automatico è guidato da una funzione di perdita che penalizza le sue cattive previsioni, spingendolo a proporre opzioni che tendono verso la media e la prevedibilità. John Naughton è un accademico e giornalista irlandese, noto per i suoi scritti e le sue analisi sulla tecnologia, Internet e il loro impatto sulla società. Nel […]
Ormai viviamo in «città clone» – l’IA peggiora le cose

L’apprendimento automatico è guidato da una funzione di perdita che penalizza le sue cattive previsioni, spingendolo a proporre opzioni che tendono verso la media e la prevedibilità.
John Naughton è un accademico e giornalista irlandese, noto per i suoi scritti e le sue analisi sulla tecnologia, Internet e il loro impatto sulla società.
Nel 2004, la New Economics Foundation (NEF) condusse un’indagine nazionale sulle vie commerciali del Regno Unito, che all’epoca erano ancora economicamente attive.
Scoprì che i veri negozi locali erano stati sostituiti da una miriade di catene identiche, rendendo le vie commerciali di tutto il Paese praticamente indistinguibili l’una dall’altra. Elaborò anche un nuovo vocabolario per parlare delle aree urbane.
In questa terminologia, una «città autentica» è un luogo che conserva il proprio carattere individuale ed è immediatamente riconoscibile e distinto per chi ci vive e per chi lo visita. Una «città clone», al contrario, è un luogo in cui l’individualità dei negozi delle vie commerciali è stata sostituita da una «fascia monocromatica di catene globali e nazionali». Ciò significava che il suo cuore commerciale poteva essere facilmente confuso con decine di altri anonimi centri urbani del Paese. Delle città esaminate, la NEF concluse che il 41% erano città clone, il 33% città autentiche e il 26% «città di confine», ossia una via di mezzo.
Questa mancanza di diversità non riguarda soltanto le città. È ovunque. La si vede negli annunci immobiliari di nuovi appartamenti o di case ristrutturate per essere rivendute. Cucine asettiche come sale operatorie (e quelle lussuose con l’immancabile isola); soggiorni con divani bianchi e cuscini troppo imbottiti, pavimenti in legno lucido e grandi televisori. Oppure caffetterie con mattoni a vista e l’aspettativa che desideriate un flat white con latte d’avena e avocado schiacciato. O ancora, la legione di giovani influencer su Instagram che diventano sempre più indistinguibili.
Che cosa alimenta questa marcia apparentemente inarrestabile verso l’uniformità? Il capitalismo moderno, certo. E i social media, senza dubbio. Ma alla base di tutto c’è una particolare tecnologia e filosofia che determina sempre più il modo in cui le aziende prendono decisioni d’investimento e i consumatori fanno le loro scelte.
L’industria tecnologica la chiama IA, ma in realtà si tratta di apprendimento automatico. È un software che cerca di prevedere che cosa probabilmente vorrete dopo – una canzone, un video, un prodotto, un luogo, un appartamento, qualsiasi cosa – e poi ve lo mostra, sulla base degli schemi del vostro comportamento passato (che cosa avete cliccato, guardato, acquistato o valutato) e del comportamento online di persone che la macchina ritiene possano essere simili a voi.
Queste macchine sono essenzialmente indovine statistiche. Vengono addestrate assegnando loro un obiettivo – una misura di ciò che dovrebbero massimizzare – e una funzione di perdita , che in sostanza è una penalità per le previsioni sbagliate. E, come spiega la data scientist sociale Lauren Leek in un eccellente post su Substack, Temperatura zero per la cultura: perché tutto comincia ad assomigliarsi , è la funzione di perdita a portare queste macchine – e i loro utenti inconsapevoli – fuori strada.
Questo accade perché la funzione di perdita più comune è quella dell’«errore quadratico». Si calcola prendendo la differenza tra la previsione della macchina e la risposta corretta e moltiplicandola per sé stessa. Ciò significa che penalizza effettivamente le grandi discrepanze. Il che, a sua volta, significa che l’algoritmo della macchina va sempre sul sicuro, prevedendo la media di tutte le opzioni disponibili.
E, in questo processo, sopprime idee che erano audaci, ma anche potenzialmente originali. Come scrive Leek: «Lo strano ristorante di fusion georgiano-giapponese di street food che nessuno riesce a classificare… la canzone che suona diversa da quelle venute prima, per la maggior parte non conteranno mai. Ma alcune sì. Un mondo che continua a eliminare l’impossibile elimina anche le cose che avrebbero potuto diventare le possibilità del futuro.»
Il che ci riporta a quelle vie commerciali tutte uguali. Le città clone della NEF non erano il prodotto di un piano coordinato per omogeneizzare la Gran Bretagna, ma il risultato di migliaia di decisioni indipendenti e separate, ciascuna presa nel proprio contesto. Nessun governo o azienda decise che ogni città avesse bisogno della stessa catena di abbigliamento, della stessa caffetteria e dello stesso supermercato.
Secondo Leek, in un mondo guidato dall’intelligenza artificiale, la matematica può spiegare perché qualcosa del genere continui ad accadere, a ogni livello, dalla via commerciale alla piattaforma di streaming: qualsiasi sistema addestrato a minimizzare l’errore sarà sempre attratto dalla media, perché la media è la previsione più sicura quando non si è del tutto sicuri.

















