Ekonomia Online
LATEST

Ya vivimos en ‘ciudades clon’: la IA está empeorando las cosas

Ya vivimos en ‘ciudades clon’: la IA está empeorando las cosas

El aprendizaje automático se rige por una función de pérdida que penaliza sus malas conjeturas, lo que lo lleva a ofrecer opciones que pecan de mediocres e insulsas. John Naughton es un académico y periodista irlandés, conocido por sus escritos y análisis sobre la tecnología, internet y su impacto en la sociedad. En el año […]

El aprendizaje automático se rige por una función de pérdida que penaliza sus malas conjeturas, lo que lo lleva a ofrecer opciones que pecan de mediocres e insulsas.

John Naughton es un académico y periodista irlandés, conocido por sus escritos y análisis sobre la tecnología, internet y su impacto en la sociedad.

En 2004, la New Economics Foundation (NEF) realizó una encuesta nacional sobre las calles comerciales del Reino Unido, que por entonces seguían siendo económicamente activas.

Descubrió que las auténticas tiendas locales habían sido sustituidas por una multitud de cadenas idénticas, haciendo que las calles comerciales de todo el país fueran prácticamente indistinguibles unas de otras. También acuñó un nuevo vocabulario para hablar de las zonas urbanas.

En esta terminología, una «ciudad local» es un lugar que conserva su carácter propio y resulta inmediatamente reconocible y distinguible para quienes viven allí, así como para quienes la visitan. Una «ciudad clon», por el contrario, es un lugar cuya oferta comercial distintiva en sus calles principales ha sido sustituida por una «franja monocromática de cadenas globales y nacionales». Esto significaba que su corazón comercial podía confundirse fácilmente con el de decenas de otros centros urbanos anodinos del país. De las ciudades encuestadas, la NEF concluyó que el 41% eran ciudades clon, el 33% eran ciudades locales y el 26% eran «ciudades fronterizas», es decir, estaban en algún punto intermedio.

Esta falta de diversidad no se limita a las ciudades. Está por todas partes. Se ve en los anuncios inmobiliarios de apartamentos nuevos o casas modernizadas para su reventa. Cocinas como quirófanos (y las de lujo con la inevitable isla); salas de estar con sofás blancos y cojines mullidos en exceso, suelos de madera pulida y televisores grandes. O cafeterías con ladrillos a la vista y la expectativa de que lo que quieres es un flat white con leche de avena y aguacate machacado. O la legión de jóvenes influencers de Instagram que cada vez parecen más indistinguibles entre sí.

¿Qué impulsa esta marcha aparentemente imparable hacia la uniformidad? Sin duda, el capitalismo moderno. Y las redes sociales, claro. Pero en el fondo de todo esto hay una tecnología y una filosofía concretas que determinan cada vez más cómo toman las empresas sus decisiones de inversión y cómo eligen los consumidores.

La industria tecnológica lo llama IA, pero en realidad es aprendizaje automático. Es un software que intenta predecir qué es probable que quieras a continuación —una canción, un vídeo, un producto, un lugar, un apartamento, lo que sea— y luego te lo muestra, basándose en los patrones de tu comportamiento pasado (en qué has hecho clic, qué has visto, comprado o valorado) y en el comportamiento en línea de personas que la máquina cree que podrían ser como tú.

Estas máquinas son, en esencia, conjeturadoras estadísticas. Se entrenan proporcionándoles un objetivo —una medida de lo que se supone que deben maximizar— y una función de pérdida , que básicamente es una penalización por hacer conjeturas equivocadas. Y, como explica la científica de datos sociales Lauren Leek en una excelente publicación en Substack, Temperatura cero para la cultura: por qué todo empieza a parecer igual , es la función de pérdida la que lleva a estas máquinas —y a sus usuarios desprevenidos— por mal camino.

Esto se debe a que la función de pérdida más común es la del «error cuadrático». Se calcula tomando la diferencia entre la conjetura de la máquina y la respuesta correcta y multiplicándola por sí misma. Esto significa que, en realidad, penaliza las grandes discrepancias. Lo que, a su vez, significa que el algoritmo de la máquina siempre juega sobre seguro, prediciendo la media de todas las posibilidades disponibles.

Y, en ese proceso, suprime ideas que eran extravagantes, pero también potencialmente originales. Como escribe Leek: «El peculiar restaurante de fusión de comida callejera georgiana y japonesa que nadie sabe clasificar… la canción que suena distinta de todo lo que vino antes; la mayoría nunca importará. Pero algunas sí. Un mundo que no deja de descartar lo imposible también descarta las cosas que podrían haberse convertido en las posibilidades del futuro».

Lo que nos devuelve a esas calles comerciales idénticas. Las ciudades clon de la NEF no fueron el producto de ningún plan coordinado para homogeneizar Gran Bretaña, sino el resultado de miles de decisiones independientes y aisladas, cada una tomada en su propio contexto. Ningún gobierno ni empresa decidió que todas las ciudades necesitaban la misma cadena de ropa, la misma cafetería y el mismo supermercado.

La idea de Leek es que, en un mundo impulsado por la inteligencia artificial, las matemáticas pueden explicar por qué algo así sigue ocurriendo a cualquier escala, desde la calle comercial hasta la plataforma de streaming: todo sistema entrenado para minimizar el error siempre se verá atraído hacia la media, porque la media es la conjetura más segura cuando no se está completamente seguro. 

Related