Ekonomia Online
LATEST

Nous vivons déjà dans des « villes clonées » – l’IA aggrave les choses

Nous vivons déjà dans des « villes clonées » – l’IA aggrave les choses

L’apprentissage automatique est guidé par une fonction de perte qui pénalise ses mauvaises prédictions, l’amenant à proposer des options qui penchent du côté de la moyenne et de l’instable. John Naughton est un universitaire et journaliste irlandais, connu pour ses écrits et ses analyses sur la technologie, Internet et leur impact sur la société. En […]

L’apprentissage automatique est guidé par une fonction de perte qui pénalise ses mauvaises prédictions, l’amenant à proposer des options qui penchent du côté de la moyenne et de l’instable.

John Naughton est un universitaire et journaliste irlandais, connu pour ses écrits et ses analyses sur la technologie, Internet et leur impact sur la société.

En 2004, la New Economics Foundation (NEF) a réalisé une enquête nationale sur les rues commerçantes du Royaume-Uni, qui étaient encore économiquement actives à l’époque.

Elle a découvert que les véritables commerces locaux avaient été remplacés par une multitude de magasins de chaîne identiques, rendant les rues commerçantes de tout le pays pratiquement impossibles à distinguer les unes des autres. Elle a également élaboré un nouveau vocabulaire pour parler des zones urbaines.

Dans cette terminologie, une « ville locale » est un lieu qui conserve son caractère propre et qui est immédiatement reconnaissable et distinctif pour les personnes qui y vivent, ainsi que pour celles qui le visitent. Une « ville clonée », à l’inverse, est un lieu dont les commerces des rues commerçantes ont perdu leur singularité, remplacés par une « bande monochrome de chaînes mondiales et nationales ». Cela signifiait que son cœur commercial pouvait facilement être confondu avec des dizaines d’autres centres-villes ordinaires du pays. Parmi les villes étudiées, la NEF a conclu que 41 % étaient des villes clonées, 33 % des villes locales et 26 % des « villes intermédiaires », c’est-à-dire quelque part entre les deux.

Ce manque de diversité ne se limite pas aux villes. Il est partout. On le voit dans les annonces immobilières pour des appartements neufs ou des maisons rénovées en vue de leur revente. Des cuisines comme des salles d’opération (et les versions luxueuses avec l’incontournable îlot) ; des salons avec des canapés blancs aux coussins excessivement rembourrés, des parquets cirés et de grands téléviseurs. Ou des cafés avec des murs en briques apparentes, où l’on s’attend à ce que vous vouliez des flat whites au lait d’avoine et des avocats écrasés. Ou encore la légion de jeunes influenceurs sur Instagram qui se ressemblent de plus en plus.

Qu’est-ce qui alimente cette marche apparemment inexorable vers l’uniformité ? Le capitalisme moderne, bien sûr. Et les réseaux sociaux, sans aucun doute. Mais à la base de tout cela se trouve une technologie et une philosophie particulières qui déterminent de plus en plus la manière dont les entreprises prennent leurs décisions d’investissement et dont les consommateurs font leurs choix.

L’industrie technologique appelle cela l’IA, mais il s’agit en réalité d’apprentissage automatique. C’est un logiciel qui tente de prédire ce que vous voudrez probablement ensuite – une chanson, une vidéo, un produit, un lieu, un appartement, peu importe – et qui vous le montre ensuite, en se fondant sur les tendances observées dans votre comportement passé (ce sur quoi vous avez cliqué, ce que vous avez regardé, acheté ou évalué) et sur le comportement en ligne des personnes que la machine pense susceptibles de vous ressembler.

Ces machines sont essentiellement des devins statistiques. Elles sont entraînées en leur fournissant un objectif – une mesure de ce qu’elles sont censées maximiser – et une fonction de perte , qui est essentiellement une pénalité appliquée aux mauvaises prédictions. Et, comme l’explique la spécialiste des données sociales Lauren Leek dans un excellent article sur Substack, Température zéro pour la culture : pourquoi tout commence à se ressembler , c’est la fonction de perte qui conduit ces machines – et leurs utilisateurs inconscients – à une impasse.

Cela s’explique par le fait que la fonction de perte la plus courante est celle de « l’erreur quadratique ». Elle se calcule en prenant la différence entre la prédiction de la machine et la réponse correcte, puis en la multipliant par elle-même. Cela signifie qu’elle pénalise en réalité les grands écarts. Ce qui signifie à son tour que l’algorithme de la machine joue toujours la sécurité en prédisant la moyenne de toutes les options disponibles.

Et, ce faisant, il étouffe les idées qui étaient audacieuses, mais aussi potentiellement originales. Comme l’écrit Leek : « Le restaurant étrange de cuisine de rue fusion géorgienne-japonaise que personne ne peut classer… la chanson qui sonne différemment de tout ce qui l’a précédée, la plupart n’auront jamais d’importance. Mais certaines en auront. Un monde qui continue d’éliminer l’impossible élimine aussi les choses qui auraient pu devenir les possibilités de demain. »

Ce qui nous ramène à ces rues commerçantes identiques. Les villes clonées de la NEF n’étaient pas le produit d’un plan concerté visant à homogénéiser la Grande-Bretagne, mais le résultat de milliers de décisions indépendantes et isolées, chacune prise dans son propre contexte. Aucun gouvernement ni aucune entreprise n’a décidé que chaque ville avait besoin des mêmes chaînes de magasins de vêtements, cafés et supermarchés.

Selon Leek, dans un monde gouverné par l’intelligence artificielle, les mathématiques peuvent expliquer pourquoi ce phénomène continue de se produire, à toutes les échelles, de la rue commerçante à la plateforme de streaming : tout système entraîné à minimiser l’erreur sera toujours attiré par la moyenne, car celle-ci est la prédiction la plus sûre quand on n’est pas tout à fait certain. 

Related