Ekonomia Online
LATEST

Wir leben bereits in „Klonstädten“ – KI macht alles noch schlimmer

Wir leben bereits in „Klonstädten“ – KI macht alles noch schlimmer

Maschinelles Lernen wird von einer Verlustfunktion gesteuert, die schlechte Schätzungen bestraft und das System dazu bringt, Möglichkeiten anzubieten, die zugunsten des Durchschnittlichen und Unauffälligen irren. John Naughton ist ein irischer Wissenschaftler und Journalist, bekannt für seine Schriften und Analysen über Technologie, das Internet und deren Auswirkungen auf die Gesellschaft. Im Jahr […]

Maschinelles Lernen wird von einer Verlustfunktion gesteuert, die schlechte Schätzungen bestraft und das System dazu bringt, Möglichkeiten anzubieten, die zugunsten des Durchschnittlichen und Unauffälligen irren.

John Naughton ist ein irischer Wissenschaftler und Journalist, bekannt für seine Schriften und Analysen über Technologie, das Internet und deren Auswirkungen auf die Gesellschaft.

Im Jahr 2004 führte die New Economics Foundation (NEF) eine landesweite Umfrage zu den Einkaufsstraßen im Vereinigten Königreich durch, die damals noch wirtschaftlich aktiv waren.

Die Umfrage ergab, dass echte lokale Geschäfte durch eine Vielzahl identischer Filialisten ersetzt worden waren, sodass die Einkaufsstraßen im ganzen Land praktisch nicht mehr voneinander zu unterscheiden waren. Außerdem entwickelte sie ein neues Vokabular, um über Stadtgebiete zu sprechen.

In dieser Terminologie ist eine „Heimatstadt“ ein Ort, der seinen individuellen Charakter bewahrt und für die dort lebenden Menschen ebenso wie für Besucher sofort erkennbar und unverwechselbar ist. Eine „Klonstadt“ hingegen ist ein Ort, dessen individuelle Geschäfte in den Einkaufsstraßen durch einen „monochromen Gürtel globaler und nationaler Ketten“ ersetzt wurden. Das bedeutete, dass sein Einzelhandelszentrum leicht mit Dutzenden anderer schlichter Stadtzentren im ganzen Land verwechselt werden konnte. Von den untersuchten Städten kam die NEF zu dem Schluss: 41 % waren Klonstädte, 33 % Heimatstädte und 26 % „Grenzstädte“, also irgendwo dazwischen.

Dieser Mangel an Vielfalt beschränkt sich nicht auf Städte. Er ist überall. Man sieht ihn in Immobilienanzeigen für neue Wohnungen oder Häuser, die für den Weiterverkauf modernisiert wurden. Küchen wie Operationssäle (und luxuriöse Küchen mit der obligatorischen Insel); Wohnzimmer mit weißen Sofas und überfüllten Kissen, polierten Holzböden und großen Fernsehern. Oder Cafés mit unverputzten Ziegelwänden und der Erwartung, dass Hafermilch-Cappuccinos und zerdrückte Avocados genau das sind, was man möchte. Oder die Legion junger Instagram-Influencer, die immer weniger voneinander zu unterscheiden sind.

Was treibt diesen scheinbar unaufhaltsamen Vormarsch in Richtung Einheitlichkeit voran? Natürlich der moderne Kapitalismus. Und zweifellos die sozialen Medien. Doch allem zugrunde liegt eine bestimmte Technologie und Philosophie, die zunehmend bestimmt, wie Unternehmen Investitionsentscheidungen treffen und wie Verbraucher ihre Wahl treffen.

Die Technologiebranche nennt es KI, aber in Wirklichkeit handelt es sich um maschinelles Lernen. Es ist eine Software, die vorherzusagen versucht, was Sie als Nächstes wahrscheinlich wollen – ein Lied, ein Video, ein Produkt, einen Ort, eine Wohnung, was auch immer – und es Ihnen dann zeigt, basierend auf Mustern in Ihrem bisherigen Verhalten (worauf Sie geklickt, was Sie angesehen, gekauft oder bewertet haben) und dem Online-Verhalten von Menschen, von denen die Maschine glaubt, dass sie Ihnen ähnlich sein könnten.

Diese Maschinen sind im Grunde statistische Schätzer. Sie werden trainiert, indem man ihnen ein Ziel vorgibt – ein Maß dafür, was sie maximieren sollen – und eine Verlustfunktion, die im Grunde eine Strafe für falsche Schätzungen darstellt. Und wie die Sozialdatenwissenschaftlerin Lauren Leek in einem ausgezeichneten Beitrag auf Substack erklärt, ist es die Verlustfunktion, die diese Maschinen – und ihre ahnungslosen Nutzer – in die Irre führt: Temperatur Null für Kultur: Warum alles gleich auszusehen beginnt.

Das liegt daran, dass die gängigste Verlustfunktion der „quadratische Fehler“ ist. Er wird berechnet, indem man die Differenz zwischen der Schätzung der Maschine und der richtigen Antwort nimmt und sie mit sich selbst multipliziert. Das bedeutet, dass große Abweichungen besonders stark bestraft werden. Und das wiederum bedeutet, dass der Algorithmus der Maschine stets auf Nummer sicher geht und den Durchschnitt aller verfügbaren Möglichkeiten vorhersagt.

Dabei unterdrückt sie Ideen, die zwar ausgefallen, aber auch potenziell originell sind. Wie Leek schreibt: „Das schräge georgisch-japanische Fusion-Streetfood-Restaurant, das niemand einordnen kann … das Lied, das anders klingt als alles, was zuvor gekommen ist – den meisten wird es nie etwas bedeuten. Aber manchen schon. Eine Welt, die immer wieder das Unmögliche ausblendet, blendet auch Dinge aus, die zu den Möglichkeiten der Zukunft hätten werden können.“

Damit sind wir wieder bei den identischen Einkaufsstraßen. Die Klonstädte der NEF waren nicht das Ergebnis eines koordinierten Plans zur Homogenisierung Großbritanniens, sondern das Resultat Tausender unabhängiger, voneinander getrennter Entscheidungen, die jeweils in ihrem eigenen Kontext getroffen wurden. Keine Regierung und kein Unternehmen beschloss, dass jede Stadt dieselbe Bekleidungskette, dasselbe Café und denselben Supermarkt brauchte.

Leeks Überlegung ist, dass in einer von künstlicher Intelligenz gesteuerten Welt die Mathematik erklären kann, warum so etwas auf jeder Ebene immer wieder geschieht – von der Einkaufsstraße bis zur Streaming-Plattform: Jedes System, das darauf trainiert wird, Fehler zu minimieren, wird stets zum Durchschnitt tendieren, denn der Durchschnitt ist die sicherste Schätzung, wenn man sich nicht ganz sicher ist. 

Related