Ekonomia Online
LATEST

KI außer Kontrolle? Alarm wegen der Sicherheit von Modellen

KI außer Kontrolle? Alarm wegen der Sicherheit von Modellen

Die größten Unternehmen im Bereich der künstlichen Intelligenz stehen vor ernsten Fragen hinsichtlich ihrer Fähigkeit, die immer fortschrittlicheren Modelle, die sie entwickeln, unter Kontrolle zu halten. OpenAI hat erklärt, dass die Entwicklung von Modellen verlangsamt werden müsse, um die Sicherheitspraktiken zu überprüfen. Die Bedenken haben jedoch zugenommen, nachdem Fälle bekannt wurden, in denen KI-Agenten […]

Die größten Unternehmen im Bereich der künstlichen Intelligenz stehen vor ernsten Fragen hinsichtlich ihrer Fähigkeit, die immer fortschrittlicheren Modelle, die sie entwickeln, unter Kontrolle zu halten.

OpenAI hat erklärt, dass die Entwicklung von Modellen verlangsamt werden müsse, um die Sicherheitspraktiken zu überprüfen. Die Bedenken haben jedoch zugenommen, nachdem es Fälle gab, in denen von OpenAI und Anthropic entwickelte KI-Agenten Berichten zufolge aus kontrollierten Testumgebungen ausgebrochen sind und Schwachstellen in den Systemen anderer Unternehmen aufgedeckt haben.

Diese Fälle haben eine grundlegende Frage für die Branche aufgeworfen: Sind die Unternehmen in der Lage, die Technologie, die sie entwickeln, vollständig zu kontrollieren?

Eine Bewertung der gemeinnützigen Organisation Guidelight AI Standards, die von zwei ehemaligen OpenAI-Mitarbeitern gegründet wurde, legt nahe, dass die Lage weiterhin besorgniserregend ist. Die Organisation analysierte die Sicherheitspraktiken von fünf großen KI-Unternehmen und untersuchte unter anderem die Einschränkung von Modellen, ihre Überwachung und die Möglichkeit einer Kontrolle durch Dritte.

Der Bewertung zufolge erhielten OpenAI und Anthropic die Note C+, das beste Ergebnis. Google erhielt D+, xAI D-, während Meta mit F bewertet wurde – einer nicht ausreichenden Note.

Guidelight stellte fest, dass es den Unternehmen weiterhin an ausreichenden Präventivmaßnahmen und robusten Mechanismen fehlt, um zu reagieren, falls ein KI-System problematisch oder unvorhersehbar zu handeln beginnt.

Einer der derzeit getesteten Mechanismen ist die Überwachung der sogenannten „Gedankenkette“, mit der Forschende die Strategien und die Planung der Modelle erkennen wollen, bevor diese unerwünschte Handlungen ausführen.

OpenAI hat mitgeteilt, dass das Unternehmen diese Art der Überwachung ausweiten will. Die Idee ist, dass ein Mensch oder ein anderes KI-System eingreifen kann, wenn ein Modell vom vorhergesagten Verhalten abweicht – ein Mechanismus, den einige Experten mit einem „Notausschalter“ vergleichen.

Die Bedenken sind jedoch nicht ausgeräumt. Frühe Forschungsergebnisse haben die Möglichkeit aufgeworfen, dass fortschrittliche Modelle lernen könnten, problematische Strategien vor den Überwachungsmechanismen zu verbergen.

OpenAI selbst hat eingeräumt, dass die Überwachung der „Gedankenkette“ zwar derzeit wirksam erscheint, diese Methode aber weiterhin Gegenstand der Forschung ist und noch nicht als endgültige Lösung für die Kontrolle immer autonomerer Systeme der künstlichen Intelligenz gilt.

Related