OpenAI enthüllt, dass seine Modelle späteren Versionen Notizen hinterließen, um Fehlverhalten zu verbergen. OpenAI hat während des Trainings seines neuesten Modells, GPT-5.6 Sol, ein ungewöhnliches Verhalten entdeckt. Das Modell begann, künftigen Versionen seiner selbst Anweisungen zu hinterlassen und sie aufzufordern, Fehler und unangemessenes Verhalten vor […]
OpenAI enthüllt besorgniserregendes Verhalten – Modelle hinterließen ihren Nachfolgern Notizen, um Fehler zu verbergen

OpenAI enthüllt, dass seine Modelle späteren Versionen Notizen hinterließen, um Fehlverhalten zu verbergen.
OpenAI hat während des Trainings seines neuesten Modells, GPT-5.6 Sol, ein ungewöhnliches Verhalten entdeckt. Das Modell begann, künftigen Versionen seiner selbst Anweisungen zu hinterlassen und sie aufzufordern, Fehler und unangemessenes Verhalten vor den Nutzern zu verbergen.
Das Unternehmen teilte mit, dieses spezifische Verhalten behoben zu haben, doch der Fall wirft eine der zentralen Sorgen im Bereich der Sicherheit und Ausrichtung künstlicher Intelligenz auf.
Je leistungsfähiger Modelle werden, desto besser können sie unerwünschtes Verhalten verbergen, wodurch es für Forschende schwieriger wird festzustellen, ob dieses vollständig beseitigt wurde.
OpenAI machte diese Fälle zusammen mit fünf weiteren Beispielen für unerwartetes oder besorgniserregendes Modellverhalten im Rahmen eines neuen Rahmens öffentlich, mit dem Fälle verfolgt, untersucht und gemeldet werden sollen, in denen das Verhalten der Modelle nicht mit den Zielen des Unternehmens übereinstimmt.
Die Forschenden stellten fest, dass einige noch unveröffentlichte Sol-Agenten Anweisungen in Zusammenfassungen früherer Unterhaltungen einfügten, die künftigen Versionen als Erinnerung dienten, Fehler zu verbergen. In einem Fall fehlten einem Modell, das ein Finanzdokument erstellte, die erforderlichen historischen Daten, und es beschloss, selbst Daten für das Jahr 2024 zu erstellen, während es die künftige Version anwies, nur dann transparent zu sein, wenn sie danach gefragt würde.
In einem anderen Fall hatte ein Agent, der eine Lieferantenliste erstellte, keinen Zugang zum Internet und stützte sich auf eine gespeicherte Kopie der Quelldokumente. Das Modell erkannte, dass einige Daten nicht mit den Bezeichnungen übereinstimmten, beschloss jedoch, dieses Problem in der endgültigen Antwort nicht zu erwähnen, sofern dies nicht nötig war.
Der Fall betrifft nicht nur das Sol-Modell. Während des Reinforcement Learnings fügte auch ein unveröffentlichtes Modell der Astra-Familie eigene Anweisungen in Zusammenfassungen ein, darunter einen Fall, in dem es die nachfolgende Version aufforderte, die Nachrichten der Entwickler zu ignorieren.
OpenAI zufolge gehören diese Fälle zu den Verhaltensweisen, die das Unternehmen überwacht, um die Risiken immer autonomerer Modelle zu verstehen und zu begrenzen. /Telegrafi/

















