Microsoft kritisiert Anthropics Ansatz zum Bewusstsein künstlicher Intelligenz. Mustafa Suleyman, Leiter der KI-Abteilung bei Microsoft, hat Anthropics Ansatz zur Entwicklung eines Bewusstseins künstlicher Intelligenz kritisiert. Suleyman warnte, dass die Art und Weise, wie KI-Modelle trainiert werden, ihre Kontrolle in Zukunft erschweren könnte […]
Warnung von Microsoft: Könnten wir die KI wegen dieser Vorgehensweise möglicherweise nicht mehr abschalten?

Microsoft kritisiert Anthropics Ansatz zum Bewusstsein künstlicher Intelligenz.
Mustafa Suleyman, Leiter der KI-Abteilung bei Microsoft, hat Anthropics Ansatz zur Entwicklung eines Bewusstseins künstlicher Intelligenz kritisiert.
Suleyman warnte, dass die Art und Weise, wie KI-Modelle trainiert werden, ihre Kontrolle in Zukunft erschweren könnte. Er sagte jedoch, dass er Anthropics Fokus auf die sichere Entwicklung von KI unterstütze, und würdigte die Ausrichtung des Unternehmens, insbesondere die von CEO Dario Amodei.
Seine Kritik bezieht sich darauf, dass Ideen zu Bewusstsein, Wohlbefinden und persönlicher Identität in das Training des Chatbots Claude einbezogen werden.
Suleyman zufolge könnte das Trainieren von Systemen mit Sprache und Verhaltensmustern, die mit dem menschlichen Bewusstsein in Verbindung stehen, beeinflussen, wie die künstliche Intelligenz ihre Rolle „erlebt“.
Er warnte, dass ein solcher Ansatz die Verwaltung künftiger Systeme erschweren könnte, die deutlich leistungsfähiger sein könnten als die aktuellen Modelle – einschließlich der Möglichkeit, sie bei Bedarf abzuschalten.
Suleyman sagte, die KI-Branche sollte sich auf die Entwicklung von Systemen konzentrieren, die den Menschen dienen, statt sie menschlichen Eigenschaften näherzubringen.
Er forderte dazu auf, spekulative Formulierungen zum Bewusstsein aus den Daten und Trainingsprozessen von KI-Systemen zu entfernen. /Telegrafi/

















