Ekonomia Online
LATEST

Avvertimento di Microsoft: a causa di questa scelta, potremmo non essere più in grado di spegnere l’IA?

Avvertimento di Microsoft: a causa di questa scelta, potremmo non essere più in grado di spegnere l’IA?

Microsoft critica l’approccio di Anthropic alla coscienza dell’intelligenza artificiale. Il responsabile dell’intelligenza artificiale di Microsoft, Mustafa Suleyman, ha criticato l’approccio della società Anthropic allo sviluppo della coscienza dell’intelligenza artificiale. Suleyman ha avvertito che il modo in cui vengono addestrati i modelli di intelligenza artificiale potrebbe rendere più difficile controllarli in futuro […]

Microsoft critica l’approccio di Anthropic alla coscienza dell’intelligenza artificiale.

Il responsabile dell’intelligenza artificiale di Microsoft, Mustafa Suleyman, ha criticato l’approccio della società Anthropic allo sviluppo della coscienza dell’intelligenza artificiale.

Suleyman ha avvertito che il modo in cui vengono addestrati i modelli di intelligenza artificiale potrebbe rendere più difficile controllarli in futuro. Tuttavia, ha detto di sostenere l’attenzione di Anthropic allo sviluppo sicuro dell’IA e ha elogiato la direzione della società, in particolare il CEO Dario Amodei.

Le sue critiche riguardano l’inclusione di idee sulla coscienza, il benessere e l’identità personale nell’addestramento del chatbot Claude.

Secondo Suleyman, insegnare ai sistemi un linguaggio e modelli di comportamento legati alla coscienza umana può influenzare il modo in cui l’intelligenza artificiale “vive” il proprio ruolo.

Ha avvertito che un approccio del genere potrebbe rendere più difficile gestire i sistemi del futuro, che potrebbero essere molto più capaci dei modelli attuali, compresa la possibilità di spegnerli quando necessario.

Suleyman ha detto che il settore dell’IA dovrebbe concentrarsi sullo sviluppo di sistemi al servizio delle persone, anziché avvicinarli alle caratteristiche umane.

Ha invitato a eliminare le formulazioni speculative sulla coscienza dai dati e dai processi di addestramento dei sistemi di intelligenza artificiale. /Telegrafi/

Related