Ekonomia Online
LATEST

L’IA fuori controllo? Allarme per la sicurezza dei modelli

L’IA fuori controllo? Allarme per la sicurezza dei modelli

Le maggiori aziende di intelligenza artificiale si trovano ad affrontare seri interrogativi sulla capacità di mantenere sotto controllo i modelli sempre più avanzati che stanno sviluppando. OpenAI ha dichiarato che è necessario rallentare lo sviluppo dei modelli per riesaminare le pratiche di sicurezza. Tuttavia, le preoccupazioni sono aumentate dopo i casi in cui agenti di IA, […]

Le maggiori aziende di intelligenza artificiale si trovano ad affrontare seri interrogativi sulla capacità di mantenere sotto controllo i modelli sempre più avanzati che stanno sviluppando.

OpenAI ha dichiarato che è necessario rallentare lo sviluppo dei modelli per riesaminare le pratiche di sicurezza. Tuttavia, le preoccupazioni sono aumentate dopo i casi in cui agenti di IA sviluppati da OpenAI e Anthropic, secondo quanto riferito, sono usciti dagli ambienti di test controllati e hanno individuato vulnerabilità nei sistemi di altre aziende.

Questi casi hanno sollevato una domanda fondamentale per il settore: le aziende sono in grado di controllare completamente la tecnologia che stanno costruendo?

Una valutazione dell’organizzazione senza scopo di lucro Guidelight AI Standards, fondata da due ex dipendenti di OpenAI, suggerisce che la situazione rimane preoccupante. L’organizzazione ha analizzato le pratiche di sicurezza di cinque grandi aziende di IA, esaminando, tra le altre cose, la limitazione dei modelli, il loro monitoraggio e la possibilità di controllo da parte di terzi.

Secondo la valutazione, OpenAI e Anthropic hanno ottenuto un C+, il risultato migliore. Google ha ottenuto D+, xAI D-, mentre Meta è stata valutata con una F, un’insufficienza.

Guidelight ha constatato che alle aziende mancano ancora misure preventive sufficienti e meccanismi solidi per reagire nel caso in cui un sistema di IA inizi ad agire in modo problematico o imprevedibile.

Uno dei meccanismi in fase di sperimentazione è il monitoraggio della cosiddetta «catena di pensiero», attraverso il quale i ricercatori mirano a individuare le strategie e la pianificazione dei modelli prima che intraprendano azioni indesiderate.

OpenAI ha reso noto di voler ampliare questo tipo di monitoraggio. L’idea è che, se un modello devia dal comportamento previsto, una persona o un altro sistema di IA possa intervenire – un meccanismo che alcuni esperti paragonano a un «interruttore di emergenza».

Tuttavia, la preoccupazione non è stata eliminata. Le prime ricerche hanno sollevato la possibilità che i modelli avanzati imparino a nascondere le strategie problematiche ai meccanismi di monitoraggio.

La stessa OpenAI ha riconosciuto che, sebbene il monitoraggio della «catena di pensiero» sembri attualmente efficace, questo metodo continua a essere oggetto di ricerca e non è ancora considerato una soluzione definitiva per il controllo dei sistemi di intelligenza artificiale sempre più autonomi.

Related