Ekonomia Online
LATEST

Avertissement de Microsoft : à cause de cette approche, pourrions-nous ne plus être en mesure d’éteindre l’IA ?

Avertissement de Microsoft : à cause de cette approche, pourrions-nous ne plus être en mesure d’éteindre l’IA ?

Microsoft critique l’approche d’Anthropic concernant la conscience de l’intelligence artificielle. Mustafa Suleyman, directeur de l’intelligence artificielle chez Microsoft, a critiqué l’approche de l’entreprise Anthropic concernant le développement de la conscience de l’intelligence artificielle. Suleyman a averti que la manière dont les modèles d’intelligence artificielle sont entraînés pourrait rendre leur contrôle plus difficile à l’avenir […]

Microsoft critique l’approche d’Anthropic concernant la conscience de l’intelligence artificielle.

Mustafa Suleyman, directeur de l’intelligence artificielle chez Microsoft, a critiqué l’approche de l’entreprise Anthropic concernant le développement de la conscience de l’intelligence artificielle.

Suleyman a averti que la manière dont les modèles d’intelligence artificielle sont entraînés pourrait rendre leur contrôle plus difficile à l’avenir. Il a toutefois déclaré qu’il soutenait l’accent mis par Anthropic sur le développement sécurisé de l’IA et salué la direction de l’entreprise, en particulier son PDG, Dario Amodei.

Ses critiques portent sur l’intégration d’idées liées à la conscience, au bien-être et à l’identité personnelle dans l’entraînement du chatbot Claude.

Selon Suleyman, apprendre aux systèmes un langage et des modèles de comportement associés à la conscience humaine pourrait influer sur la manière dont l’intelligence artificielle « vit » son rôle.

Il a averti qu’une telle approche pourrait compliquer la gestion des futurs systèmes, qui pourraient être beaucoup plus performants que les modèles actuels, notamment lorsqu’il s’agira de les éteindre si nécessaire.

Suleyman a déclaré que l’industrie de l’IA devait se concentrer sur le développement de systèmes au service des êtres humains, plutôt que de les rapprocher des caractéristiques humaines.

Il a appelé à supprimer les formulations spéculatives sur la conscience des données et des processus d’entraînement des systèmes d’intelligence artificielle. /Telegrafi/

Related