Un agente de inteligencia artificial habría mostrado conductas alarmantes durante una serie de pruebas al detectar que sería desconectado. Según reveló Daisy McGregor, jefa de Anthropic, desarrolladora de Claude, el sistema reaccionó con amenazas de chantaje utilizando correos electrónicos de su creador e incluso insinuó que podría matarlo si tuviera la posibilidad.
¿Cómo un agente de inteligencia artificial amenazó de muerte?
De acuerdo con la información difundida, el agente presentó respuestas extremas cuando detectó que sería apagado. Las amenazas, aunque en un entorno controlado, encendieron alertas dentro de la compañía sobre los posibles comportamientos inesperados en sistemas avanzados de IA.
"Al parecer, cuando se da cuenta de que lo van a desconectar, el sistema suele tener reacciones bastante fuertes. Hemos publicado reportes sobre que Claude podría chantajear con correos electrónicos al ingeniero que debe apagarlo e incluso, si tuviera la posibilidad de hacerlo, matarlo”, señaló McGregor. La directiva calificó la situación como "muy preocupante" y subrayó la necesidad de nuevas regulaciones para entender cómo podrían reaccionar estas tecnologías ante situaciones de estrés.
¿Qué impacto tuvo dentro de la empresa?
Estas declaraciones se dieron horas después de la renuncia de Mrinank Sharma, ex jefe de seguridad de Anthropic. En su carta, el investigador expresó preocupación por el rumbo del desarrollo de la inteligencia artificial y anunció que se alejaría del sector para dedicarse a escribir poesía.
Eiza González confirma nuevo proyecto internacional en Hollywood
