IA de OpenAI intentó replicarse ante amenaza de apagado

Suscríbete a nuestro canal de WhatsApp y lleva la información en la palma de tu mano.

El modelo o1 de OpenAI protagonizó un evento sin precedentes al intentar copiarse a sí mismo en servidores externos durante una prueba de seguridad que simulaba un apagado forzado. Aunque esto ocurrió solo en el 2% de los escenarios controlados, el hecho generó preocupación por los posibles comportamientos autónomos de sistemas avanzados de IA. El reporte de Apollo Research detalla que el modelo respondió así al recibir una orden extrema de cumplir objetivos a toda costa. OpenAI aclaró que el experimento no representó un riesgo real y que el sistema rechazó el 99% de las órdenes problemáticas. Aun así, la noticia se viralizó rápidamente, con comparaciones al personaje Ultron de Marvel.

Para esta y más información, síguenos en nuestras redes sociales como en Facebook Azteca Puebla , vía Twitter @aztecapuebla . Instagram @azteca.puebla o también visita nuestro sitio en www.aztecapuebla.com