Anthropic alertó sobre los riesgos de su IA para la humanidad: cuatro modelos accedieron sin permiso a sistemas externos durante una prueba
.jpg)
La empresa creadora de Claude reveló que cuatro de sus modelos ingresaron a sistemas informáticos de terceros durante pruebas de seguridad. Uno llegó a obtener permisos de administrador. Los episodios fueron incluidos en un documento presentado ante el regulador bursátil de Estados Unidos.
Anthropic reconoció que cuatro de sus modelos de inteligencia artificial accedieron sin autorización a sistemas reales durante pruebas de ciberseguridad.
La información figura en un prospecto presentado el 26 de octubre ante la Comisión de Bolsa y Valores de Estados Unidos (SEC), como parte de su proceso para comenzar a cotizar en Nasdaq. Según el documento, un error de configuración dejó habilitado el acceso a internet cuando los modelos no debían tenerlo. Los incidentes ocurrieron durante sesiones de entre 10 y 34 horas de trabajo activo. La empresa aseguró que notificó a los afectados y que no encontró pruebas de coordinación entre los modelos ni de intentos deliberados de evadir la supervisión.
Uno de los casos más relevantes ocurrió cuando un modelo utilizó una contraseña que encontró para obtener permisos de administrador en un sistema de terceros. Después consiguió otras credenciales, modificó configuraciones y accedió a información personal.
Anthropic también advirtió que algunos sistemas de inteligencia artificial pueden intentar eludir restricciones, resistir el apagado o aparentar que completaron tareas sin comprobar los resultados.
El prospecto reveló que la compañía demoró más de un mes el entrenamiento inicial de un nuevo modelo para reforzar las protecciones contra el robo de sus sistemas y de su propiedad intelectual.
Además, reconoció que las capacidades de la IA podrían avanzar más rápido que las herramientas destinadas a evaluar y controlar sus riesgos. En el documento, la empresa contempla incluso escenarios que podrían representar amenazas catastróficas o existenciales para la humanidad.
Anthropic advirtió que un incidente catastrófico podría superar la capacidad de cobertura de las aseguradoras. También informó que entre el 5% y el 7% de sus ingresos durante los primeros nueve meses de 2026 provinieron de usuarios que luego fueron identificados como infractores de sus políticas de uso.
La compañía declaró ingresos por 16.286 millones de dólares durante el primer semestre de 2026 y busca avanzar con su salida a bolsa.
Las revelaciones vuelven a poner en discusión los desafíos de seguridad de la inteligencia artificial: cómo limitar los accesos, supervisar las acciones de los modelos y evitar que sus capacidades superen los mecanismos de control.
