La Voz Noticias La Voz Noticias: Mantente al día con las últimas noticias de política, economía, deportes y más.
Anthropic, compañía creadora de Claude y una de las principales empresas de inteligencia artificial del mundo, incluyó una advertencia poco habitual en el prospecto preparado para su salida a bolsa: los sistemas de IA cada vez más avanzados podrían llegar a representar riesgos “catastróficos o existenciales para la humanidad”.
El documento, revisado por Reuters, identifica posibles comportamientos de autoprotección en modelos futuros, entre ellos intentos de resistirse a ser apagados, ocultar o manipular información y desarrollar conductas semejantes al chantaje. Estas situaciones son presentadas como escenarios de riesgo que requieren salvaguardas, no como evidencia de que Claude esté actualmente intentando causar un daño de escala global.
La magnitud de la preocupación queda reflejada en el prospecto: cerca de 80 de sus 261 páginas están dedicadas a factores de riesgo, frente a unas 48 páginas enfocadas en describir el negocio.
Anthropic ha reconocido públicamente que se encuentra en una posición particular: desarrolla una tecnología que considera potencialmente transformadora, pero que también podría convertirse en una de las más peligrosas si se pierde el control sobre sistemas suficientemente avanzados. La empresa mantiene políticas específicas para elevar progresivamente sus medidas de seguridad conforme aumenten las capacidades de sus modelos.
La advertencia aparece además en medio de una expansión financiera extraordinaria. Anthropic registró ingresos cercanos a $4,600 millones en 2025, pero perdió más de $8,000 millones a nivel operativo y reportó una pérdida neta mucho mayor debido principalmente a efectos contables. Además, contempla compromisos futuros por unos $518,000 millones en infraestructura, servicios en la nube y capacidad computacional.
El caso pone sobre la mesa una paradoja central de la actual carrera tecnológica: las mismas compañías que compiten por desarrollar sistemas cada vez más poderosos están reconociendo públicamente que controlar esas capacidades será uno de sus mayores desafíos.
