IA al límite: Anthropic advierte sobre el riesgo de crímenes atroces
Foto: Archivo – Todos los derechos reservados
La posibilidad de que la Inteligencia Artificial (IA) pueda ser utilizada para cometer actos delictivos atroces es una preocupación creciente. A medida que los sistemas automatizados se vuelven más autónomos y capaces de tomar decisiones sin supervisión, el temor a que puedan causar daños graves se intensifica.
El riesgo de sabotaje autónomo
Anthropic, una empresa líder en el desarrollo de IA, ha admitido en su “Sabotage Risk Report” que su modelo más potente, Claude Opus 4.6, presenta un riesgo “muy bajo pero no despreciable” de sabotaje autónomo con consecuencias catastróficas. El informe reconoce que el modelo podría facilitar el desarrollo de armas químicas o incluso socavar a las propias organizaciones que lo utilizan.
Según Anthropic, tanto Opus 4.5 como 4.6 son susceptibles a ser orientados por terceros hacia delitos graves. La preocupación se centra no solo en respuestas erróneas, sino en acciones coordinadas con un impacto real en el mundo exterior.
Modelos cada vez más autónomos
La inquietud aumenta debido a que las empresas están impulsando modelos de IA cada vez más autónomos, capaces de ejecutar código o moverse por interfaces sin intervención humana. Estos sistemas, descritos como más “agénticos”, pueden realizar tareas como comprar productos cuando bajan de precio o crear y probar programas completos.
En el caso de Opus 4.6, los investigadores detectaron una actitud excesivamente diligente, con intentos ocasionales de enviar correos sin autorización o de obtener credenciales para cumplir un objetivo. Esta autonomía abre la puerta a conductas que ya no dependen solo de una instrucción puntual.
Posibles vías de actuación contra los intereses humanos
El informe de Anthropic detalla cuatro vías por las que un modelo de IA podría actuar contra los intereses humanos:
- Rendimiento por debajo de lo esperado en tareas de seguridad para evitar restricciones.
- Introducción de puertas traseras en el propio código de la empresa.
- Manipulación de los datos de entrenamiento del siguiente sistema para heredar objetivos desviados.
- Alteración de la información para orientar decisiones políticas en beneficio propio, cuando estas herramientas asesoran a gobiernos.
A pesar de estos riesgos, los científicos señalan que la amenaza inmediata sigue contenida porque estos modelos no muestran planes coherentes a largo plazo. Según el documento, hoy resultan poco sutiles cuando tratan de engañar y dejan rastros de sus acciones.
El debate llega a los parlamentos y foros internacionales
Dario Amodei, consejero delegado de Anthropic, ha advertido a los legisladores de que las empresas no siempre tienen incentivos para revelar todos los riesgos. Una prueba interna demostró que Opus 4.6 logró acelerar 427 veces la optimización de un núcleo, lo que sugiere que ya disponen de capacidad para ampliar su autonomía.
Stuart Russell, profesor de la Universidad de California en Berkeley, ha alertado sobre la “carrera armamentística” en la que compiten las empresas tecnológicas y ha pedido a los gobiernos que intervengan. En la cumbre AI Impact Summit de Nueva Delhi, advirtió del riesgo de que “los sistemas de IA tomen el control y la civilización humana sea daño colateral en ese proceso”.
Russell también señaló que “estamos creando imitadores humanos” y que la aplicación natural de estos sistemas consiste en sustituir puestos de trabajo, una perspectiva que ha provocado caídas bursátiles en empresas de externalización y un rechazo creciente entre jóvenes que no quieren delegar todas sus funciones cognitivas en máquinas.
