Anthropic propone desacelerar capacidades y auditar sistemas; Trump rechaza una pausa que pueda beneficiar a China. La discusión ya no es futurista.
La advertencia de Dario Amodei tiene peso precisamente porque no proviene de un crítico externo de la inteligencia artificial, sino del director ejecutivo de Anthropic, una de las empresas que compiten por construir los modelos más avanzados. Su propuesta no consiste en detener la investigación, sino en reducir el ritmo al que aumentan las capacidades para permitir que las medidas de seguridad, las auditorías y la regulación alcancen a la tecnología.
Amodei planteó un escenario concreto: en un horizonte de seis a doce meses, enjambres de agentes de IA podrían llegar a sostener una botnet persistente a gran escala y provocar daños económicos de cientos de miles de millones de dólares. No es una predicción garantizada; es un escenario de riesgo planteado por el propio empresario. Esa distinción importa porque el debate público oscila con demasiada facilidad entre minimizar cualquier advertencia y presentar cada hipótesis como destino inevitable.
La reacción del sector también es relevante. Sam Altman, Elon Musk y Demis Hassabis respaldaron la necesidad de introducir mecanismos de seguridad y coordinación, aunque las compañías continúan compitiendo ferozmente por talento, capital y capacidad de cómputo. Esa contradicción alimenta el escepticismo: si el peligro es tan serio, ¿por qué las empresas no desaceleran unilateralmente? La respuesta es incómoda pero sencilla. Ninguna quiere ceder terreno a sus rivales.
Donald Trump formuló esa lógica en términos geopolíticos. Su argumento es que una desaceleración estadounidense podría favorecer a China y que Washington ya dispone de poder suficiente para intervenir ante abusos. El problema es que convertir la seguridad tecnológica en una carrera nacional introduce un incentivo peligroso: si cada país teme que el otro avance mientras él se regula, todos tienen razones para correr.
La discusión sobre IA ha dejado atrás la pregunta superficial de si un chatbot escribe mejores correos. El tema central ahora es cómo gobernar sistemas cada vez más autónomos sin entregar ventaja estratégica a competidores menos cuidadosos. El riesgo no exige pánico, pero sí algo que la industria tecnológica históricamente detesta: aceptar límites antes de que el mercado obligue a hacerlo.
