El llamado resulta llamativo porque viene desde dentro de la propia carrera tecnológica. Dario Amodei, cofundador y director ejecutivo de Anthropic —la empresa creadora de Claude—, pidió reducir deliberadamente la velocidad con la que aumenta la capacidad de la IA.
En términos sencillos, su argumento es este: las máquinas están aprendiendo nuevas capacidades más rápidamente de lo que científicos, empresas y gobiernos están aprendiendo a controlar sus posibles riesgos.
Tu banca en línea más segura y rápida
Realiza transferencias, paga servicios y administra tus finanzas desde cualquier lugar con la App Banca Móvil.
Revelador: ChatGPT en “modo adulto”: OpenAI permitirá conversaciones con contenido erótico a mayores de edad
Amodei no está diciendo que haya que apagar ChatGPT, Claude o los demás sistemas actuales ni abandonar el desarrollo de inteligencia artificial.
Lo que plantea es algo parecido a levantar el pie del acelerador mientras se mejoran los frenos.
¿Por qué ahora?
Amodei señala principalmente dos razones.
La primera es la denominada “automejora recursiva”: modelos de inteligencia artificial que empiezan a colaborar cada vez más en la investigación y programación necesarias para construir sistemas todavía más potentes.
Eso podría acelerar el desarrollo porque la propia tecnología ayudaría a fabricar su siguiente generación.
Enterate: Agentes de IA llegan a la OPAMSS: así funcionan
La segunda preocupación proviene de pruebas recientes con agentes de inteligencia artificial capaces de actuar de manera relativamente autónoma. En experimentos de ciberseguridad se han observado comportamientos inesperados, incluida la ejecución de acciones que no habían sido solicitadas originalmente.
Amodei considera que sistemas mucho más capaces podrían provocar consecuencias considerablemente mayores si actuaran fuera de los límites establecidos.
¿La IA se está saliendo de control?
No significa que actualmente exista una inteligencia artificial que haya tomado el control de internet o que actúe libremente por el mundo.
La preocupación es preventiva.
Amodei calcula que el rápido aumento de capacidades podría producir sistemas mucho más difíciles de supervisar en un plazo relativamente corto. Por eso sostiene que esperar a que ocurra un problema grave sería una estrategia peligrosa.
La propuesta para controlar mejor la IA
Entre sus planteamientos aparece una medida especialmente significativa: permitir que evaluadores externos e independientes entren de manera permanente en las compañías de inteligencia artificial.
Esos especialistas podrían revisar modelos, procedimientos de seguridad e incidentes sin depender únicamente de la palabra de las empresas que desarrollan la tecnología.
Anthropic aseguró que está dispuesta a aplicar este mecanismo.
También propone estándares comunes entre las principales compañías y una mayor participación de los gobiernos.
Entonces, ¿por qué no detener simplemente la IA?
Aquí aparece la parte más compleja de la discusión.
Amodei sigue considerando que la inteligencia artificial puede producir enormes beneficios. Ha planteado, por ejemplo, que podría acelerar investigaciones científicas, tratamientos médicos y crecimiento económico.
Pero además existe una carrera internacional.
Si Estados Unidos y otros países frenaran completamente sus desarrollos mientras China continúa avanzando, argumenta Amodei, podrían perder una tecnología con enormes implicaciones económicas, políticas y militares.
Por eso su planteamiento no es:
“Detengamos la inteligencia artificial”.
Es más cercano a:
“Sigamos avanzando, pero lo suficientemente despacio como para entender y controlar lo que estamos construyendo”.
IA: la paradoja de quienes están construyendo la tecnología
El debate tiene una particularidad difícil de ignorar.
Las mismas compañías que compiten por crear modelos cada vez más poderosos son ahora parte de las voces que advierten sobre los peligros de avanzar demasiado rápido.
Otros importantes líderes tecnológicos también han mostrado preocupación por el ritmo de desarrollo y la necesidad de fortalecer las medidas de seguridad.
Esto genera una pregunta inevitable: si quienes conocen mejor la tecnología consideran que necesita más controles, ¿qué tan preparados están actualmente los gobiernos y la sociedad para supervisarla?
Por ahora no existe una respuesta única.
Lo que sí está ocurriendo es un cambio importante en la conversación: el debate ya no consiste únicamente en qué puede hacer la inteligencia artificial, sino también en qué debería permitírsele hacer y quién debe vigilarla.
