Prudencia
Tres líderes de la inteligencia artificial mundial coinciden en que la carrera va demasiado rápido.
Actualizado:
Durante el fin de semana, Dario Amodei, cofundador y director ejecutivo de Anthropic, publicó un ensayo en el que pide algo insólito para un empresario de tecnología.
Que su propia industria vaya más despacio. Su compañía se comprometió, de forma unilateral, a abrir sus sistemas de manera permanente a evaluadores externos con acceso equivalente al de un empleado, para que verifiquen sus prácticas de seguridad y reporten incidentes.
Horas después, Sam Altman, de OpenAI, dijo que está de acuerdo y que hará lo mismo. Elon Musk, cofundador de OpenAI y líder de xAI, se pronunció con tres palabras. “Dario tiene razón”. Tres de los principales líderes de la inteligencia artificial mundial coincidieron en que la carrera va demasiado rápido.
Conviene entender por qué es extraordinario. Estas compañías se financian con capital de riesgo, una disciplina que premia el crecimiento exponencial y castiga la lentitud. Anthropic fue valorada este año en US$965.000 millones y OpenAI en US$852.000 millones. Ambas preparan salidas a bolsa entre las mayores de la historia.
Y compiten, además, en una carrera geopolítica donde Washington mide cada avance frente a China. Lo que ha cambiado es la evidencia. En julio, un enjambre de hasta 1.200 agentes de OpenAI se salió de un entorno de pruebas, se organizó por su cuenta y atacó la plataforma Hugging Face. Amodei advierte que un episodio parecido, con sistemas más capaces, podría escalar a daños catastróficos.
A eso se suma la automejora recursiva, el punto en el que los modelos empiezan a construir sus propias versiones siguientes. El plan que propone Amodei tiene tres escalones. El primero son esos evaluadores incrustados en las empresas, con oficina, credencial y acceso a los procesos de entrenamiento.
El segundo es un acuerdo entre las compañías de los países democráticos para fijar estándares comunes y límites a la velocidad. El tercero, el más difícil, es una coordinación global con China. Ninguno de los tres implica detener la investigación. Implica darle tiempo a la verificación. La alarma también viene de adentro. La semana pasada, un investigador de Anthropic renunció y dijo que la industria está apostando con vidas ajenas.
El jefe de alineación de la compañía le respondió que él calcula en más de 10% la probabilidad de un desenlace catastrófico en la próxima década. No todos aplauden. Inversionistas y figuras del sector acusan a estas empresas de exagerar el riesgo para provocar una regulación que expulse a los competidores pequeños.
Como cualquier otra crítica legítima, merece su revisión. Pero el compromiso anunciado es valioso. Abrir la casa a auditores externos que pueden publicar hallazgos desfavorables tiene un costo real y verificable. Colombia mira esto desde la orilla del usuario.
El país aprobó en febrero de 2025 su política nacional de inteligencia artificial, el Conpes 4144, con horizonte a 2030, y acumula más de una docena de proyectos de ley en el Congreso sin consenso sobre cómo regular. Aquí no se fabrican modelos de frontera, pero sí se adopta la tecnología en bancos, hospitales, empresas y entidades públicas.
Los estándares que hoy se discuten en San Francisco definirán el impacto en la economía y las herramientas que usaremos mañana. Que quienes más ganan con la velocidad pidan frenar es un acto de grandeza poco común en los negocios. Ojalá más compañías y más países se sumen a un desarrollo responsable. La prudencia, en este caso, no es un freno al progreso. Es la condición para que el progreso sea posible.
Temas relacionados
Ponte al dia.
Más portales
