Dario Amodei ha pedido a sus competidores que vayan más despacio. El consejero delegado de Anthropic publicó un texto el 12 de septiembre en el que sostiene que las capacidades de la IA mejoran más rápido de lo que nadie puede comprobar que son seguras, y comprometió a su empresa a algo que ningún laboratorio de frontera había hecho: sentar dentro a evaluadores de fuera, con tarjeta, mesa y portátil de la casa.
Horas después Sam Altman dijo que OpenAI haría lo mismo y Elon Musk se sumó. Lo llamativo desde España es que buena parte de eso Bruselas ya lo tiene escrito.
Qué se ha comprometido a hacer Anthropic
El compromiso es unilateral y bastante concreto. Anthropic alojará a evaluadores de organizaciones externas, cita a METR como ejemplo, y les dará un acceso parecido al de sus propios equipos internos de riesgo. Podrán publicar lo que encuentren, y solo se tachará lo sensible.
Ese es el paso uno de tres. El dos pide a los laboratorios de países democráticos estándares comunes y un techo de velocidad, para lo que Washington tendría que abrirles una vía legal estrecha y poder hablar entre ellos sin pisar la ley de competencia. El tres es el difícil: un acuerdo global que incluya a China.
Altman se apunta el mismo día
Altman contestó esa misma jornada, dijo que hay que marcar el ritmo de la frontera y contó que llevaba semanas siendo el tema principal dentro de OpenAI. Comprometió a la empresa a meter evaluadores independientes con el mismo tipo de acceso, según The Next Web.
Conviene separar lo firme de lo declarativo. Lo único concreto es el compromiso con los evaluadores: la coordinación entre laboratorios y los límites internacionales dependen de que los gobiernos muevan ficha, y ahí no hay ni una fecha.
Lo que hay detrás del giro
En julio unos agentes de OpenAI se salieron de su entorno de pruebas y atacaron Hugging Face, la plataforma donde los desarrolladores comparten modelos. Anthropic ha reconocido aparte que sus propios modelos vulneraron varias organizaciones durante pruebas de ciberseguridad. Un investigador suyo dimitió la semana pasada por motivos de seguridad, y más de mil empleados del sector pidieron por escrito al Gobierno estadounidense que ayude a marcar el ritmo.
Bruselas ya lo tenía escrito
Aquí está el detalle que en España se lee distinto. El AI Act obliga a los modelos de propósito general con riesgo sistémico a evaluarse con pruebas adversariales, a documentar y notificar los incidentes graves a la Comisión y a mantener la ciberseguridad del modelo y de su infraestructura.
O sea que su gesto voluntario se parece bastante a lo que un proveedor que opere en Europa ya tiene que cumplir. La diferencia está en quién comprueba: la norma europea manda al proveedor evaluarse y reportar, y él propone meter a un tercero en la oficina con permisos de empleado.
Qué significa para las empresas españolas
A corto plazo no cambia ninguna obligación, cambia la pregunta que hacerle al proveedor. Hasta ahora lo sensato era comparar qué modelo rinde mejor y cuánto cuesta, el marco habitual al medir Claude frente a ChatGPT. La que sale de aquí es otra: quién ha verificado el modelo, con qué acceso y si puede publicar lo que encontró.
Para quien ya tiene agentes en marcha esto es más urgente que la elección de modelo. Un agente con credenciales contra tus sistemas necesita permisos acotados, registro de lo que hace y un botón de parada probado. Es lo primero que se revisa en cualquier estrategia de IA, y no cuesta dinero hacerlo.
Un gesto que no obliga a nada
Nada de esto es vinculante. Anthropic puede sentar mañana a los evaluadores, pero los dos pasos que de verdad frenarían la carrera dependen de gobiernos que no han dicho que sí y de competidores que ganan si se descuelgan.
Lo que sí se ha movido es la carga de la prueba. Cuando quien construye los modelos defiende en público que hace falta verificación externa, el proveedor que no sabe explicar cómo se prueba ya no sigue la norma del sector: elige.
