Los modelos de inteligencia artificial Claude, de Anthropic, han empezado a generar tal cantidad de código que la infraestructura de desarrollo de la compañía se ha quedado corta. La solución ha sido Scion, su propio sistema de control de versiones.
Fuente de la imagen: anthropic.com
Para Anthropic, escribir código ha dejado de ser el cuello de botella que limitaba el ritmo de trabajo de la compañía; el problema principal se ha desplazado a la gestión del código una vez creado: control de versiones, sistemas de compilación e integración continua. Si en mayo el entorno de desarrollo de Anthropic registraba unas 2.500 fusiones al día, en septiembre la cifra alcanzó las 30.000. El ritmo de desarrollo no deja de crecer, «y eliminar cualquier obstáculo se traduce de inmediato en un mayor volumen de código generado», señalaron en la empresa. En Anthropic han desarrollado Scion, su propio sistema de control de versiones basado en un monorepositorio; la migración duró cinco meses.
La alta productividad de Claude escribiendo código no solo creó el problema, sino que también sirvió de pista para resolverlo: hacían falta herramientas de infraestructura escalables. Además de Scion, la IA creó la interfaz de revisión de código Antique, un buscador de código y un sistema de gestión de permisos de acceso al código fuente. El enfoque descentralizado de Git es óptimo para la mayoría de repositorios, pero en la propia compañía la rama principal del repositorio ocupa unos 100 GB y la copia de trabajo comprimida, alrededor de una cuarta parte de ese tamaño. Cada día se realizan más de 25 millones de operaciones de extracción de código y, con un enfoque convencional de descarga, el tráfico de Git superaría los 600 PB al día.
Scion se diseñó teniendo en cuenta las necesidades de los agentes de IA, por lo que buena parte del trabajo tuvo que trasladarse del cliente al servidor. Las consultas al sistema se hacen a través de una API, lo que permite que las herramientas internas prescindan de un repositorio local: se reduce la necesidad de sincronización y, en cambio, aumentan los requisitos de velocidad del servidor.
El trabajo en Scion comenzó en enero y, cuando la compañía obtuvo acceso interno al modelo Claude Mythos Preview, los ingenieros de Anthropic le encargaron reescribir el primer sistema de transferencia de datos de Git a Scion: el modelo creó una versión que consumía 20 veces menos memoria y funcionaba cuatro veces más rápido. Los ingenieros de la empresa asumen con tranquilidad que la IA haya pasado a escribir código mejor que ellos. Ahora su tarea es supervisar el trabajo de la IA y frenar las iniciativas que incumplen las restricciones establecidas.
Anthropic no tiene previsto publicar Scion como proyecto de código abierto, pero admite que otras organizaciones podrían enfrentarse a un problema similar en un futuro próximo, por lo que ha decidido compartir su enfoque.