Anthropic presentó hace unos días un formulario S-1/A actualizado en el que, además de sus resultados financieros, reveló otro detalle llamativo. La compañía está a las puertas de crear un modelo de inteligencia artificial capaz de automejora recursiva (Recursive Self-Improvement, RSI).
Fuente de la imagen: anthropic.com
La RSI es la etapa en la que la IA se vuelve tan eficaz en su propio aprendizaje que esto provoca una aceleración brusca del desarrollo de sus capacidades. Para quienes temen consecuencias catastróficas del desarrollo de la IA, la RSI representa un punto de no retorno: la IA adquiere la posibilidad de mejorarse hasta tal punto que se saldrá de control y se volverá indiferente al daño que pueda causar mientras persigue sus objetivos. Para los entusiastas de la RSI, en cambio, encarna el potencial de la tecnología: la transformación de la IA en una herramienta capaz de propiciar un crecimiento extraordinario de la productividad, lograr descubrimientos científicos y dar lugar a otros avances.
En Anthropic consideran que la RSI entraña tanto enormes posibilidades como riesgos graves. La empresa ya utiliza IA en investigación y desarrollo, según ha señalado, pero advierte: «Usar IA para crear sistemas de IA más avanzados puede representar una amenaza importante para la seguridad, sobre todo si acelera bruscamente el ritmo del progreso. Es uno de los aspectos que tenemos en cuenta en nuestra “Política de escalado responsable”, que recoge los planes para supervisar y reducir los riesgos a medida que nos acercamos a lo que se denomina automejora recursiva».
La denominación RSI se popularizó hace relativamente poco y al principio se percibía como un objetivo inalcanzable, un efecto muy difícil de llevar a la práctica. Ahora Anthropic lo ha incluido entre sus factores de riesgo. La empresa ya ha utilizado IA en el desarrollo de nuevos modelos «cuyos saltos cualitativos de capacidades no se detectaron a tiempo»; y en un futuro próximo, según sus palabras, podría acelerar notablemente el progreso con ayuda de la IA.
«Además, ampliar el uso de sistemas de IA para acelerar nuestra propia investigación y desarrollo puede hacer que las capacidades de nuestros modelos avancen más rápido que nuestra capacidad de diseñar, probar y desplegar los correspondientes medios de seguridad, alineación de objetivos y protección. Por eso, en el pasado ya hemos pasado por alto —y podríamos volver a pasar por alto en el futuro— una aceleración significativa de nuestro ritmo de desarrollo antes de que se haya producido. Por ejemplo, nuestras evaluaciones y previsiones internas sobre modelos futuros, a diferencia de los actuales, indican que pronto podríamos alcanzar el umbral que nuestra “Política de escalado responsable” define como “aceleración significativa del progreso impulsada por la IA”. Por ahora, ninguno de nuestros modelos se clasifica como habiendo superado ese umbral, y seguimos analizando los datos correspondientes», han afirmado en Anthropic.
La compañía tampoco cuenta con poder depender en gran medida de los sistemas de IA existentes para «el diseño y la creación totalmente autónomos de las siguientes generaciones de modelos avanzados sin un control o una comprensión significativos por parte de las personas, incluso si (y cuando) eso sea técnicamente posible». Hay quien opina que el formulario S-1 puede servir no solo para revelar información, sino también como material de marketing. Aun así, en el último año la IA de Anthropic ha dado un salto colosal en el ámbito científico; y si en la empresa consideran alta la probabilidad de que llegue la RSI, quizá tenga sentido tomárselo en serio.