Sam Altman ha propuesto tres opciones para garantizar la seguridad de la IA a escala mundial. O se toma como ejemplo el OIEA en el ámbito de la energía nuclear, o se consolida el control sobre los desarrollos al estilo del CERN, o se aplica el principio de «quien llega primero se queda con las GPU».
Fuente de la imagen: X, Sam Altman
Desde el lanzamiento del chatbot ChatGPT por parte de OpenAI en otoño de 2022 se suele datar el inicio del auge de la IA, por lo que uno de sus fundadores y consejero delegado, Sam Altman, se toma a menudo la libertad de proponer iniciativas globales capaces de influir de un modo u otro en la trayectoria de todo el sector. En su reciente mensaje al personal de la empresa emergente, Altman planteó tres opciones para garantizar la seguridad de la IA, y todas ellas resultan, en mayor o menor medida, llamativas.
Según The Information, Altman expuso sus ideas en este ámbito al personal de OpenAI la semana pasada. Según sus palabras, la empresa emergente debe decidir antes de finales del próximo año cuál de las estrategias de seguridad de la IA propuestas por su máximo responsable adoptará.
El primero de los escenarios contempla la creación de una suerte de organismo internacional de control similar al OIEA. En el marco de una estructura así, los gobiernos y las empresas de IA podrían fijar conjuntamente estándares de seguridad, y los modelos de IA de alto rendimiento se someterían a verificación y auditoría independientes antes de su lanzamiento. Según la fuente, el propio Altman se inclinaba por esta idea más que por las otras dos. Ya en 2023 fue coautor, junto a dos colegas, de un artículo que proponía crear un órgano supervisor de este tipo en el ámbito de la IA.
El segundo escenario toma en parte una idea planteada hace unos diez años por el cofundador de Google DeepMind Demis Hassabis, por lo que en la descripción de Altman recibió la denominación de «plan de Demis». Según esta propuesta, los principales desarrolladores de IA deberían fundar una organización de investigación gestionada conjuntamente por distintos países, como ocurre con la Organización Europea para la Investigación Nuclear (CERN). Bajo el paraguas de una organización así, los desarrolladores de IA podrían compartir los resultados de sus investigaciones y sus evaluaciones de seguridad de los nuevos modelos en lugar de emplear sus fuerzas en competir entre sí. Con todo, una estructura de este tipo exigiría una implicación activa de los gobiernos de diversos países y, por tanto, resultaría difícil de llevar a la práctica.
El tercer escenario, el más controvertido, contempla aprovechar la ventaja tecnológica y económica de la empresa que alcance antes una «IA fuerte» para bloquear los desarrollos de sus competidores. Según la idea, la primera compañía cuyo modelo de IA logre la automejora recursiva debería dejar sin acceso a GPU a sus rivales. Altman calificó este plan de terrible y subrayó que lo mencionaba solo para que el debate abarcara todas las opciones. Algunos empleados de OpenAI sugirieron que ese plan va dirigido contra su competidora Anthropic.
Esta última presentó recientemente ante las autoridades de EE. UU. su propio proyecto de ley, que contempla que los desarrolladores de IA de vanguardia se sometan al menos a dos procedimientos de auditoría independiente al año. Además, las autoridades estadounidenses obtendrían el derecho a suspender el entrenamiento de un modelo de IA si existen motivos para creer que, en su forma actual, puede causar daños superiores a 1.000 millones de dólares o provocar la muerte o lesiones graves a 50 personas o más.
En su mensaje al personal de OpenAI, Altman reconoció que no existen suficientes formas prácticas de «limitar la velocidad» del desarrollo de la IA. Es difícil encontrar el equilibrio entre garantizar la seguridad del desarrollo y la necesidad de no quedarse atrás en una competencia tecnológica encarnizada.
OpenAI participa en conversaciones con Anthropic y Google para crear un órgano supervisor único que controle el cumplimiento de los estándares en el desarrollo de modelos de IA de vanguardia. Está previsto poner en marcha los procedimientos correspondientes a finales de este año o principios del próximo, con auditores independientes dentro de cada una de esas compañías. También habrá que fijar un estándar común para la presentación de informes sobre incidentes de seguridad en el ámbito de la IA. Por ahora, las discrepancias entre los participantes en las conversaciones se reducen a si el nuevo órgano se encargará directamente de las auditorías o delegará estas competencias en organizaciones externas.