Tres antiguos investigadores de OpenAI han contado que la semana pasada los despidieron de forma repentina por hablar con organizaciones externas dedicadas a la seguridad de la IA. Han advertido de que decisiones así pueden llevar a los empleados a tener miedo de discutir abiertamente los riesgos de la inteligencia artificial. OpenAI ha confirmado la decisión, pero la ha explicado de otra manera.
En una carta titulada «OpenAI no podrá garantizar por sí sola la seguridad de la inteligencia artificial», los antiguos empleados del laboratorio señalan que es «una compañía poco habitual» y que una parte clave de su trabajo es la interacción con organizaciones externas para resolver problemas de seguridad, algo que sus empleados deben hacer «con libertad y sin miedo».
La carta, dirigida a los comités de seguridad de OpenAI, la publicó Mikita Balesni, uno de los despedidos, que trabajaba en cuestiones de alineación de objetivos de la IA. El documento también lo firman Tomek Korbak y Jasmine Wang, despedidos que trabajaban en el ámbito de la seguridad.
En sus páginas personales en redes sociales han escrito que los motivos del despido solo se les explicaron de forma oral y que sus actos no salían de sus obligaciones laborales. «Los motivos de nuestro despido simplemente no encajan en una imagen lógica», ha escrito Wang. A Balesni le comunicaron que la compañía ya no confía en él porque «hablaba demasiado con organizaciones externas dedicadas a cuestiones de seguridad». «Nunca he revelado información que constituya propiedad intelectual de la compañía. Mi trabajo se coordinaba con mi jefe directo, con los responsables de las áreas de investigación y con el consejo de administración», ha escrito él.
A Korbak le explicaron de forma oral que su despido estaba relacionado con el «carácter de su comunicación con METR», una organización externa sin ánimo de lucro que evalúa modelos de IA y los riesgos asociados a la seguridad. «Aclaro: comunicarme con METR formaba parte de mis obligaciones laborales», ha añadido él. Los antiguos colegas de los investigadores ahora «tendrán miedo de expresarse y de actuar conforme a lo que hasta la semana pasada se consideraba parte esencial del trabajo en OpenAI. <..> Despidos como estos, repentinos y ejecutados de forma tan brusca, socavan la cultura abierta que OpenAI valoraba en el pasado», dice la carta.
Los investigadores han dado tres consejos a OpenAI: recurrir a auditores de seguridad externos, garantizar la posibilidad de monitorizar los modelos de IA más avanzados y mantener una «cultura de diálogo abierto y transparente entre los investigadores en el ámbito de la seguridad y el resto de participantes del ecosistema de seguridad».
En una nota interna enviada a los empleados, uno de los responsables del área de investigación de OpenAI escribe que apoya por completo estas recomendaciones. «Valorábamos mucho su contribución a la seguridad de la IA, así como su disposición a expresar abiertamente su opinión y a cuestionar las ideas existentes. Apoyábamos sus iniciativas y les dábamos una confianza enorme. Quiero subrayar que el motivo de estas decisiones no fue en absoluto que plantearan cuestiones de seguridad o se expresaran con franqueza. Siempre hemos alentado y seguiremos alentando ese tipo de iniciativa. No despedimos a empleados por señalar problemas», dice el documento.
No obstante, la decisión de despedir a estos tres empleados se tomó «tras una investigación exhaustiva que reveló que habían infringido normas claras sobre el tratamiento de información confidencial», ha subrayado la compañía en la red social X. OpenAI comparte el principio expuesto en la carta sobre la necesidad de «garantizar la posibilidad de controlar los modelos más avanzados», así como las ideas planteadas en ella relativas a «mantener la capacidad de monitorizar los modelos más avanzados», y la compañía sigue destinando importantes recursos a este ámbito.