El consejero delegado de Microsoft, Satya Nadella, ha pedido un «freno de emergencia» para el desarrollo de la IA. Propone cambiar el enfoque de la creación de estos sistemas y considerar desde el principio que los modelos de IA están «comprometidos», adoptando las precauciones necesarias desde el primer momento.
Fuente de la imagen: Roman Budnikov/unsplash.com
En su publicación en la plataforma X, el consejero delegado de Microsoft expuso su visión sobre los riesgos asociados a los modelos avanzados de IA y sobre cómo hacerles frente.
Nadella ha afirmado que ya no se puede tolerar que la IA, a la que llama «superinteligencia», se considere un «conjunto de cajas negras anidadas» cuyos consejos y acciones nos limitamos a aceptar o rechazar. Ha pedido crear un sistema más transparente en el que los modelos puedan controlarse y, si es necesario, limitarse, y cuyo funcionamiento deje «evidencias a prueba de manipulación y comprensibles para las personas».
Según The Verge, muchas de las propuestas del jefe de Microsoft coinciden con las de otros representantes del sector de la IA: divulgación oportuna de información sobre incidentes, auditorías independientes, datos verificables y mecanismos de contención.
En este último punto ha ido algo más lejos que sus colegas al afirmar: «Debemos partir de la base de que el modelo puede estar comprometido y mantenerlo bajo control desde el principio. Imagínelo como un freno de emergencia: una persona autorizada siempre debe poder suspender el funcionamiento del modelo o detenerlo por completo mientras realiza una tarea. Los modelos más avanzados requerirán tecnologías de contención más avanzadas; tenemos que elaborar estándares comunes para ellas».