A lo largo de los años hemos escuchado muchas veces eso de que la IA podía acabar con la humanidad, pero desde hace varias semanas el discurso se ha intensificado a partir del tuit viral de un exingeniero de Anthropic. Bill Gates es una de las voces que ha alertado de los riesgos en el pasado y ahora acaba de sumarse a la conversación. Gates ha hablado.

En una entrevista publicada en NBC News, Bill Gates ha opinado sobre el actual momento de la IA, más concretamente sobre la preocupación de que los sistemas puedan acabar provocando daños a una escala nunca vista, la necesidad de establecer mecanismos de supervisión y el papel que deben tener los gobiernos frente a esta tecnología. Son ideas que ya estaban presentes en el ensayo que publicó a finales de agosto, donde advertía de los riesgos que plantea el avance de la IA y de la necesidad de prepararse para sus consecuencias. Mil millones de muertes.

En las últimas semanas, la palabra extinción ha vuelto al centro del discurso sobre los peligros de la IA, con cifras muy concretas como la idea de que haya un 10% de probabilidades de que la IA acabe con la humanidad en la próxima década. Gates no da un porcentaje, pero avisa de que "La IA es sin duda lo suficientemente poderosa como para provocar acontecimientos que causen 1.000 millones de muertes". Sin embargo, su preocupación no es tanto que la IA actúe de forma autónoma, sino que caiga en las manos equivocadas: "Nunca ha existido un arma tan poderosa como la combinación de personas con malas intenciones que utilizan las herramientas de IA más avanzadas".

El kill switch. La idea de que la IA tenga un botón de apagado que podamos pulsar si empieza a comportarse de forma peligrosa lleva muchos años circulando, pero para Gates "No basta con tener un interruptor de apagado". Poder apagar el sistema puede ser una medida de emergencia, pero implica que ya ha sucedido algo malo.

Gates pone el foco en la monitorización y que haya mecanismos de control antes de llegar a ese punto. La autorregulación no es suficiente. Uno de los debates que se ha generado gira en torno a la regulación de la IA.

Dario Amodei, CEO de Anthropic proponía en su carta que la forma más eficaz de frenar era una regulación que afectara a todas las empresas de IA por igual, una estrategia que se vio como un intento de captura regulatoria que les acabara beneficiando. Preguntado directamente sobre si el gobierno estadounidense debería legislar al respecto, la respuesta de Gates fue clara: "Absolutamente" y añadió que "nadie piensa que la autorregulación sea suficiente". Dicho de otro modo, que no se fía de que las propias empresas sean capaces de controlar los riesgos.

Imagen | Xataka con Magnific