La inteligencia artificial se convirtió en el tema de debate central. Con el conocimiento de los riesgos y de los posibles beneficios día a día surgen nuevas inquietudes alrededor del tema. Flavia Costa, especialista en tecnología y sociedad, puso el foco en los riesgos que implica su desarrollo acelerado. Según Costa, la IA representa un “Poliedro donde cada una de las caras es real y todas están jugando” Uno de los puntos clave que remarcó la especialista es la necesidad de evitar vínculos afectivos con los sistemas de IA. Advirtió que no se debe fomentar la creación de lazos emocionales entre humanos y máquinas, ya que esto puede distorsionar la percepción de la tecnología y sus límites. El control de la IA en China y la ventana de riesgo para el Partido Comunista La investigadora explicó que, en el caso de China, existe una preocupación particular por el avance de la inteligencia artificial y el llamado “capitalismo de plataforma”. Para el Partido Comunista chino, esto representa una “ventana de riesgo” porque el desarrollo tecnológico puede desafiar el control estatal. Por ese motivo, el gobierno chino intenta regular y controlar el desarrollo de su propia IA, con una legislación específica que desalienta la antropomorfización de los sistemas. “Evitar estrictamente los vínculos afectivos y cuidar que se alinee al sistema socialista” remarcó. De los 31 riesgos identificados por las autoridades chinas en relación a la IA, Costa destacó que los diez primeros están enfocados en la preservación del sistema político. “Es un tipo de tecnología que no va a obedecer”, señaló, y por eso el control estatal es tan estricto. La carrera por los modelos de frontera y el rol de Argentina En el escenario internacional, la competencia por desarrollar los modelos de IA más avanzados es cada vez más intensa. Subrayó que tanto Estados Unidos como China buscan “Ganar esta carrera de los modelos de frontera”. Sin embargo, la investigadora advirtió que el mayor peligro de la IA no es individual, sino sistémico o catastrófico: “En líneas muy generales por lo que llamaríamos el estrés energético”. Es decir, la demanda para que estas tecnologías se puedan seguir desarrollando es muy grande. La demanda de tecnología y hardware es cada vez mayor, ya que los grandes sistemas de IA dependen de una capacidad de cómputo muy grande. Riesgos existenciales y estrategias de control La especialista comparó el avance de la IA con la energía nuclear. Remarcó que hay que tener miedo y ser cautos. “El miedo como miedo un poco como en el caso de la energía nuclear, solo que con reglas muy distintas”. Además destacó la necesidad de un estrategia para el control y la mitigación de los daños. En ese sentido, mencionó el trabajo de Dan Hendrycks, especialista en seguridad de IA respaldado por Elon Musk, quien desde su centro de seguridad en Safety desarrolla cuatro ideas principales de riesgo sistémico o catastrófico: - Uso malicioso de la tecnología. - Carrera corporativa, donde la competencia por aumentar la capacidad de cómputo y las inversiones en software prioriza el crecimiento por sobre la seguridad. - Medidas de mitigación de riesgo insuficientes. - IA rebelde, es decir, sistemas que actúan fuera del control humano. Costa concluyó que “Tres de las cuatro ya están en marcha”.