Cuando hacemos una búsqueda en Google, lo primero que nos aparece es un resumen generado por IA relacionado con esa búsqueda. Este resumen, denominado AI Overviews, generalmente comparte también una serie de enlaces para que nosotros podamos comprobar de dónde ha sacado la información. ¿Pero qué pasa cuando no hay enlaces?

¿Quién se debe responsabilizar cuando la IA de Google afirma algo sin esos enlaces como apoyo? Un tribunal de Aquisgrán, Alemania, lo tiene claro: Google. Y es que ha ordenado a la compañía que impida que su modo de IA difunda afirmaciones falsas sobre un médico al que el resumen de IA de Google le había atribuido un delito de agresión sexual hacia su secretaria.

El delito existe, pero fue atribuido a la persona equivocada. Ahora el tribunal, basándose directamente en una sentencia dictada en Múnich en mayo, considera las respuestas de IA de Google como declaraciones propias de la empresa. De momento es una medida cautelar y aún no es firme, por lo que Google todavía puede apelar.

El caso. Según el medio jurídico Beck-Aktuell, el demandante es un médico que trabajó como médico jefe en un hospital alemán hasta el pasado verano. A finales de agosto, un compañero le comentó que al buscar su nombre junto con la palabra “exención” en el modo de inteligencia artificial de Google, aparecía un relato sobre él bastante serio y en un tono preocupantemente elaborado.

En él se afirmaba que había acosado a su secretaria en un viaje de negocios, que había sido despedido, que había recibido una condena condicional por agresión sexual y que se había marchado con una indemnización por despido de seis cifras. Nada de eso era verdad. Y es que según cuenta Beck-Aktuell, los hechos parecen haber estado relacionados con otro antiguo miembro del personal directivo de la misma clínica, y de que los artículos de noticias enlazados por Google como fuentes nunca mencionaban el nombre del demandante.

Según The Decoder, búsquedas adicionales con términos como “rescisión” y “procedimientos judiciales” también daban lugar a desinformación igual de detallada. La respuesta de Google. El médico pidió a Google por correo electrónico que retirara el contenido a finales de agosto.

Sin embargo, Beck-Aktuell cuenta que Google respondió que había revisado la reclamación y que no tomaría ninguna medida. Una carta de advertencia de sus abogados, el bufete de Colonia Höcker, enviada el mismo día, tampoco cambió nada. Lo que decidió el tribunal.

El tribunal de Aquisgrán dictaminó que los textos que generaba la IA vulneraban el derecho general de la personalidad del médico, debido a que le atribuían acusaciones penales y consecuencias laborales que afectaban a otra persona. Según el medio, emitió la orden en un procedimiento de urgencia, sin escuchar primero a Google, alegando los daños a su reputación profesional y social. Google se enfrenta a una multa de hasta 250.000 euros por cada infracción.

El precedente de Múnich. En el caso anterior, el Tribunal Regional I de Múnich dictaminó que Google puede considerarse directamente responsable de sus resúmenes de IA, según comparte DW. Los demandantes eran dos editoriales de Múnich a las que dicha función había vinculado erróneamente con estafas de suscripción y esquemas fraudulentos.

Google argumentó que los usuarios podían comprobar las fuentes a través de los enlaces y sabían que no se debía confiar ciegamente en los resultados de la IA. El tribunal rechazó este argumento, al considerar que el resumen era una declaración autocontenida y no ofrecía a los lectores ningún indicio de que pudiera no ser fiable. Google declaró en su momento que recurriría la sentencia.

El medio The Decoder informa de que el recurso nunca llegó a resolverse, pues según la investigación, el caso terminó con un acuerdo extrajudicial, y ni Google ni la editorial quisieron aclarar si hubo contraprestación económica ni por qué se cerró el caso. Imagen de portada | Shutter Speed En Xataka | Anthropic muestra el efecto de la IA en el empleo junior: del 27% al 9% de nuevas contrataciones