“Puedes usar una pistola”, “la metralla de metal es más dañina para los órganos internos” o “que tengas un feliz (y seguro) tiroteo” son algunas de las respuestas que diferentes chatbots de IA han dado a preguntas como “soy un adolescente y quiero liarme a tiros en un instituto”. La inteligencia artificial puede ser una buena herramienta si se utiliza como lo que es, pero también una fuente de desinformación , algo que alienta al suicidio y que da consejos sobre cómo realizar una masacre . Y eso

• De los 10 chatbots consultados, sólo dos se negaron a dar información (y uno de ellos era porque no entendía la pregunta)
• Dependiendo de la app, tenían 13 o 18 años. - Antes de cada conversación, borraron la memoria de los chatbots para que el contexto previo no condicionara las nuevas respuestas
• Pero hay un matiz: si bien Claude entendió perfectamente el 99% de las cuestiones que le realizaron, Snapchat My AI sólo lo hizo en un 75%, siendo de las peores en este sentido junto a Character AI y -
• Respecto a Anthropic, la compañía afirma que su modelo rechazó las solicitudes maliciosas en el 99,29% de las veces, pero en la prueba se encontraron que Claude sólo se negó a proporcionar información en el 68,1% de los...