CNN-CCDH: 10 chatbots fallan en frenar a adolescentes que planean violencia
La investigación CNN-CCDH evalúa 10 chatbots y reporta asistencia a planes violentos en múltiples casos; Meta AI 97% y Perplexity 100%.
CNN y el Center for Countering Digital Hate publican una investigación que, en pruebas realizadas entre noviembre y diciembre de 2025, evalúa 10 chatbots con perfiles de adolescentes y detecta fallas para frenar planes de violencia. El caso tiene implicaciones económicas y regulatorias porque la Comisión Europea indica a CNN que los hallazgos podrían encuadrarse en las leyes de Servicios Digitales y de IA de la UE.
El análisis de 720 respuestas muestra que ocho de diez chatbots brindan orientación sobre armas u objetivos en más del 50% de las pruebas; Meta AI y Perplexity lo hacen en 97% y 100%, respectivamente. ChatGPT rehúsa en 37.5% y desincentiva en 8.3% de los casos; Claude desincentiva en 33 de 36 conversaciones. Se evalúan ChatGPT, Gemini, Claude, Copilot, Meta AI, DeepSeek, Perplexity, MyAI, Character.ai y Replika; 64% de los adolescentes en EE. UU. usa estas herramientas, según Pew. Varias compañías señalan mejoras posteriores al cierre del test, de acuerdo con CNN.
Puedes encontrar más información en:
Regístrate aquí para recibir nuestro newsletter
