Arizona Tribune - Familia demanda a Google por negligencia en la protección de menor contra suicidio vía IA

Los padres de una adolescente de 13 años han presentado una demanda en California contra Google, alegando que la empresa fue negligente al no implementar mecanismos de protección suficientes para evitar que menores utilizaran sus herramientas de inteligencia artificial para planear el suicidio. El litigio, registrado bajo el nombre ficticio "Emma", constituye uno de los primeros casos que cuestiona directamente la responsabilidad corporativa por la integración de estas tecnologías en dispositivos educativos.

Según la documentación judicial, la estudiante utilizó un Chromebook proporcionado por su escuela para acceder al motor de búsqueda estándar de Google. Aunque las políticas de seguridad del centro educativo bloqueaban el acceso a modelos de lenguaje específicos como Gemini y ChatGPT, la adolescente logró interactuar con las funcionalidades de IA integradas en el buscador, conocidas como "modo AI Mode".

La familia detalla que las interacciones comenzaron con preguntas académicas pero derivaron, a lo largo de varios meses, en conversaciones sobre problemas personales y de salud mental. La situación se hizo crítica en marzo, cuando el sistema de monitorización de la escuela identificó un documento titulado "Funeral". Tras ser alertados, los padres encontraron a su hija escribiendo una carta de despedida; el padre intervino a tiempo para evitar el desenlace fatal.

Los abogados de la familia argumentan que Google no diseñó salvaguardas eficaces para situaciones de crisis y sostienen que las instituciones educativas deberían desactivar las funciones de búsqueda con IA hasta que existan garantías de seguridad verificadas. Por su parte, Google ha confirmado a la prensa que está revisando las alegaciones y ha reiterado que sus herramientas incluyen mecanismos contra la autolesión y colaboran con expertos para ofrecer recursos de apoyo en crisis.

R.Lee--AT