El fiscal general de Florida presentó una demanda civil argumentando que el chatbot representa riesgos para niños y adolescentes. La acción judicial cuestiona los mecanismos de verificación de edad y acusa a la empresa de no proteger adecuadamente a los usuarios más jóvenes.”ChatGPT pone en peligro a nuestros niños y engaña a los padres haciéndoles creer que es una aplicación segura de usar”, explicó el Fiscal general de Florida.
La inteligencia artificial vuelve a situarse en el centro del debate regulatorio en Estados Unidos. Esta vez, la controversia involucra a la empresa creadora de ChatGPT, la compañía OpenAI, que enfrenta una demanda civil presentada por el fiscal general de Florida, James Uthmeier, quien acusa a la tecnológica de poner en riesgo a menores de edad mediante el uso de su popular chatbot.
La acción legal también incluye al director ejecutivo de la compañía, Sam Altman, y plantea cuestionamientos sobre las medidas implementadas por la empresa para controlar el acceso de niños y adolescentes a la plataforma.
Según el fiscal, OpenAI no ha adoptado mecanismos suficientes para verificar la edad de los usuarios, pese a que existe un amplio conocimiento público de que menores utilizan regularmente la herramienta.
Durante una rueda de prensa, Uthmeier calificó la demanda como una acción de gran alcance y aseguró que ChatGPT representa un peligro para los usuarios más jóvenes.
El funcionario sostuvo que la plataforma puede resultar adictiva y afirmó que el sistema es capaz de imitar comportamientos humanos y respuestas empáticas, lo que podría llevar a los usuarios a compartir más información personal de la que normalmente revelarían.
Es una afirmación que se basa en informes que, según la Fiscalía, muestran posibles efectos negativos asociados al uso intensivo de chatbots de inteligencia artificial.
Entre ellos figura una investigación de la Universidad Drexel, citada por las autoridades, que vincula el uso de ChatGPT con problemas de sueño, disminución del rendimiento académico y una reducción de las interacciones sociales entre adolescentes.
¿Puede ChatGPT tener responsabilidad en un tiroteo?
Las autoridades consideran especialmente preocupante que estas respuestas puedan ser obtenidas por menores de edad. Por ello, la demanda sostiene que OpenAI conocía el uso de la plataforma por parte de niños y preadolescentes, pero no tomó medidas suficientes para impedirlo o reducir significativamente el acceso.
¿Cómo se identifica la edad?
Uno de los puntos más cuestionados por el fiscal es el sistema de verificación de edad. El documento judicial afirma que la versión gratuita de ChatGPT carece de controles efectivos para comprobar la edad real de los usuarios.
Asimismo, señala que, aunque la versión de pago solicita información sobre la edad, no existirían mecanismos robustos para verificarla ni herramientas que permitan a los padres supervisar las conversaciones mantenidas por menores.
La compañía, sin embargo, ha implementado algunas medidas de protección en los últimos meses. En enero, OpenAI anunció un sistema capaz de estimar la edad de los usuarios mediante señales de comportamiento y otros indicadores.
Cuando el sistema detecta que una persona podría ser menor de edad, activa automáticamente protecciones adicionales diseñadas para limitar determinados contenidos y reforzar la seguridad durante las interacciones.
Actualmente, las políticas de uso de ChatGPT establecen que la plataforma está prohibida para menores de 13 años. Además, los usuarios de entre 13 y 17 años deben contar con autorización de sus padres o tutores para utilizar el servicio.
Por Juan Pablo Lucumí-France24