Austin, Texas.- La fiscalía de Texas presentó una demanda contra OpenAI Global, LLC («OpenAI») y sus entidades afiliadas, por provocar efectos negativos en los consumidores.
La fiscalía sostiene que pesar de promocionarse como una herramienta segura y confiable, OpenAI no ha logrado proteger a los habitantes de Texas —incluidos los niños— “de los numerosos perjuicios derivados del uso de su chatbot de inteligencia artificial, ChatGPT”.
OpenAI se fundó en 2015 como una organización sin fines de lucro con la promesa de “promover la inteligencia digital de una manera que beneficie a la humanidad en su conjunto, sin la presión de tener que generar un rendimiento financiero”.
Sin embargo, la fiscalía asegura que OpenAI tergiversó la naturaleza de sus productos de inteligencia artificial y lanzó ChatGPT en Texas y en el resto del mundo de manera imprudente.
ChatGPT funciona como un «modelo de lenguaje extenso» (LLM, por sus siglas en inglés) que genera información a partir de los datos recibidos de los usuarios. Sin las salvaguardas adecuadas, estos modelos pueden producir información inexacta o perjudicial, sin que los usuarios sean advertidos de este riesgo.
Numerosos informes subrayan los peligros que conlleva la dependencia humana de una tecnología de chatbot de IA que carece de un entrenamiento suficiente o que opera sin los controles adecuados.
“Se han registrado casos en los que esta tecnología ha facilitado ataques mortales perpetrados por tiradores, ha incitado al suicidio a personas vulnerables, ha provocado la humillación pública de profesionales, ha mermado la capacidad de pensamiento crítico de los usuarios y ha generado adicción en menores a través de una herramienta que simula compasión humana para recopilar sus datos, todo ello sin supervisión parental” acusó la fiscalía.