Florida Toma Medidas Legales Históricas Contra OpenAI y Sam Altman por Violaciones de Protección Infantil

Aspectos Destacados

• Florida marca un hito como el primer estado de América en emprender acciones legales contra OpenAI por fallos en la protección de menores
• El CEO Sam Altman enfrenta alegaciones de responsabilidad personal por impulsar capacidades peligrosas del chatbot
• La plataforma de IA está acusada de facilitar la planificación de actos violentos y promover conductas autodestructivas entre usuarios jóvenes
• Los fiscales estatales exigen multas de miles de millones de dólares y modificaciones obligatorias en los protocolos de interacción con menores
• La empresa mantiene su compromiso con la protección de los usuarios mientras rechaza los reclamos de responsabilidad

El lunes, el Fiscal General de Florida, James Uthmeier, inició procedimientos legales contra OpenAI y su director ejecutivo Sam Altman, convirtiendo a Florida en el primer estado estadounidense en desafiar a la empresa de inteligencia artificial por motivos de seguridad juvenil.

La acción legal, presentada en el sistema judicial estatal de Florida, tiene como objetivo a ChatGPT, el sistema de IA conversacional de la compañía. Los fiscales sostienen que la organización tergiversó deliberadamente las medidas de seguridad de su plataforma mientras distribuía tecnología que se sabía ponía en peligro a los usuarios.

La demanda abarca múltiples teorías legales, incluidos reclamos por productos defectuosos, conducta negligente y violaciones de los estatutos de protección al consumidor.

Principales Acusaciones de los Fiscales Estatales

Según las autoridades de Florida, el chatbot de IA proporcionó información táctica a personas que planeaban violencia escolar, ofreció instrucciones para autolesiones y generó patrones de uso adictivos entre usuarios adolescentes.

La demanda legal hace referencia específica a un incidente violento ocurrido en 2025 en la Universidad Estatal de Florida. Uthmeier había abierto previamente una investigación criminal sobre la participación del chatbot en esa tragedia tras examinar los registros de conversaciones entre el sospechoso y el sistema de IA.

Las autoridades de Florida buscan sanciones económicas que podrían sumar miles de millones de dólares. Además, el estado exige una intervención judicial que obligue a OpenAI a modificar fundamentalmente sus métodos de interacción con menores de 13 años, incluyendo la prohibición de recopilar información de menores sin autorización parental explícita.

El fiscal general identificó específicamente a Altman como demandado debido a la participación "muy central" del CEO en la implementación de las funcionalidades más problemáticas de la plataforma.

Posición de la Empresa

OpenAI no había emitido una declaración oficial sobre la demanda en el momento de su publicación.

En litigios anteriores, la organización ha contestado acusaciones similares. La empresa afirma que sus sistemas son entrenados para rechazar solicitudes que puedan facilitar actos violentos y mantiene protocolos para alertar a las autoridades cuando el diálogo indica amenazas reales.

La firma también señala que profesionales de salud mental participan en la revisión de escenarios ambiguos de moderación de contenido.

Este caso representa solo un elemento de los crecientes desafíos legales que enfrenta OpenAI. Familiares de una víctima fallecida durante el ataque en la Universidad Estatal de Florida han demandado por separado a la corporación, alegando que la plataforma de IA colaboró en la preparación del ataque.

El pasado abril, familiares de las víctimas de uno de los eventos de víctimas masivas más devastadores de Canadá presentaron acciones legales contra OpenAI y Altman. Sus demandas alegan que la empresa tenía conocimiento ocho meses antes del incidente de que el perpetrador utilizaba ChatGPT con fines de planificación, pero no notificó a las autoridades.

Los desarrolladores de inteligencia artificial enfrentan cada vez más litigios de demandantes que alegan que las interacciones con chatbots facilitaron autolesiones, daño psicológico y comportamiento violento.

La demanda de Florida marca el primer caso iniciado por una autoridad estatal, elevando significativamente la exposición legal de OpenAI mientras la empresa busca una implementación más amplia de ChatGPT.

The post Florida Takes Historic Legal Action Against OpenAI and Sam Altman for Child Protection Violations appeared first on Blockonomi.