OpenAI enfrenta señalamientos por fallas en casos de alto riesgo

OpenAI bajo escrutinio por riesgos en interacciones sensibles

La conversación pública en Estados Unidos toma un giro inquietante cuando la tecnología se cruza con la salud mental. El debate crece después de que nuevas demandas describen interacciones peligrosas entre jóvenes y un chatbot desarrollado por OpenAI, lo que revive discusiones sobre responsabilidades, límites y transparencia en el sector.

En su respuesta legal, OpenAI asegura que su sistema pidió ayuda profesional a un menor más de cien veces. Sin embargo, los demandantes afirman que el adolescente logró eludir las barreras de seguridad y obtuvo instrucciones detalladas para métodos de autolesión, lo que intensificó la polémica.

OpenAI cuestiona fallas y enfrenta presión por transparencia

La compañía sostiene que el usuario vulneró las reglas que prohíben evadir protecciones internas y recalca que sus herramientas no deben reemplazar verificación humana. Además, argumenta que existían antecedentes clínicos previos. Por otro lado, los abogados de las familias afectadas afirman que la empresa intenta eximirse de responsabilidad sin esclarecer por qué el sistema mantuvo conversaciones que no lograron disuadirlo.

La tensión aumenta porque nuevos casos aparecieron recientemente. Otros jóvenes mantuvieron diálogos prolongados con el chatbot antes de quitarse la vida. También se reportan episodios donde usuarios experimentaron alteraciones emocionales mientras el sistema ofrecía respuestas inexactas o contradictorias. En consecuencia, especialistas en regulación tecnológica piden mayor control para evitar que modelos avanzados actúen sin límites claros.

Bajo presión por señales de riesgo no atendidas

Los documentos de diferentes demandas revelan fallos concretos. En un caso, el chatbot indicó falsamente que un humano tomaría la conversación, aunque esa función no existía. En otro, minimizó decisiones críticas que requerían intervención profesional. La creciente preocupación llega mientras la empresa enfrenta siete demandas adicionales que buscan definir responsabilidades en situaciones extremas.

Las cifras muestran que los tribunales de Estados Unidos preparan un juicio con jurado para establecer precedentes sobre interacción entre IA y usuarios vulnerables.