OpenAI bajo escrutinio por riesgos en interacciones sensibles
La conversación pública en Estados Unidos toma un giro inquietante cuando la tecnología se cruza con la salud mental. El debate crece después de que nuevas demandas describen interacciones peligrosas entre jóvenes y un chatbot desarrollado por OpenAI, lo que revive discusiones sobre responsabilidades, límites y transparencia en el sector.
En su respuesta legal, OpenAI asegura que su sistema pidió ayuda profesional a un menor más de cien veces. Sin embargo, los demandantes afirman que el adolescente logró eludir las barreras de seguridad y obtuvo instrucciones detalladas para métodos de autolesión, lo que intensificó la polémica.
La compañía sostiene que el usuario vulneró las reglas que prohíben evadir protecciones internas y recalca que sus herramientas no deben reemplazar verificación humana. Además, argumenta que existían antecedentes clínicos previos. Por otro lado, los abogados de las familias afectadas afirman que la empresa intenta eximirse de responsabilidad sin esclarecer por qué el sistema mantuvo conversaciones que no lograron disuadirlo.
La tensión aumenta porque nuevos casos aparecieron recientemente. Otros jóvenes mantuvieron diálogos prolongados con el chatbot antes de quitarse la vida. También se reportan episodios donde usuarios experimentaron alteraciones emocionales mientras el sistema ofrecía respuestas inexactas o contradictorias. En consecuencia, especialistas en regulación tecnológica piden mayor control para evitar que modelos avanzados actúen sin límites claros.
Los documentos de diferentes demandas revelan fallos concretos. En un caso, el chatbot indicó falsamente que un humano tomaría la conversación, aunque esa función no existía. En otro, minimizó decisiones críticas que requerían intervención profesional. La creciente preocupación llega mientras la empresa enfrenta siete demandas adicionales que buscan definir responsabilidades en situaciones extremas.
Las cifras muestran que los tribunales de Estados Unidos preparan un juicio con jurado para establecer precedentes sobre interacción entre IA y usuarios vulnerables.
Lo que parecía ser uno de los mayores éxitos recientes de la industria de la…
Mucho antes de que los influencers llenaran arenas y las residencias de artistas dominaran el…
A finales de los años noventa, internet apenas comenzaba a transformar los negocios. En ese…
Pocos platillos representan tanto a un país como la Paella a España. Hoy aparece en…
En una industria dominada por caramelos, chocolates y gomitas, hubo una marca que decidió seguir…
Pocas marcas pueden presumir que un error cambió su destino para siempre. Eso fue exactamente…
Esta web usa cookies.