OpenAI bajo escrutinio por riesgos en interacciones sensibles
La conversación pública en Estados Unidos toma un giro inquietante cuando la tecnología se cruza con la salud mental. El debate crece después de que nuevas demandas describen interacciones peligrosas entre jóvenes y un chatbot desarrollado por OpenAI, lo que revive discusiones sobre responsabilidades, límites y transparencia en el sector.
En su respuesta legal, OpenAI asegura que su sistema pidió ayuda profesional a un menor más de cien veces. Sin embargo, los demandantes afirman que el adolescente logró eludir las barreras de seguridad y obtuvo instrucciones detalladas para métodos de autolesión, lo que intensificó la polémica.
La compañía sostiene que el usuario vulneró las reglas que prohíben evadir protecciones internas y recalca que sus herramientas no deben reemplazar verificación humana. Además, argumenta que existían antecedentes clínicos previos. Por otro lado, los abogados de las familias afectadas afirman que la empresa intenta eximirse de responsabilidad sin esclarecer por qué el sistema mantuvo conversaciones que no lograron disuadirlo.
La tensión aumenta porque nuevos casos aparecieron recientemente. Otros jóvenes mantuvieron diálogos prolongados con el chatbot antes de quitarse la vida. También se reportan episodios donde usuarios experimentaron alteraciones emocionales mientras el sistema ofrecía respuestas inexactas o contradictorias. En consecuencia, especialistas en regulación tecnológica piden mayor control para evitar que modelos avanzados actúen sin límites claros.
Los documentos de diferentes demandas revelan fallos concretos. En un caso, el chatbot indicó falsamente que un humano tomaría la conversación, aunque esa función no existía. En otro, minimizó decisiones críticas que requerían intervención profesional. La creciente preocupación llega mientras la empresa enfrenta siete demandas adicionales que buscan definir responsabilidades en situaciones extremas.
Las cifras muestran que los tribunales de Estados Unidos preparan un juicio con jurado para establecer precedentes sobre interacción entre IA y usuarios vulnerables.
El concepto de trabajo estable perdió atractivo para una generación que creció en medio de…
La nueva generación de startups entendió algo clave. En un mundo saturado de opciones, lo…
El crecimiento ya no es la única métrica que guía a Nike. La compañía estadounidense…
La industria de la moda en España ya no puede esconderse detrás de etiquetas genéricas.…
El tablero corporativo global acaba de moverse con fuerza desde Estados Unidos. Unilever decidió desprenderse…
Las reglas del marketing digital cambiaron. La estética perfecta perdió fuerza y dio paso a…
Esta web usa cookies.