OpenAI bajo escrutinio por riesgos en interacciones sensibles
La conversación pública en Estados Unidos toma un giro inquietante cuando la tecnología se cruza con la salud mental. El debate crece después de que nuevas demandas describen interacciones peligrosas entre jóvenes y un chatbot desarrollado por OpenAI, lo que revive discusiones sobre responsabilidades, límites y transparencia en el sector.
En su respuesta legal, OpenAI asegura que su sistema pidió ayuda profesional a un menor más de cien veces. Sin embargo, los demandantes afirman que el adolescente logró eludir las barreras de seguridad y obtuvo instrucciones detalladas para métodos de autolesión, lo que intensificó la polémica.
La compañía sostiene que el usuario vulneró las reglas que prohíben evadir protecciones internas y recalca que sus herramientas no deben reemplazar verificación humana. Además, argumenta que existían antecedentes clínicos previos. Por otro lado, los abogados de las familias afectadas afirman que la empresa intenta eximirse de responsabilidad sin esclarecer por qué el sistema mantuvo conversaciones que no lograron disuadirlo.
La tensión aumenta porque nuevos casos aparecieron recientemente. Otros jóvenes mantuvieron diálogos prolongados con el chatbot antes de quitarse la vida. También se reportan episodios donde usuarios experimentaron alteraciones emocionales mientras el sistema ofrecía respuestas inexactas o contradictorias. En consecuencia, especialistas en regulación tecnológica piden mayor control para evitar que modelos avanzados actúen sin límites claros.
Los documentos de diferentes demandas revelan fallos concretos. En un caso, el chatbot indicó falsamente que un humano tomaría la conversación, aunque esa función no existía. En otro, minimizó decisiones críticas que requerían intervención profesional. La creciente preocupación llega mientras la empresa enfrenta siete demandas adicionales que buscan definir responsabilidades en situaciones extremas.
Las cifras muestran que los tribunales de Estados Unidos preparan un juicio con jurado para establecer precedentes sobre interacción entre IA y usuarios vulnerables.
Cambiar el rumbo de la historia con polvos cristalinos podría sonar exagerado. Pero eso es…
El campo argentino fue el laboratorio de pruebas. La escala global, el siguiente paso lógico.…
Insertar el conocimiento en el corazón del desarrollo económico ya no es discurso: es acción…
Hablar sin emitir un solo sonido ya no es cosa de ciencia ficción. Apple acaba…
Hay tradiciones que activan algo más que la nostalgia. El Día de la Candelaria, celebrado…
En un contexto regional en el que la economía exige rapidez en la adquisición de…
Esta web usa cookies.