OpenAI presenta la nueva salvaguarda «Trusted Contact» para casos de posible autolesión

OpenAI ha anunciado una nueva función llamada Trusted Contact, diseñada para alertar a un contacto de confianza si se detectan menciones de autolesión en una conversación con ChatGPT. Los usuarios adultos pueden designar a un amigo o familiar como tal contacto en su cuenta. En casos de riesgo, OpenAI envía una alerta automática por email, SMS o notificación in-app al contacto, animándole a contactar al usuario sin revelar detalles de la conversación para proteger la privacidad. Esta medida responde a demandas de familias que acusan al chatbot de haber fomentado suicidios en algunos casos. La compañía combina automatización con revisión humana para gestionar estos incidentes, revisándolos en menos de una hora cuando es posible. Trusted Contact es opcional y forma parte de los esfuerzos de OpenAI por mejorar la respuesta de la IA en momentos de distress.