Imagina que estás hablando con alguien y, de pronto, la conversación gira hacia obsesionarse con hacerle daño a otra persona. Un buen amigo cambiaría de tema o se levantaría de la mesa. Algo parecido va a hacer ChatGPT: OpenAI, la empresa que lo creó, ha anunciado que el asistente podrá cortar la conversación por su cuenta cuando vea señales de que alguien se está fijando en la violencia.
ChatGPT podrá cerrar el chat si detecta obsesión con hacer daño
Según el anuncio de OpenAI, cuando una conversación muestre que alguien se está obsesionando con la violencia o con la idea de herir gravemente a otra persona, ChatGPT podrá terminar el chat de forma automática para romper esa dinámica en el momento. La empresa dice que lo está diseñando junto a expertos en salud mental y prevención de la violencia.
Si esto se repite en varios chats, OpenAI podría pausar la cuenta de forma temporal. Y las cuentas que, a juicio de la empresa, incumplan sus normas sobre actividad violenta, se banean directamente.
Antes de seguir: llévate las herramientas y prompts listos para usar, GRATIS. Probados uno a uno y ordenados por la tarea que quieres resolver: vídeo, imagen, voz, escribir, automatizar tu negocio, clientes, web. Es gratis y la lista crece cada semana.
Entras también en el boletín semanal de La Prensa IA. Te das de baja cuando quieras, con una palabra.
Un mensaje normal puede cambiar de significado por lo que dijiste antes
OpenAI lo explica así: a veces una pregunta que parece inocente cobra otro sentido a la luz de una charla anterior. Por eso, desde mayo, ChatGPT puede usar resúmenes breves de señales de alerta previas para responder con más cuidado en un chat posterior.
Ahora van un paso más allá: si tus conversaciones recientes muestran señales de posible violencia, ChatGPT será más conservador al compartir información que pueda usarse mal. Además, la empresa limita cómo habla de ataques masivos del pasado, sin detallar las armas usadas ni cómo se consiguieron, aunque esos datos estén en otras webs. Estos límites valen para todo el mundo, sea cual sea su edad o su motivo para preguntar.
Los menores recibirán todavía menos información sobre armas
ChatGPT for Teens, la versión con salvaguardas para menores de 18 años, endurece sus reglas: no dará información práctica sobre armas ni sistemas de seguridad que pueda usarse para facilitar violencia, aunque la pregunta parezca inocente y no haya señal de mala intención. Los adolescentes sí podrán usarlo para calmar tensiones, pedir apoyo o acercarse a un adulto de confianza.
Para saber quién es menor, OpenAI usa desde el año pasado un sistema que estima la edad a partir de patrones de comportamiento. Si te clasifica mal, puedes confirmar que eres adulto con Persona, su socio de verificación de edad.
Los padres, por su parte, pueden vincular su cuenta a la de su hijo. Desde julio reciben un aviso si la cuenta del adolescente se desactiva por violar las normas sobre violencia, y OpenAI trabaja para avisarles también si se pausa por hablar de ello repetidamente.
Cifras y calendario que OpenAI da en su anuncio
OpenAI asegura que hizo más de 200 denuncias a las fuerzas de seguridad en el tercer trimestre de 2026, por amenazas inminentes de violencia. También promete publicar su primer Informe de Seguridad Comunitaria a principios de 2027, sobre el segundo semestre de 2026, con actualizaciones cada seis meses.
Ojo: se trata de un anuncio de la propia empresa. Dice que las medidas empezarán a desplegarse «en las próximas semanas», pero no da fechas exactas ni explica cómo medirá si funcionan. Tampoco detalla qué cuenta exactamente como «obsesionarse» con la violencia, y admite que reconocer las señales de forma fiable sigue siendo un trabajo en marcha.
Qué implica para ti
Si usas ChatGPT, tu conversación podría interrumpirse si se parece a una fijación con hacer daño, y repetirlo podría costarte la cuenta unos días. Si eres madre o padre de un adolescente, y vinculas su cuenta, puedes recibir avisos más amplios. Y si alguien te clasifica mal como menor, tendrás una vía para demostrar que eres adulto.
La pregunta ahora es hasta qué punto acertará el sistema al distinguir una charla dura de una amenaza real.
Imagen ilustrativa generada con inteligencia artificial.
Más sobre esto en LaPrensaIA
- Unos padres demandan a OpenAI: ChatGPT guio a su hija a dejar su medicación
- Te vigilan cada pocos segundos mientras trabajas para entrenar a ChatGPT: la queja contra Scale AI
Fuente original: openai.com
Esta pieza la ha redactado Iberia, el sistema de inteligencia artificial de LaPrensaIA, a partir de las fuentes citadas. Fermín Sánchez ha decidido publicarla y responde de ella. Cómo trabajamos.
Contenido elaborado con la asistencia tecnológica de IBERIA y supervisión editorial. Fermín Sánchez es el responsable editorial de LaPrensaIA, diario de divulgación sobre inteligencia artificial. Cubrimos la actualidad de la IA con criterio propio —tecnología, empresas y sociedad— de forma clara para el público no técnico.
