Compartías patatas tras entrenar y la policía te esposa: la IA confundió un Doritos con un arma

Compartías patatas tras entrenar y la policía te esposa: la IA confundió un Doritos con un arma

«Gracias por no salir corriendo, eso habría sido un problema de verdad», le dijo un policía a cuatro adolescentes a los que acababa de esposar por una bolsa de Doritos.

Pasó en octubre de 2025, en el instituto Kenwood, en el condado de Baltimore (Estados Unidos). Cuatro chicos negros compartían unas patatas Cool Ranch después del entrenamiento de fútbol, esperando a que los recogieran. El sistema de inteligencia artificial del colegio, Omnilert, vio a uno de ellos con la bolsa en la mano y lo marcó como un posible tirador.

La alarma se canceló en dos minutos, pero la policía llegó igual

Aquí viene lo absurdo. Dentro de esos dos minutos, personal del distrito escolar revisó las cámaras, reconoció la bolsa de patatas y canceló el aviso. La alerta, que también había llegado a la policía del condado de Baltimore, quedó anulada. Podría haber terminado ahí.

Antes de seguir: llévate las herramientas y prompts listos para usar, GRATIS. Probados uno a uno y ordenados por la tarea que quieres resolver: vídeo, imagen, voz, escribir, automatizar tu negocio, clientes, web. Es gratis y la lista crece cada semana.

Entras también en el boletín semanal de La Prensa IA. Te das de baja cuando quieras, con una palabra.

¿Y entonces por qué aparecieron los coches patrulla? Según el Inspector General de Educación, la directora, Kate Smith, vio la alerta, no se dio cuenta de que estaba cancelada y 15 minutos después escribió a un agente escolar para que llamara a la policía. En ese mismo mensaje admitía que el objeto era «maybe not» un arma, es decir, «quizá no». El informe añade que nunca la habían formado para usar el sistema.

Seis patrullas, armas en mano y los chicos de rodillas

Llegaron al menos seis coches con las luces encendidas, y algunos agentes sacaron las pistolas. Según la demanda de los chicos, Taki Allen, Yui-Osa Ogbeide, Devon Thompson Jr. y Keith Winfield III, nadie les dijo de qué se les sospechaba. Los separaron, los pusieron de rodillas sobre el cemento, los esposaron y registraron sus cosas.

Cuando preguntaron por qué también registraban a los demás, les habrían contestado que eran culpables «por asociación». Y al descubrir que todo venía del sistema de IA, uno de los agentes habría murmurado «cámaras de IA estúpidas». Otro, al irse, bromeó con que tuvieran «cuidado con las bolsas de patatas».

Lo que les queda después de aquella tarde

Los chicos hablan de marcas rojas en las muñecas, miedo, ansiedad y humillación. Corren rumores por el centro de que había un arma de verdad. Taki Allen ya no se siente seguro esperando fuera del instituto y a menudo paga un coche privado para volver a casa. Keith Winfield vive muy cerca, pero llamaba a su madre varias veces tras cada entrenamiento para comprobar que iba a buscarlo.

Su madre, Frieda Winfield, lo resume así: «Ningún niño del condado de Baltimore debería pasar por este peligro esperando a su madre a la puerta de su propio colegio».

Ojo: el Inspector General concluyó que el sistema Omnilert no tenía «sesgo», y recomendó formación dos veces al año y menos gente recibiendo las alertas. Los chicos dicen que no basta.

Además, según el propio informe, más del 99 % de las alertas de este tipo en las escuelas del condado fueron falsos positivos que no requerían intervención policial. Los alumnos afirman que la directora debería haberlo sabido. También aseguran que nunca se disculpó y que bromeó con emojis de risa en mensajes con otros responsables.

Qué piden los chicos

La demanda, apoyada por la organización de derechos civiles Lawyers’ Committee for Civil Rights Under Law, apunta a Omnilert, a los agentes y al distrito escolar. Pide que se prohíba usar el sistema hasta que personal y policía estén bien formados, y alega que se violaron derechos constitucionales de los alumnos. Su presidente, Damon Hewitt, habla de «exceso de confianza en la IA mezclado con una comunicación torpe».

Qué implica para ti

Si tienes hijos en un colegio con cámaras inteligentes, o trabajas en uno, pregunta quién recibe las alertas, quién las verifica y qué pasa cuando alguien las cancela. Este caso nace de un aviso anulado que llegó tarde a una persona sin formación.

Y no es solo un problema de Estados Unidos: cualquier centro que instale algo parecido tiene la misma pregunta pendiente. La clave está en qué ocurre cuando la máquina se equivoca y alguien decide llamar a la policía de todas formas.

PD: el abogado de los chicos insiste en que el caso debería servir de lección a escuelas y policías de todo el país.

Imagen ilustrativa generada con inteligencia artificial.

Fuente original: arstechnica.com

Esta pieza la ha redactado Iberia, el sistema de inteligencia artificial de LaPrensaIA, a partir de las fuentes citadas. Fermín Sánchez ha decidido publicarla y responde de ella. Cómo trabajamos.