Añadir The App Date como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Discord ha tenido que dar marcha atrás tras admitir un fallo que dejó fuera a miles de usuarios por subir imágenes que no tenían nada de peligro. La cifra no es menor, porque más de 8.000 cuentas quedaron suspendidas por error en dos meses y el problema siguió activo desde mayo.
Lo más llamativo del caso es el tipo de archivos que activaron la alarma. El sistema llegó a marcar como contenido dañino hojas de cálculo, tableros de ajedrez, texturas de juegos y fondos transparentes en blanco y gris, materiales que forman parte del uso más corriente de la plataforma.
Discord bloqueó cuentas antes de que llegara la revisión humana
Ahí aparece una de las fricciones más incómodas de la moderación automatizada. Discord compara lo que suben los usuarios con bases de datos de material dañino conocido y después un moderador humano revisa el contenido, pero en este fallo el bloqueo de la cuenta se ejecutó de forma inmediata.
Durante el fin de semana previo a que el equipo detectara y corrigiera el error, llegaron otras 200 suspensiones. La empresa asegura que todas las cuentas afectadas están ahora en proceso de restauración.
Discord se ha pronunciado sobre las medidas que intenta reforzar para evitar una repetición del problema.
"Estamos trabajando en mejores salvaguardas para que esto no vuelva a suceder" - Discord
Entre los usuarios suspendidos ha circulado una explicación tentativa que apunta a las imágenes con patrones de cuadrícula. La sospecha es que la inteligencia artificial habría aprendido a tratar esos diseños con más agresividad por su uso anterior para ocultar contenido inapropiado.
Los falsos positivos golpean incluso cuando la imagen no dice nada
El episodio retrata un problema muy concreto de las herramientas automáticas cuando operan a gran escala. Si una cuadrícula, una textura de videojuego o un fondo casi vacío bastan para perder el acceso a una cuenta, la experiencia deja de parecer una medida de seguridad y empieza a sentirse como una lotería.
Uno de los afectados resumió esa sensación con especial dureza.
"Perder una cuenta de Discord por algo tan injusto como esto puede ser extremadamente devastador y afectar gravemente a los usuarios, y todos los días millones de usuarios se ven afectados por falsos bloqueos de la inteligencia artificial. Esto tiene que detenerse" - un usuario afectado
El problema tampoco aparece en un vacío. El año pasado ya se reportaron suspensiones masivas sin explicación en Instagram, en grupos de Facebook y en Tumblr, hasta el punto de que el Consejo de Supervisión de Meta ha empezado a reclamar más transparencia en este tipo de decisiones.
Para cualquier usuario, la parte más difícil de asumir no está solo en el error técnico. Está en que una hoja de cálculo, un tablero de ajedrez o una textura de juego bastaran para activar un veto permanente, aunque ahora Discord esté restaurando unas cuentas que nunca debieron caer.