domingo, 22 de novembro de 2026NewspaperEdição nº 1

Segurança Digital · tecnologia

Bug no Discord baniu milhares de contas inocentes desde maio

Falha no sistema de moderação do Discord confundiu grids quadradas com material ilegal e baniu cerca de 8.200 contas desde maio. Planilhas, xadrez e inventário do Minecraft foram prejudicados.

Logo do Discord
Logo do Discord. Imagem: reprodução/Engadget

O Discord pediu desculpas公开amente nesta segunda-feira após descobrir que um bug em seus sistemas de segurança baniu erroneamente milhares de usuários ao longo dos últimos dois meses. O problema começou em maio de 2026 e pode ter afetado cerca de 8.200 contas.

A causa raiz é constrangedora: o sistema de moderação por IA do Discord compara conteúdo publicado pelos usuários com materiais nocivos conhecidos. Quando algo é flagrado, a conta é temporariamente suspensa enquanto a equipe de Trust & Safety revisa manualmente. O comportamento esperado era pausar os uploads durante a revisão — não banir a conta permanentemente.

" Tínhamos um bug que causava o banimento", explicou o suporte do Discord no X. "Quando nossa equipe revisava e liberava aquelas contas, o mesmo bug impedia que o banimento fosse removido automaticamente, então ele simplesmente permanecia ativo."

O gatilho eram imagens de grids quadradas. O sistema de IA erroneamente classificava qualquer padrão reticulado como material de abuso sexual infantil. Isso significava que planilhas do Excel, tabuleiros de xadrez, layouts CSS e até o menu de inventário do Minecraft podiam resultar em banimento automático.

Cerca de 200 contas foram pegas pelo problema apenas durante o fim de semana, mas o bug vinha operando silenciosamente desde maio. O Discord reconhece que "não é uma explicação satisfatória" para quem teve a conta banida por meses sem motivo.

A empresa afirmou que todas as contas banidas como falsos positivos já foram restauradas. Prometeu também trabalhar em "salvaguardas melhores para que isso não aconteça silenciosamente novamente" e, de forma mais ampla, garantir que os sistemas de segurança não penalizem pessoas que não fizeram nada de errado.

O caso levanta questões sobre os limites da moderação automatizada por IA — especialmente quando os falsos positivos resultam em perda de acesso a comunidades inteiras, servidores e histórico de conversas.

Fontes

Assuntosseguranca digitaltecnologia

← Voltar à edição de 07/07