A Agência Nacional de Proteção de Dados (ANPD) determinou a suspensão das transmissões ao vivo e de outros recursos de compartilhamento de vídeo do Discord no Brasil. A medida está relacionada a falhas apontadas pela agência na proteção de crianças e adolescentes, agravadas pela adoção de criptografia de ponta a ponta nas chamadas de áudio e vídeo.
A decisão não significa o bloqueio do Discord no país. Mensagens de texto e chats de voz continuam disponíveis. Já as transmissões de vídeo só poderão ser retomadas depois que a empresa comprovar a adoção das medidas de proteção exigidas pela ANPD e receber autorização da agência.
A plataforma terá três dias úteis para cumprir a determinação.
O que levou à suspensão?
Segundo a ANPD, o Discord apresenta falhas na identificação e no combate a situações envolvendo violência, assédio, automutilação e incentivo ao suicídio entre menores de idade.
O caso ganhou maior repercussão após a morte de uma adolescente de 13 anos, em 22 de julho. As investigações indicam que integrantes de um servidor da plataforma teriam incentivado a jovem à automutilação e ao suicídio.
Na semana passada, a primeira-dama Rosângela da Silva, a Janja, defendeu publicamente o bloqueio do Discord.
O que a criptografia tem a ver com isso?
Em 2 de março, o Discord passou a utilizar criptografia de ponta a ponta em comunicações de áudio e vídeo. A tecnologia aumenta a privacidade porque impede que a própria plataforma tenha acesso direto ao conteúdo transmitido.
O problema apontado pela ANPD é que essa proteção também dificulta a identificação automática de conteúdos potencialmente perigosos durante uma transmissão.
Antes da mudança, sistemas da plataforma poderiam analisar conteúdos para detectar sinais de violência, assédio, intimidação, coação, automutilação ou suicídio. A identificação desses sinais poderia levar à interrupção ou redução do alcance de uma transmissão e ao encaminhamento do caso para uma equipe especializada.
Com a criptografia, a empresa passou a depender de outros mecanismos, como denúncias de usuários, metadados e análise de padrões de comportamento e de relacionamento entre contas.
Para a ANPD, entretanto, o Discord não apresentou evidências suficientes de que esses mecanismos sejam capazes de oferecer proteção equivalente.
Discord admitiu falha após morte de adolescente
Depois da morte da adolescente, o Discord informou ao Ministério da Justiça e Segurança Pública que o sistema responsável por identificar situações de risco e acionar uma revisão humana apresentou uma falha.
De acordo com documento enviado pela empresa ao governo, a atividade no servidor começou às 2h20 do dia 22 de julho. O espaço foi removido às 4h15, depois que a plataforma recebeu um alerta do núcleo de inteligência da polícia.
A empresa afirmou que, no momento do caso, os sinais de risco existentes no servidor não foram suficientes para acionar automaticamente o sistema de alerta ou uma revisão humana imediata.
Segundo o documento, o servidor recebeu uma pontuação de risco de 0,12, enquanto o nível necessário para a identificação automática era de 0,95.
O Discord também afirmou que não encontrou registros que indiquem que o ato final tenha sido transmitido na plataforma depois da remoção do servidor. Todas as contas associadas ao espaço foram banidas.
Por que a ANPD considera a situação grave?
Para a agência, transmissões ao vivo representam um desafio adicional porque conteúdos podem ser produzidos e consumidos em tempo real, dificultando a intervenção de responsáveis e da própria plataforma.
A ANPD entende que, se determinada tecnologia de segurança, como a criptografia de ponta a ponta, impede a utilização de um mecanismo de proteção, a empresa precisa adotar outras ferramentas capazes de oferecer proteção equivalente ou superior, especialmente em serviços utilizados por adolescentes.
O advogado especialista em privacidade Fernando Manfrin também considera as lives um dos pontos mais vulneráveis desse tipo de plataforma. Segundo ele, o conteúdo pode desaparecer rapidamente, fazendo com que o dano ocorra enquanto a transmissão está no ar.
O que o Discord diz?
O Discord afirmou estar “desapontado” com a decisão da ANPD e classificou a medida como “prematura”. A empresa alegou que recebeu o processo na última sexta-feira e ainda estava dentro do prazo para apresentar sua resposta.
A plataforma também sustenta que mantém mecanismos de monitoramento baseados em comportamento, relações entre contas, padrões de rede, metadados, denúncias e histórico de medidas tomadas contra usuários.
O Discord pode ser multado?
Sim. Caso a empresa descumpra a determinação, o Conselho Diretor da ANPD poderá estabelecer uma multa diária, cujo valor ainda não foi definido.
O processo de fiscalização continua e poderá resultar em novas medidas corretivas. Se forem confirmadas irregularidades, a plataforma também poderá sofrer as sanções previstas no ECA Digital, incluindo multa de até R$ 50 milhões por infração.
Apesar da suspensão das transmissões, o Discord terá dez dias úteis para apresentar recurso à Superintendência de Fiscalização (SFI) da ANPD.
