Governo suspende transmissões ao vivo do Discord no Brasil após morte de jovem de 13 anos

A Agência Nacional de Proteção de Dados (ANPD) determinou, nesta quarta-feira, 12, que a plataforma Discord suspenda, no Brasil, a funcionalidade de transmissão ao vivo no prazo de três dias úteis. As lives e outros recursos equivalentes de transmissão e compartilhamento de vídeos deverão permanecer suspensos até que a empresa comprove a adoção de medidas para proteger crianças e adolescentes.

A decisão ocorre após o caso da adolescente de 13 anos que teria sido induzida por um grupo de adolescentes a cometer suicídio durante uma transmissão na plataforma. A adolescente morava em Naviraí, em Mato Grosso do Sul, e tirou a própria vida na residência onde vivia com a família. O momento foi transmitido ao vivo pelo Discord. A Polícia Civil de MS investiga o caso.

A ANPD instaurou um processo de fiscalização na última sexta-feira, 7, para apurar possíveis falhas na proteção de crianças e adolescentes no ambiente digital. A Agência recebeu informações do Discord na segunda-feira, 10, e se reuniu com representantes legais da empresa na terça-feira, 11.

“A medida cautelar de suspensão da funcionalidade de lives foi determinada pela Superintendência de Fiscalização (SFI-ANPD) em função de evidências robustas de que a empresa não adotou medidas razoáveis para prevenir e mitigar riscos de acesso, exposição, recomendação ou facilitação de contato com conteúdos ou práticas que representem graves violações de direitos de crianças e adolescentes no âmbito do seu serviço, sobretudo indução, incitação, instigação ou auxílio à violência, à automutilação e ao suicídio, conforme o Estatuto Digital da Criança e do Adolescente (art. 6º, II e III)”, disse a ANPD.

Segundo a SFI, a medida não determina o bloqueio do Discord. A suspensão é direcionada à funcionalidade “Go Live”, utilizada para transmissões ao vivo em servidores fechados. O objetivo, de acordo com a Agência, é reduzir os riscos de danos graves ou de difícil reparação aos quais crianças e adolescentes estariam expostos.

A área técnica da ANPD afirma já ter elementos suficientes para justificar a adoção da medida emergencial, especificamente em relação à funcionalidade de transmissões ao vivo. “Ela tem sido reiteradamente usada para a prática de crimes graves, nos últimos anos, colocando em risco a integridade física e mental dos menores de 18 anos”, afirmou a Agência.

A determinação não impede a adoção de outras medidas durante o processo de fiscalização. Entre as possibilidades está a celebração de um plano de conformidade, pelo qual o Discord poderá se comprometer a implementar melhorias em outros aspectos de seus serviços para atender às exigências do ECA Digital.

Constatações da ANPD

A decisão de concentrar a medida cautelar nas transmissões ao vivo ocorreu após a ANPD concluir que o Discord vem sendo utilizado de forma recorrente para graves violações contra crianças e adolescentes. Segundo a Agência, as lives têm sido empregadas repetidamente em práticas envolvendo violência, assédio, indução à automutilação e ao suicídio.

A ANPD também aponta limitações na arquitetura técnica da plataforma. Como o Discord não tem acesso ao conteúdo das transmissões de vídeo enquanto elas ocorrem, ficam inviabilizados mecanismos de análise audiovisual e de detecção, em tempo real, de possíveis violações dentro dos servidores.

“A plataforma depende de sistemas automatizados falhos e de denúncias dos próprios participantes desses ambientes voltados à prática dessas violações”, acrescenta a Agência.

Outro ponto destacado pela ANPD é que, no início de março, após a promulgação do ECA Digital e antes de sua entrada em vigor, o Discord teria realizado mudanças técnicas na funcionalidade “Go Live” que a tornaram ainda menos protetiva para crianças e adolescentes.

Para a Agência, a alteração violou deveres de prevenção desde a concepção até o gerenciamento contínuo dos riscos relacionados aos recursos, funcionalidades e sistemas. As medidas atualmente apresentadas pela plataforma, segundo a ANPD, têm caráter predominantemente posterior ao dano ou eficácia preventiva limitada.

Além das lives, a medida cautelar determina a suspensão de recursos equivalentes de transmissão e compartilhamento de vídeos e exige a implementação de mecanismos tecnicamente eficazes para impedir tentativas de burlar a determinação.

A suspensão permanecerá em vigor até que o Discord demonstre a implementação e a efetividade de medidas técnicas, de segurança e de governança adequadas aos riscos identificados para crianças e adolescentes. A reativação, total ou parcial, das lives dependerá de autorização expressa e prévia da ANPD.

Possíveis sanções e recursos

Caso sejam constatadas irregularidades no processo administrativo, a ANPD também poderá determinar medidas corretivas e aplicar as sanções previstas no artigo 35 do ECA Digital, que incluem multa de até R$ 50 milhões por infração.

Os representantes do Discord foram notificados pela Superintendência de Fiscalização e deverão comprovar, no prazo de três dias úteis, o cumprimento integral da suspensão em território nacional. A empresa terá dez dias úteis para apresentar recurso à SFI. Caso não haja reconsideração, ainda será possível recorrer ao Conselho Diretor da ANPD.

O processo de fiscalização também apura possíveis falhas no cumprimento das medidas previstas no ECA Digital para prevenir e mitigar riscos de exposição, recomendação ou facilitação de contato de menores de 18 anos com conteúdos relacionados à indução, incitação, instigação ou auxílio à automutilação e ao suicídio.

A investigação ainda abrange a possível ausência de mecanismos efetivos de aferição de idade, falhas nos deveres de remoção de conteúdo violador e de comunicação às autoridades competentes, entre outras possíveis infrações.

Em nota, o Discord afirmou que recebeu a determinação da ANPD e está analisando cuidadosamente seu conteúdo. “A caracterização do Discord feita pela ANPD não reflete a plataforma que construímos nem os investimentos que temos feito na segurança dos usuários. O Discord não tolera grupos ou indivíduos que promovem ou incentivam a violência”, afirma.

Segundo a plataforma, o servidor privado, acessível somente por convite e envolvido no caso, foi investigado e removido pouco depois de sua criação. O Discord afirmou ainda que segue cooperando com as autoridades policiais na investigação. Além disso, alega que a apuração encontrou evidências de que a atividade criminosa foi coordenada em outras plataformas antes da criação do servidor no Discord e continuou nesses ambientes após os indivíduos envolvidos terem sido banidos da plataforma.

“Temos o compromisso com a segurança dos nossos usuários e contamos com equipes dedicadas em desarticular a atuação desses grupos, derrubar conteúdos que violem nossas políticas e tomar medidas contra os responsáveis por essas condutas em nossa plataforma. Esperamos continuar nossas conversas com formuladores de políticas públicas no Brasil para promover uma experiência online mais segura para todos os usuários, tanto no Discord quanto em toda a internet”, acrescentou.

*Com informações de Terra