Le Brésil ordonne à Discord de suspendre la diffusion en direct après le suicide d'une adolescente de 13 ans pendant une diffusion

L'incident

Une fillette de 13 ans s'est suicidée le 22 juillet à Naviraí, dans l'État du Mato Grosso do Sul (centre-ouest), après une diffusion en direct de 45 minutes sur Discord au cours de laquelle d'autres participants l'ont encouragée à s'automutiler et à se tuer. Le groupe l'a également exhortée à torturer et tuer un chat, mais elle n'a pas pu le faire, selon Alessandro Barreto, coordinateur de l'unité de renseignement Ciberlab du ministère de la Justice. Les participants ont envoyé de l'argent à la victime afin qu'elle puisse acheter des lames de rasoir à l'insu de sa mère, ont indiqué les enquêteurs.

Arrestations et enquête

La police fédérale a arrêté cinq adolescents âgés de 13 à 17 ans et un adulte de 18 ans en lien avec le décès, pour homicide aggravé et appartenance à une organisation criminelle. Le groupe, dirigé par un garçon de 14 ans arrêté à Rio, opérait depuis des lieux distants de milliers de kilomètres, avec des arrestations effectuées au Mato Grosso do Sul, à Rio, au Minas Gerais, au Ceará et au Pará. Les autorités ont saisi des ordinateurs, des téléphones portables, des armes blanches et des objets néonazis. Une opération de police distincte a sauvé une autre fille qui était sur le point de se suicider en direct sur Internet.

Barreto a décrit l'affaire comme impliquant des « actes véritablement odieux diffusés en ligne » et a déclaré que l'un des arrêtés, un garçon de 14 ans, « souriait comme s'il venait de battre un niveau dans un jeu ».

Nous avions l'habitude de voir des adultes manipuler des mineurs. Maintenant, que voyons-nous ? Des mineurs qui manipulent d'autres mineurs pour commettre des actes barbares. Cela s'appelle l'esclavage numérique. Des filles sont asservies en ligne et contraintes à commettre des actes vraiment barbares.

Action réglementaire

L'ANPD a ouvert son enquête le 7 août et a ordonné le 12 août à Discord de suspendre sa fonction de diffusion en direct « Go Live » dans un délai de trois jours ouvrables. L'agence a invoqué des « preuves solides que l'entreprise n'a pas adopté de mesures raisonnables » pour protéger les enfants et les adolescents contre les contenus faisant la promotion de la violence, de l'automutilation et du suicide. L'inspecteur de l'ANPD, Fabricio Lopes, cité par le portail brésilien G1, a précisé que Discord lui-même ne serait pas bloqué, seulement la fonction Go Live. La suspension reste en vigueur jusqu'à ce que Discord démontre la mise en œuvre de mesures de protection adéquates, pouvant inclure des vérifications de l'âge. Discord encourt des amendes pouvant atteindre 50 millions de reais (9,67 millions de dollars) par infraction et peut faire appel dans un délai de 10 jours ouvrables.

Réponse de Discord

Discord a indiqué à la BBC qu'il « examinait attentivement » l'ordre de l'ANPD et qu'il était « déterminé à assurer la sécurité des utilisateurs ». Un porte-parole a déclaré que les preuves montraient que l'activité criminelle « avait été coordonnée sur d'autres plateformes avant la création du serveur Discord » et s'était poursuivie « après que les personnes impliquées aient été bannies de Discord ». Les représentants de Discord ont rencontré les autorités brésiliennes le vendredi 7 août et ont soumis un plan de protection de l'enfance le lundi 10 août. La plateforme, qui compte environ 200 millions d'utilisateurs actifs mensuels, n'a pas accès en temps réel au contenu des diffusions en direct, ce qui, selon l'ANPD, empêche la détection automatisée des violations.

Pression politique

La première dame Janja da Silva, épouse du président Luiz Inácio Lula da Silva, a appelé à ce que Discord soit bloqué au Brésil, exhortant « le pouvoir judiciaire à retirer cet horrible réseau d'Internet ». Son appel est intervenu lors d'une cérémonie où le président Lula a signé une loi prolongeant les peines pour les agresseurs sexuels de mineurs. Le Brésil a récemment renforcé la protection des enfants en ligne, exigeant que les plateformes lient les comptes des utilisateurs de moins de 16 ans à ceux de leurs parents et vérifient l'âge des utilisateurs en vertu du soi-disant statut ECA Digital.