Facebook a admis qu’elle doit en faire davantage pour détecter plus rapidement tout contenu nuisible et le supprimer. L’entreprise explique pourquoi cela est tellement complexe.
Lors de l’événement américain South by Southwest, Brian Fishman, en charge des formations chez Facebook, a parlé des mesures anti-terroristes. A l’entendre, Fishman est bien conscient que les gouvernements du monde entier examinent actuellement Facebook à la loupe pour ce qui est de la lutte contre le terrorisme.
L’homme et l’AI
Pour l’instant, l’approche de Facebook se compose d’une combinaison d’algorithmes AI et d’une intelligence humaine saine, même si l’application de l’AI en est encore à ses débuts. A présent, l’intelligence artificielle peut déjà identifier des images controversées liées au terrorisme. En outre, les réseaux neuraux sont formés pour reconnaître des textes écrits potentiellement dangereux.
De plus, l’AI peut sur Facebook reconnaître si un utilisateur, qui a été précédemment banni, tente de créer un nouveau compte. A terme, Facebook espère pouvoir lancer également cette fonctionnalité sur Instagram.
Nuance
Fishman insiste cependant sur le fait que la lutte contre le terrorisme ne consiste pas simplement à appliquer un certain nombre d’algorithmes agressifs. “Bien que les algorithmes soient un ajout essentiel, il convient quand même de toujours faire dans la nuance. L’une des pondérations envisagée réside dans le fait que nous voulons vraiment bloquer du contenu de manière agressive, mais par ailleurs, il est important que nos utilisateurs puissent encore et toujours parler de sujets controversés sur Facebook.”
“Or pour ce genre de décisions nuancées, il faut encore faire appel à des humains”, conclut le manager antiterrorisme. Récemment, l’entreprise avait annoncé vouloir recruter 10.000 nouveaux collaborateurs en vue de faire face aux messages de haine. Il n’empêche qu’il faut consentir encore plus d’efforts, selon Fishman.
Pression politique accrue
L’Allemagne a au début de cette année déjà annoncé des règles plus rigoureuses pour les médias sociaux quant à la suppression de contenus néfastes. Le pays entend prendre des sanctions si du contenu est supprimé trop tardivement. La France prépare elle aussi une nouvelle réglementation en vue de lutter plus strictement contre la désinformation.
Quant à la Grande-Bretagne, elle a développé son propre outil logiciel qui se veut nettement plus efficient que les techniques actuelles que Facebook applique pour la suppression de contenu nuisible. Les autorités britanniques mettent ainsi fièrement des chiffres sur la table et lancent un appel pour plus de dialogue avec les réseaux sociaux. La Grande-Bretagne envisage de contraindre Facebook à utiliser son logiciel.
