Le réseau social a annoncé lundi le déploiement d'un système qui cherche des indices dans les posts et les vidéos des utilisateurs aux pensées suicidaires.
Le système d'intelligence artificielle passera au crible les messages de membres mais aussi les réponses de leurs amis qui pourraient, par exemple, leur demander si tout va bien ou « qu'est-ce que je peux faire pour t'aider ? » explique Guy Rosen. Facebook a déjà mis en place des outils permettant à ses utilisateurs de signaler si un ami semble vouloir mettre fin à ses jours, mais l'intelligence artificielle permet de signaler plus rapidement ces informations et même de détecter des signaux que les membres pourraient ne pas déceler.
Le système ne sera pas déployé en Europe
« De terribles événements tragiques, dont des suicides, certains diffusés en direct, auraient peut-être pu être évités si quelqu'un s'était rendu compte de ce qui se passait et en avait fait part plus tôt », avait déclaré le patron de Facebook, Mark Zuckerberg, en février. « L'intelligence artificielle peut aider à offrir une meilleure approche », poursuivait-il dans une lettre ouverte.
Après l'avoir testé aux États-Unis, Facebook va déployer ce système d'intelligence artificielle. « Il finira par être disponible partout dans le monde, sauf dans l'UE », souligne Guy Rosen sans plus de précisions. Les données personnelles sont protégées dans l'Union européenne par une réglementation plus stricte qu'aux États-Unis. Facebook collabore depuis une décennie avec des organisations spécialisées dans la santé mentale afin de lutter contre les suicides et d'aider ses membres en détresse à trouver le soutien nécessaire, explique Guy Rosen dans son message.