Facebook veut prévenir le suicide avec l'intelligence artificielle
Les chercheurs en intelligence artificielle de Facebook ont élaboré des algorithmes pour sonder les comptes de gens en proie à des idées suicidaires dans les publications écrites et les vidéos – y compris les vidéos en direct – plus rapidement que les utilisateurs humains.
On se souvient, en janvier 2016, de l'émission Tout le monde en parle, où un invité de marque, dont le fils s'était donné la mort, avait alors émis le souhait que des algorithmes Facebook puissent détecter ce type d'idées suicidaires. Son appel semble avoir été entendu.
Après plusieurs mois de tests aux États-Unis, Facebook a maintenant suffisamment confiance en son système basé sur l'intelligence artificielle pour commencer à le déployer mondialement (à l'exception des pays membres de l'Union européenne, où les lois restreignent cette technologie).
Une fois signalées, les publications sont portées à l'attention d'une équipe de spécialistes de Facebook consacrée à cette tâche 24 heures sur 24.
Différentes options s'offrent à cette équipe lorsqu'elle considère que la menace est sérieuse. Elle peut contacter directement la personne ou ses proches pour leur suggérer des ressources (comme des lignes téléphoniques de prévention du suicide). Lorsqu'un cas est urgent, Facebook transfère les informations pertinentes à des spécialistes, tels que des organismes ou des policiers, pour qu'ils tentent de localiser la personne et qu'ils la prennent en charge.
L'intelligence artificielle cherche certains éléments clés dans les messages envoyés par des personnes suicidaires, précise le communiqué de Facebook. Les commentaires de leurs amis peuvent aussi aiguiller le système, par exemple lorsqu'ils contiennent des phrases comme « Est-ce que je peux t'aider ? » ou « Est-ce que ça va ? »
Facebook affirme que son intelligence artificielle a signalé des vidéos qui n'auraient, selon toute vraisemblance, jamais été remarquées autrement.
Des inquiétudes quant à la vie privée
Le hic, c'est que pour être efficaces, les programmes robots devront sonder tous les comptes. Interrogée par Techcrunch au sujet des risques pour la vie privée de ses utilisateurs, Facebook a indiqué qu'il n'était pas possible pour ses membres de désactiver cette nouvelle fonctionnalité. Certains commentateurs ont souligné les dangers potentiels d'une telle technologie, qui peut analyser en continu toutes les publications du réseau social pour détecter des éléments en particulier.
Alex Stamos, le chef de la sécurité de Facebook, a affirmé que son employeur allait s'assurer d'établir de bonnes normes en matière d'utilisation de l'intelligence artificielle, notamment en mesurant les avantages et les désavantages de la récolte de données personnelles.
Source : SRC