Le journal Le Monde a relaté les enseignements d'une étude réalisée par cinq chercheurs américains de l'université Cornell : ceux-ci ont réussi à passer à travers les mailles de l'algorithme du géant Yelp grâce à un un robot qui peut non seulement publier des avis, mais aussi les créer en personnalisant et en qualifiant le contenu.
Selon les chercheurs, "aujourd'hui, [sur internet], la désinformation est utilisée tel un outil pour nuire à la concurrence, gagner des campagnes politiques et retourner l'opinion publique". Les avis sur les restaurants ne dérogent pas à cette règle, comme l'ont prouvé ces chercheurs. Jusqu'alors, la pratique consistait à rémunérer des prestataires humains pour créer et déposer de faux avis, soit en faveur d'un établissement, soit en défaveur d'un autre.
L'usage de l'intelligence artificielle et du Machine Learning pourrait conduire vers de nouveaux types de fraudes. Ces machines "ont atteint un point où elles peuvent produire un contenu suffisamment clair et correct pour devenir non-différenciable de celui produit par les humains".
Les avis évoquent, par exemple, le type de cuisine proposée par l'établissement, son environnement immédiat… Ces chercheurs ont pu créer une machine qui produit, tel un humain, des avis frauduleux sans être repérés par les robots modérant les sites d'avis. Pire, ils ont été publiés sur Yelp , maintenus et ont été jugés utiles par les visiteurs, au même titre que les avis écrits par des humains.
Les chercheurs ont toutefois également créé un antidote à leur arme de publication, en prouvant que les avis publiés par le robot peuvent être détectés grâce à la faiblesse de son vocabulaire.
Publié par Vanessa GUERRIER-BUISINE
Commentaires
