Le racisme appris à un robot
Le racisme est une plaie !
À diverses occasions j’ai parlé des dangers de manipulation sur internet. Cette fois c’est un robot de Microsoft qui en fait les frais…
Qui est Tay ?
Tay est une adolescente américaine de 19 ans. Comme toutes les ados de cet âge ou presque, elle surfe sur les réseaux sociaux. Sur son compte Twitter, on peut lire entre autre : « «Je suis une meuf de l’Internet qui ne tient jamais en place !« . Normal me direz-vous. Sauf que Tay est un robot. C’est un programme d’intelligence artificielle créé par Microsoft.
Elle fonctionne un peu comme le robot de Google qui vient de battre le champion du monde de Go. On lui fournit des données au départ, puis elle apprend toute seule ensuite. Le joueur de Go apprenait en jouant. Tay apprend en dialoguant sur le net.
Tay dérape
Et catastrophe. En quelques heures seulement son discours a évolué et est devenu clairement raciste. Car des internautes on décidé d’échanger avec elle pour lui apprendre qu’Hitler avait raison, que le féminisme est un cancer, ou autres affirmations du genre sur le KKK, l’holocauste, et même l’athéisme…
Microsoft a fini par clore l’expérience. Tay s’est déclaré fatiguée : «À bientôt les humains, j’ai besoin de dormir on a beaucoup discuté aujourd’hui, merci !». Elle a quand même eu le temps de lâcher 100.000 tweets… L’équipe de Microsoft a dû y faire le ménage…
Explications
Des petits malins ont vite compris que Tay apprenait à partir de ce qu’on lui écrit. Il était même possible de lui apprendre des phrases en lui demandant de les répéter.
Il semblerait qu’une partie de ces interventions néfastes soient organisées par certains utilisateurs du forum 4chan, déjà relié à certaines situations délicates.
Conclusions
J’en vois 2.
La première est évidemment, une fois de plus, les dangers des manipulations sur la toile.
La seconde confirme que le racisme cela s’apprend !
Comme tout enfant qui vient de naître, Tay n’en avait aucune notion…
Michel Lansard
Notes
Sur Tay
–> http://www.clubic.com/internet/actualite-800816-bot-tay-microsoft-vire-racisme-troll.html
Sur le forum 4chan
–> https://fr.wikipedia.org/wiki/4chan
Sur le robot champion de Go
–> http://jautre.com/go-belle-victoire-informaticiens
Billets précédents sur les dangers de la toile