vendredi 10 juin 2016

Les moteurs de recherche, usines à cliché !



Les nouvelles technologies sont-elles racistes ? 


Le débat est régulièrement alimenté par les internautes. Dernier scandale en date aux États-Unis, les mots-clés « three black teenagers » (« trois adolescents noirs ») dans Google Images affichaient comme résultats des clichés de jeunes incarcérés. Kabir Alli, un lycéen de Virginie, a posté une vidéo sur Twitter, lundi, qui montre sa recherche en direct. En remplaçant le mot-clé « noirs » par « blancs », il se retrouvait cette fois avec trois jeunes souriants et rayonnants. À la suite de la médiatisation de cette affaire, les résultats de la recherche ne sont aujourd'hui plus les mêmes.



Contrairement à d'autres internautes, Kabir Alli s'est gardé d'accuser Google de racisme : « Les résultats sont donnés par l'algorithme qu'ils ont créé, a-t-il écrit dans un autre message. [Ces gens] ne sont pas racistes, mais je pense qu'ils devraient mieux contrôler ce genre de choses. »


Cet incident n'est pas un cas isolé. En avril, une internaute américaine comparait déjà les résultats de recherche pour « coiffure adaptée au monde du travail » et « coiffure inadaptée au monde du travail ». Ces derniers mots-clés montraient des images de cheveux d'Afro-Américains, les autres des clichés de jeunes femmes blondes. Le message, symbole pour certains d'une discrimination à l'emploi contre les Afro-Américains, était devenu viral sur Twitter.




« Notre moteur de recherche pour les images est le reflet des contenus disponibles sur le Net, cela comprend la fréquence avec laquelle les photographies apparaissent et sont commentées, s'est justifié un porte-parole de Google, comme le rapporte le site d'information britannique The Telegraph.

Cela signifie que parfois des manières d'illustrer certains sujets sensibles en ligne peuvent avoir une influence sur les images qui apparaissent lors de certaines requêtes. Ces résultats ne reflètent pas les opinions et les idées de Google. » 

De fait, d'autres moteurs de recherche ont les mêmes soucis, comme Yahoo! ou Bing.


Cette réponse est la première manière de considérer le problème, en affirmant que la technologie elle-même est neutre, qu'elle n'est que le reflet des préjugés de certains individus au comportement raciste et intolérant. Une expérience d'intelligence artificielle conduite par Microsoft en mars avait prouvé qu'en laissant un robot de conversation apprendre de ces échanges avec les internautes, le résultat pouvait aboutir à des messages de la machine aussi racistes et provocateurs que « Bush est responsable du 11 Septembre » et « Hitler aurait fait un meilleur boulot que le singe que nous avons actuellement ».


D'aucuns pensent que certains biais sont introduits dans la manière de concevoir les outils informatiques eux-mêmes. » La technologie est pensée et testée par des Blancs jeunes pour des Blancs jeunes", estime Jacques Henno, journaliste spécialiste des nouvelles technologies cité par le média Slate. En juin dernier, Google avait été obligé de s'excuser après qu'une nouvelle application de photographie avait identifié de manière automatique deux personnes noires comme étant des « gorilles ». Preuve que les systèmes de reconnaissance faciale avaient été testés sur des échantillons de population trop peu diversifiés.


Un moteur de recherche n'est sans doute pas responsable des opinions de ses utilisateurs, mais des garde-fous sont nécessaires et le travail de modération n'est pas toujours aussi efficace que souhaité. En 2012, un litige a opposé Google et plusieurs associations antiracistes françaises. Celles-ci avaient mis au jour que les suggestions de recherche complétaient de manière automatique le nom d'une personnalité par le terme « juif ».


Aujourd'hui encore, clichés et préjugés continuent d'apparaître lors des saisies semi-automatiques. À la question « pourquoi les Noirs », Google suggère « aiment les bananes » ou « sentent », au milieu d'autres clichés racistes. Un dispositif permet de signaler des « prédictions choquantes », mais les mécanismes pour bannir les contenus pornographiques ou violents demeurent plus efficaces que ceux pour modérer les propos intolérants. Ironiquement, à la même question « pourquoi les Blancs », Google Suggest propose « sont racistes ».