[Tribune] L'IA au service de l'égalité ?

Il y a quelques semaines éclatait une nouvelle polémique sur les réseaux sociaux : dans un post devenu viral, un entrepreneur américain accuse la carte de paiement d'Apple d'être sexiste. "Ma femme et moi-même déclarons nos impôts conjointement et nous sommes mariés depuis longtemps. Et pourtant l'algorithme "boîte noire" d'Apple pense que j'ai le droit à une limite de crédit 20 fois plus élevée qu'elle", déplore-t-il.

L'intelligence artificielle inconsciemment biaisée par ses concepteurs...

Ce n'est pas la première fois que l'intelligence artificielle propage et renforce les inégalités de genre. Comme les humains, elle se nourrit des informations de son environnement pour apprendre à en identifier les différentes composantes. Ses algorithmes assimilent les stéréotypes culturels sexistes, alors même qu'ils influencent nombre de choix individuels et collectifs. Ils suivent une procédure de machine learning (apprentissage automatique) grâce à un jeu de données et une méthode ad hoc.

...et ses contraintes.

La phase de construction du corpus d'apprentissage est très importante pour que l'intelligence artificielle fournisse de bons résultats. Or, dans les bases de données les plus populaires, malheureusement certains groupes sont sur-représentés par rapport à d'autres. On a dans cette hypothèse la possibilité de réduire les biais des algorithmes en "forçant" certains résultats. C'est ce qu'a fait la société Primer qui a développé un outil contre la sous-représentation des femmes sur Wikipédia. Il génère automatiquement de courtes biographies de scientifiques méritant d'apparaître dans l'encyclopédie en ligne : 50 % concernent des femmes. à l'intersection des technologies et de l'engagement sociétal, on voit toutefois apparaître de nouveaux concepts pour démasquer les biais algorithmiques, voire même de nouveaux concepts comme le "incoding", le fait de coder de façon plus inclusive. A notre échelle, chez Levia.ai, nous travaillons au jour le jour avec des flux de produits. Appartenant à la seconde vague des assistants virtuels apprenant, nourris d'intelligence artificielle et NLU (la compréhension du langage naturel), Levia.ai permet en effet de concevoir des vendeurs virtuels entraînés sur des scénarios de ventes expérimentés en commerce physique, et capables d'identifier la progression de l'internaute dans le tunnel de vente. Nous observons régulièrement que les produits sont organisés très tôt par rapport au genre. Ainsi, il est par exemple très difficile de trouver des jouets sans spécifier un genre. Pour contrebalancer ce fait, nos agents conversationnels vont proposer une recherche par usage.

Société égalitaire

Les initiatives pour faire de l'intelligence artificielle un facteur d'égalité sont encore aux prémices et aux mains du bon vouloir des entreprises du secteur. Pourtant, c'est maintenant que les enjeux de l'intelligence artificielle se déterminent. Ceci est important, car la collecte d'un ensemble de données plus varié aidera dans certains cas. De même, au-delà de la correction des biais, le code source peut être modifié pour refléter la société non plus telle qu'elle existe mais telle qu'elle devrait être : égalitaire. Comme l'indiquent Flora Vincent et Aude Berheim, auteures du livre L'intelligence artificielle, pas sans elles ! , "il est bien plus facile de changer des lignes de codes que de changer les mentalités : ne laissons pas passer cette chance. Transformons l'intelligence artificielle et ses concepteurs-rices pour transformer la société."