BNP | – Création d’un Wiki consacré aux ‘biais dans les modèles d’IA’

Partager sur linkedin
Partager sur twitter
Partager sur facebook

BNP | – Création d’un Wiki consacré aux ‘biais dans les modèles d’IA’

L’équipe GDO a pour but d’aider à identifier et générer de nouvelles opportunités à l’aide de données fiables.

Afin de remplir sa mission, elle a notamment réalisé un état de l’art concernant les méthodes de détection et de compensation des biais en Intelligence Artificielle.

A l’issue de ces travaux, un support de formation, ayant vocation à servir de référence aux Data Scientists a été réalisé.

Cependant, il n’a pas été jugé suffisamment opérationnel.

Le but de la mission a donc été de réaliser un nouveau document, complémentaire et plus didactique, qui reprenne les éléments du support de formation et les rendent plus opérationnels à destination des Data Scientists, par exemple en intégrant des cas pratiques (en utilisant des bases publiques), des exemples de code, etc.

Challenges client

Création et rédaction d’un wiki opérationnalisant le contenu du support de formation au sujet de la détection, de la mesure et de la correction des biais et des discriminations dans les modèles d’IA.

Approche méthodologique

  • Identification d’un cas d’usage sur lequel appliquer les différentes techniques de détection et de compensation des biais issues du support de formation
  • Création du code permettant de détecter et de compenser les biais et discriminations de notre cas d’étude, notamment en comparant les données à d’autres bases publiques (i.e. données de recensement INSEE)
  • Rédaction d’un Wiki Gitlab opérationnalisant le support de formation
    • Présentation de la problématique et de l’état de l’art en reprenant le contenu du support de formation
    • Identification des extraits de code (snippets) à inclure dans le document pour expliquer pas à pas les étapes pour détecter et corriger biais et discriminations
    • Illustration et comparaison des résultats obtenus sur notre cas d’usage par chacune des techniques

Résultats

Repository Gitlab contenant :

  • Le document opérationnalisant le support de formation sous forme de Wiki
  • Le code Python permettant la mise en œuvre des différentes méthodes de détection et de compensation des biais et discriminations

En savoir plus sur le projet

Guillaume Pinaud
Guillaume
Pinaud
Directeur Data & Customer Marketing
Olivier Berbille
Olivier
Berbille
Directeur d'agence novencia Lyon
Great Place To Work numéro 1 Novencia

Voir les offres

Formation Solutions Analytics & Science
Data Scientist / Analyst (F/H)
Formation Solutions Analytics & Science
Data Scientist Marketing (F/H)
Formation Solutions Analytics & Science
Manager Projet Data (F/H)
Formation Solutions Analytics & Science
Data Analyst Marketing (F/H)