Qu'est-ce que l'IA responsable ? Les panélistes donnent leur avis

« Avec l'IA vient un pouvoir et un potentiel énormes, mais aussi... des risques associés », a déclaré Yara Elias, leader en gestion des risques liés à l'IA, EY. Elias a participé à une table ronde lors de la Conférence & dîner Catalyst Honours, modérée par Rubiena Duarte, vice-présidente de la diversité mondiale et de l'inclusion, Procore. La session, intitulée « Faire progresser la représentation et l'inclusion grâce à une IA responsable », a rassemblé les perspectives de professionnels de la technologie, de l'éthique de l'IA et de la diversité, de l'équité et de l'inclusion (DEI). Les intervenants Karlyn Percil, Chief Equity Officer, KDPM Equity Institute, et Anna Jahn, directrice des politiques publiques et de la recherche, Mila (Institut québécois de l'IA), ont discuté des biais humains intégrés dans l'IA et comment nous pouvons construire cette technologie autrement. « Je voulais aborder l'éléphant dans la pièce de l'IA : l'IA actuelle est construite sur le cadre racial blanc.

Nous devons parler de la culture dominante et aller au-delà de la DEI pour regarder l'équité humaine », a déclaré Percil. Jahn a ajouté : « Ce n'est pas une technologie tombée du ciel... Nous l'avons construite. Nous avons le pouvoir de la construire autrement.

Pour perturber les schémas de préjugés systémiques, Percil a recommandé aux organisations de se concentrer sur des stratégies d'IA inclusives et d'intégrer une grande diversité de voix au sein et en dehors de leurs entreprises. « Si nous prenons le temps de rediriger notre attention, les organisations peuvent commencer à construire une IA responsable en partant de là où elles en sont... Qu'est-ce qui fonctionne dans votre entreprise ? Votre stratégie DEI inclut-elle l'IA ? » a-t-elle déclaré. « Prenez votre place dans la conversation »,

Jahn a encouragé le public : les codeurs et programmeurs ne devraient pas être les seules personnes à décider de comment fonctionnent les algorithmes d'IA ou des ensembles de données qu'ils utilisent. Elias a convenu avec Jahn, en affirmant : « Nous avons besoin de personnes ayant des parcours dans l'éthique, le juridique et la conformité, la philosophie, la sécurité, la technologie, pour nous rejoindre à la table. Construire des systèmes d'IA demande l'implication d'un village entier."

• Des barrières importantes existent pour les femmes et les groupes sous-représentés lorsqu'ils entrent et réussissent dans les domaines de la technologie et de l'IA. Les entreprises doivent être proactives pour démanteler ces obstacles via des pratiques de recrutement mises à jour, des programmes de mentorat, des cultures d'équipe inclusives, et bien plus encore.
• Les systèmes d'IA modernes reflètent et amplifient souvent les biais humains existants, menant à des résultats injustes et non éthiques. Nous avons la responsabilité et le pouvoir de construire ces systèmes différemment, de manière équitable et inclusive dès le départ.
• Pour créer une IA responsable, les organisations doivent adopter une approche systémique qui considère l'éthique, la conformité, la sécurité et la philosophie en parallèle avec l'expertise technique. Des représentants de tous les parcours et identités doivent avoir une place à la table.
• Plutôt que de se concentrer uniquement sur les indicateurs de performance, une IA responsable nécessite également de prioriser la réduction des biais et l'équité en matière de genre, de race et d'autres facteurs identitaires. Une certaine perte d'efficacité peut être un compromis nécessaire.
• Alors que le milieu professionnel mondial commence à adopter la technologie de l'IA, le moment est venu de rediriger votre attention vers la reconstruction de ces systèmes d'une manière qui reflète les valeurs de votre entreprise et une vision qui priorise l'équité humaine et le bien social.