Exploitez l'intelligence artificielle tout en évitant ses risques et ses biais

Alors que l’IA générative offre un énorme potentiel sur le lieu de travail, y compris une efficacité et une productivité accrues, elle présente également des défis importants liés aux biais de genre et raciaux. Alors que les organisations adoptent de plus en plus l'IA, il est plus urgent que jamais de traiter ces biais.

Le webinaire Catalyst « Comment utiliser l’intelligence artificielle générative sans les biais de genre et raciaux » a exploré des stratégies pour créer des pratiques éthiques en matière d'IA qui favorisent l'équité et l'inclusion sur le lieu de travail. En comprenant et en atténuant ses biais, les organisations peuvent utiliser l'IA comme un outil de progrès plutôt que comme un outil qui renforce les inégalités.

Modéré par Julie Cafley, directrice exécutive de Catalyst Canada, le panel comprenait Cathy Cobey, co-dirigeante mondiale de l’IA responsable chez EY; Noelle Russell, chef de l'IA à l'AI Leadership Institute; et Michael Thomson, vice-président exécutif d'Edelman.

Voici nos cinq principales conclusions de la discussion :

Tous les panélistes ont convenu que les utilisateurs ont besoin d'une meilleure éducation pour utiliser efficacement l'IA et éviter les risques potentiels. « Il y a un côté sombre à cette magie », a averti Thomson. « Le pouvoir transformateur de l’IA offre de grandes opportunités mais nécessite des stratégies de gestion des risques solides pour se protéger contre ses écueils. »

Les scientifiques des données visent à créer des modèles holistiques, empathiques et inclusifs, croyant que leurs innovations offriront des résultats bénéfiques. « Au départ, ces modèles sont comme des bébés tigres — mignons et pleins de potentiel », a déclaré Russell. « Cependant, des questions critiques sur leur impact à long terme sont souvent négligées, ce qui entraîne des défis importants à mesure que les modèles d'IA mûrissent et deviennent opérationnels. Garantir une représentation diversifiée tout au long du processus de développement est essentiel pour minimiser efficacement les biais. »

Cobey a ajouté qu’EY avait mis à jour ses principes en matière d’IA en septembre 2023 pour inclure la durabilité, notant le niveau élevé de traitement informatique, de consommation d’énergie et d’eau nécessaires pour faire fonctionner les modèles de langage de grande taille (LLMs) et d’autres types de modèles d’IA. Elle a également souligné que certains des principes peuvent être en conflit les uns avec les autres et nécessiter des compromis. « Parfois, la sécurité fonctionne contre la transparence et la précision contre l'explicabilité », a-t-elle dit. « Vous devez choisir quels principes et valeurs sont les plus importants, selon le cas d'utilisation de l'IA.”

Le meilleur conseil que je puisse donner est de simplement commencer à utiliser l'IA », a déclaré Thomson. « Cela peut être intimidant au départ, alors commencez par de petites tâches gérables. L'IA est un outil avec des limitations. C'est comme une première ébauche imparfaite. Ne partagez pas aveuglément les informations générées par l'IA. » Il l'a comparée à l'utilisation d'une calculatrice pour des mathématiques complexes, en disant « Sans elle, je serais en difficulté, mais avec elle, je suis efficace. L'IA peut être cet outil pour vous. Les organisations qui utilisent l'IA efficacement dépasseront celles qui ne le font pas, rendant la formation en IA essentielle pour tous. Nous devons profiter de ces outils, surtout quand d'autres ne le font pas. »

La participation active au développement de l'IA est la voie à suivre. « Nous devons l'aider à prendre de meilleures décisions. Nous faisons partie de la solution », a déclaré Cobey, ajoutant que les utilisateurs n'ont pas besoin d'être férus de technologie.

Russell a souligné l'importance des perspectives diversifiées dans la création de systèmes d'IA qui servent tout le monde, en disant : « Ne construisez pas pour des personnes sans ces personnes. Il est important de montrer, pas seulement de dire, lorsqu'on plaide pour la diversité et l'inclusion. » Externaliser la manière dont l'IA sera mise en œuvre dans votre organisation, a-t-elle mis en garde, est imprudent sans une représentation diversifiée.

Alors que les organisations naviguent dans les défis complexes de l'intégration de l'IA générative, elles devraient se concentrer sur le maintien de normes éthiques qui favorisent l'inclusion et réduisent les biais. En mettant en œuvre de manière consciencieuse des pratiques d'IA qui donnent la priorité à la diversité, à l'équité et à l'inclusion, les organisations récolteront les énormes avantages de cette technologie transformatrice tout en continuant à promouvoir l'équité sur le lieu de travail et à respecter leurs valeurs fondamentales.