Les PDG mondiaux partagent leurs idées sur la mise en œuvre de l'IA

L'IA peut favoriser l'innovation pour le bien commun

Les panélistes ont ensuite orienté leur focus vers la mise en œuvre. Jennifer Freeman, PDG de PeaceGeeks, a mis en avant l’impact de l’IA pour combler les écarts entre les utilisateurs et le gouvernement. « Nous utilisons véritablement l'IA dans nos outils numériques comme un égaliseur », a-t-elle déclaré.

Pour les immigrants, il existe de nombreux obstacles (comme la langue et la technologie) pour accéder aux ressources. PeaceGeeks a collaboré avec Accenture pour créer une plateforme de coaching de carrière virtuelle basée sur l'IA qui permet aux gens de s'entraîner à passer des entretiens, à développer des compétences générales et à correspondre à des emplois pour une résidence permanente.

Au 7 octobre 2024, la plateforme, déployée en juin, compte déjà plus de 100 000 utilisateurs uniques.

L'IA peut perpétuer les biais existants

Les panélistes ont convenu qu'une dose saine de prudence est nécessaire lors de la création de plateformes qui reposent sur l'IA. Pamela Pelletier, directrice nationale et directrice générale, Canada, Dell Technologies, a déclaré : « Tout est dans les données. Déchets au départ, déchets à l'arrivée. Si vos données sont biaisées ou en déséquilibre, alors vous allez rencontrer un problème. »

Ces erreurs de conception peuvent non seulement ébranler la confiance entre les utilisateurs et les plateformes, mais aussi exacerber les inégalités préexistantes. Par conséquent, il est essentiel de mettre en place des mécanismes solides pour surveiller et minimiser les biais dans les données et modèles d'IA.

m: 16px ;">Elle a donné l'exemple des chatbots IA, qui peuvent "halluciner". « D'où ChatGPT obtient-il ses informations ? Twitter, peu importe, tous ces endroits. Ainsi, les données elles-mêmes sont potentiellement biaisées. »

Aneela Zaib, fondatrice et PDG d'emergiTEL, a déclaré : « Le fait est que les modèles LLM (modèles de langage étendu) que nous avons à disposition actuellement, nous ne savons pas comment ils sont entraînés ni sur quelles données ils ont été formés. »

L'IA doit être alimentée avec les bonnes données

Que peut-on faire pour combattre ce problème ? Comment éviter les mêmes angles morts à l'avenir ?

Zaib travaille déjà sur des solutions. « L'une des façons dont nous avons essayé de surmonter cela est que nous avons ajusté ces modèles en fonction des jeux de données qui sont inclusifs par nature. Ainsi, lorsque vous fournissez un jeu de données à cet outil qui est déjà inclusif et que vous définissez des ensembles de consignes (et il y a beaucoup de détails... sur lesquels nous pouvons nous concentrer à fond), l'essentiel est que vous devez être très prudent en utilisant ces systèmes, en leur donnant des garde-fous, et en même temps en auditant ces systèmes à la fin avec les résultats que vous obtenez. »

Les outils de son entreprise fournissent des candidats diversifiés à des entreprises clientes, et l'IA fait partie de ces outils. Lorsque ils auditent les résultats que l'IA fournit, s'ils trouvent un poste ou une compétence qui n'est pas comblée par des candidats de certaines communautés, ils analysent ces résultats, les ajustent, et exécutent à nouveau le modèle IA. Une gestion continue de ces outils et modèles IA est essentielle, surtout lorsque le travail est si important. Zaib a déclaré : « La diversité est une pratique que nous devons effectuer tous les jours. »

DEI et IA peuvent travailler ensemble

Pelletier a partagé ce sentiment en disant : « Nous avons l'opportunité avec la technologie existante de réellement inclure des personnes qui ont été historiquement oubliées ou laissées de côté. »

Les organisations qui utilisent l'IA doivent faire leur part. Pelletier a déclaré : « En tant qu'organisation, nous avons la responsabilité, lors de la formation des modèles, de faire en sorte que ces données reflètent les valeurs que nous avons en tant qu'organisation. Il est donc vraiment important que nous prenions ces données et que nous les organisions pour refléter ces valeurs… et alors nous aurons un résultat très positif. »

Elle a ajouté que DEI et IA peuvent et doivent travailler ensemble pour promouvoir les meilleurs intérêts de l'humanité. « Nous devons avoir nos représentants DE&I, ces personnes, à la table dès le début lorsque nous mettons en œuvre les projets IA. Et ils doivent avoir la capacité ou l'autorité d'appuyer sur le bouton pause ou stop si quelque chose est inapproprié dans l'analyse des données, pour corriger cela, » a-t-elle déclaré.

Soyez intentionnels avec l'IA

Alors que les organisations se précipitent pour intégrer l'IA dans divers aspects de leurs activités, il est important de prendre le temps de le faire correctement. Si une entreprise ne reçoit pas un trafic élevé de service client, elle n'a probablement pas besoin d'un chatbot IA. Si une entreprise dispose d'un large département marketing, il est probable qu'elle n'ait pas besoin d'entraîner une IA à écrire des articles. Et si une entreprise tient profondément à ses valeurs, elle ne devrait pas licencier un LLM entraîné sur des jeux de données biaisés.

Taylor l'a parfaitement résumé : « Nous pouvons faire en sorte que cela fonctionne, tant que nous construisons correctement, testons bien, utilisons mais revenons ensuite pour vérifier que ce qui sort à l'autre bout est exactement le résultat que nous espérions, que ce soit un nouvel recrutement ou un système qui fournit une nouvelle personnalisation. »er offering, whatever it may be.

Vous voulez en savoir plus sur les Honneurs Catalyst de l'année prochaine ? Inscrivez-vous dès maintenant, et nous vous enverrons un courriel lorsque l'inscription sera ouverte.