Pratiques responsables en mati¨¨re d¡¯IA
Une IA con?ue de mani¨¨re responsable. Des solutions fiables.
Nous d¨¦veloppons des fonctionnalit¨¦s d¡¯IA de mani¨¨re responsable d¨¨s leur conception, ce qui nous permet de fournir ¨¤ nos clients les outils et les capacit¨¦s dont ils ont besoin pour d¨¦ployer, configurer et utiliser l¡¯IA en toute confiance pour atteindre leurs objectifs.
L¡¯IA responsable chez ²ÝÝ®ÊÓƵ
²ÝÝ®ÊÓƵ est un chef de file du secteur en mati¨¨re de gouvernance responsable de l¡¯IA et nous voulons que notre IA soit une force positive. C¡¯est pourquoi nous ¨¦valuons et g¨¦rons minutieusement les risques li¨¦s ¨¤ l¡¯IA. Notre ¨¦quipe collabore avec ²ÝÝ®ÊÓƵ pour s¡¯assurer que notre IA est con?ue pour respecter les droits de la personne et la s¨¦curit¨¦, et qu¡¯elle profite r¨¦ellement ¨¤ la soci¨¦t¨¦ en mettant en ?uvre une IA responsable d¨¨s sa conception.
Nous avons ¨¦tabli un partenariat proactif avec Coalfire, un chef de file de la cybers¨¦curit¨¦, pour ¨¦valuer nos par rapport au cadre de gestion des risques de l¡¯IA du NIST, et avec Schellman pour certifier notre programme selon les normes ISO?42001. Ces ¨¦valuations ind¨¦pendantes valident notre engagement envers les normes les plus ¨¦lev¨¦es en mati¨¨re d¡¯IA responsable, ce qui comprend les contr?les de s¨¦curit¨¦ et de confidentialit¨¦ de l¡¯IA.
?valuation rigoureuse des risques.
Toutes les IA ne sont pas identiques lorsqu¡¯il s¡¯agit des risques pour les droits et la s¨¦curit¨¦ de la personne. Notre premi¨¨re ¨¦tape consiste toujours ¨¤ effectuer une ¨¦valuation minutieuse des risques. Cela nous aide ¨¤ nous concentrer sur les ¨¦l¨¦ments potentiellement pr¨¦occupants et nous permet de nous assurer que toute notre IA, qu¡¯elle soit destin¨¦e aux clients ou ¨¤ nos propres ¨¦quipes, est responsable et ¨¦thique.
Il existe plusieurs points de contr?le dans ce processus, et nous examinons nos cas d¡¯utilisation de l¡¯IA au moins deux fois, soit pendant la conception, puis avant qu¡¯elle soit utilis¨¦e. Cela nous aide ¨¤ d¨¦tecter rapidement tout probl¨¨me potentiel. Nous ¨¦laborons ensuite des plans clairs en r¨¦ponse ¨¤ ces diff¨¦rentes pr¨¦occupations, selon notre r?le, soit d¨¦velopper l¡¯IA ou la d¨¦ployer.
?
Comment nous ¨¦valuons le risque.
Le niveau est d¨¦termin¨¦ par des facteurs comme la capacit¨¦ du produit ¨¤ effectuer des pr¨¦dictions ou des cat¨¦gorisations relatives aux travailleurs individuels, son impact potentiel, qu¡¯il soit primaire ou secondaire, sur leurs occasions ¨¦conomiques, ainsi que d¡¯autres aspects relatifs aux caract¨¦ristiques ou au contexte de l¡¯IA utilis¨¦e. Nous tenons aussi compte du ??risque interdit?? dans cette ¨¦valuation afin d¡¯identifier les cas d¡¯utilisation qui ne rel¨¨vent pas de notre structure de gouvernance approuv¨¦e en raison des dommages qui pourraient ¨ºtre caus¨¦s aux personnes ou des menaces aux droits humains fondamentaux.
Chaque niveau de risque est associ¨¦ ¨¤ un ensemble particulier de protocoles ou de normes afin d¡¯att¨¦nuer ces risques. Les fonctionnalit¨¦s d¡¯IA ¨¤ haut risque sont soumises ¨¤ des exigences plus rigoureuses et mises en correspondance avec un plus grand nombre de protocoles. Cela garantit que le niveau de surveillance est proportionnel aux risques encourus pendant la mise en service du produit.
Que nous concevions l¡¯IA ou que nous l¡¯utilisions, nos ¨¦valuations seront adapt¨¦es en cons¨¦quence. Cela nous aide ¨¤ anticiper, ¨¤ d¨¦tecter les probl¨¨mes potentiels ¨¤ un stade pr¨¦coce et ¨¤ nous assurer que notre IA est d¨¦velopp¨¦e et utilis¨¦e de mani¨¨re s¨¦curitaire et responsable. Nos politiques internes d¨¦finissent plus en d¨¦tail les cas d¡¯utilisation et les r?les auxquels l¡¯IA doit obligatoirement se conformer, ainsi que nos responsabilit¨¦s envers l¡¯IA, en plus de d¨¦crire le calendrier et les exigences sp¨¦cifiques pour effectuer l¡¯¨¦valuation des risques en mati¨¨re d¡¯IA responsable.
Notre engagement envers une IA responsable.
L¡¯utilisation responsable de l¡¯IA repr¨¦sente un processus continu. Nous nous engageons ¨¤ surveiller en permanence l¡¯¨¦volution des tendances r¨¦glementaires, des attentes soci¨¦tales et des cadres de pratiques exemplaires. Notre ¨¦quipe continue de faire ¨¦voluer activement ses pratiques et ses programmes pour s¡¯assurer que notre approche du d¨¦veloppement et du d¨¦ploiement de l¡¯IA demeure juste, fiable, ¨¦thique et harmonis¨¦e avec les normes les plus ¨¦lev¨¦es de l¡¯IA responsable.?
Nous sommes guid¨¦s par des cadres de gouvernance de l¡¯IA tels que le cadre de gestion des risques de l¡¯IA du NIST (AI RMF). Nous proc¨¦dons ¨¦galement ¨¤ une ¨¦valuation continue des r¨¦glementations actuelles et en cours d¡¯¨¦laboration par rapport ¨¤ notre programme et ¨¤ nos pratiques en mati¨¨re d¡¯IA responsable, notamment la loi europ¨¦enne sur l¡¯IA, la loi du Colorado sur l¡¯IA et d¡¯autres r¨¦glementations et cadres directeurs ¨¦mergents au niveau local, provincial, national et international.?
Chez ²ÝÝ®ÊÓƵ, nous accordons la priorit¨¦ ¨¤ la transparence et nous assurons de fournir des informations claires pour soutenir la prise de d¨¦cision. Nous d¨¦crivons ci-dessous les principaux protocoles d¡¯IA responsables que nous avons adopt¨¦s pour une gouvernance bas¨¦e sur les risques dans notre cycle de vie de l¡¯IA. Nous communiquons ensuite ces protocoles ¨¤ nos ¨¦quipes de d¨¦veloppement et de d¨¦ploiement de l¡¯IA en fonction du niveau de risque du cas d¡¯utilisation, comme cela est d¨¦crit ci-dessus.
Responsabilit¨¦ de l¡¯IA
Identification des risques.
Description du d¨¦veloppement.
D¨¦terminez et ¨¦valuez de mani¨¨re proactive le niveau de risque global du produit ou de la fonctionnalit¨¦.
?
Cela inclut les risques ¨¦thiques, sociaux et techniques inh¨¦rents au cas d¡¯utilisation et aux caract¨¦ristiques pr¨¦vus de la fonctionnalit¨¦ d¡¯IA, ce qui nous permet d¡¯att¨¦nuer les dommages potentiels en aval de la production avant qu¡¯ils ne surviennent.
?
Nous faisons cela non seulement pour comprendre les risques, mais aussi les avantages possibles de ce qui peut se produire lorsque tout est bien fait, sans oublier la mani¨¨re de fournir ces fonctionnalit¨¦s en toute s¨¦curit¨¦.
Description du d¨¦ploiement.?
Similaire au d¨¦veloppement.
R?les et responsabilit¨¦s
Description du d¨¦veloppement.
D¨¦finissez clairement les r?les et responsabilit¨¦s des diff¨¦rentes ¨¦quipes qui prennent part au d¨¦veloppement des fonctionnalit¨¦s de l¡¯IA. Par exemple, Produit et technologie, Ing¨¦nierie de l¡¯apprentissage automatique, Affaires juridiques et conformit¨¦, °ä´Ç²Ô´Ú¾±»å±ð²Ô³Ù¾±²¹±ô¾±³Ù¨¦, etc. Cela garantit la responsabilit¨¦, la collaboration et la diversit¨¦ des contributions pendant tout le cycle de d¨¦veloppement de l¡¯IA.
?
Cela permet ¨¦galement de d¨¦velopper naturellement le r¨¦seau d¡¯experts auxquels les nouvelles ¨¦quipes peuvent faire appel pour obtenir des r¨¦ponses ¨¤ leurs questions et de l¡¯aide lorsqu¡¯elles naviguent dans la structure de gouvernance.
?
Enfin, cela permet une contribution structur¨¦e au cadre de gouvernance de l¡¯IA responsable ¨¤ mesure que de nouveaux cas extr¨ºmes sont d¨¦couverts et que l¡¯entreprise ¨¦volue, change et se d¨¦veloppe.
?
Description du d¨¦ploiement.
Similaire au d¨¦veloppement.
Preuve d¡¯utilit¨¦.
Description du d¨¦veloppement.
Rassemblez et documentez les informations montrant l¡¯utilit¨¦ de la fonctionnalit¨¦ d¡¯IA. Cela devrait d¨¦montrer comment la fonctionnalit¨¦ atteint son objectif et apporte de la valeur aux utilisateurs.
?
En d¡¯autres termes, la fonctionnalit¨¦ d¡¯IA ajoute-t-elle une valeur significative pour les utilisateurs?
?
Description du d¨¦ploiement.
Similaire au d¨¦veloppement.
Transparence et explicabilit¨¦.
·¡³æ±è±ô¾±³¦²¹²ú¾±±ô¾±³Ù¨¦.
Description du d¨¦veloppement.
Fournissez des explications claires sur le fonctionnement de la fonctionnalit¨¦ d¡¯IA et sur la fa?on dont les r¨¦sultats sont obtenus. Il peut s¡¯agir de documentation destin¨¦e aux clients, telle que des fiches d¡¯information sur l¡¯IA, des descriptions de l¡¯interface utilisateur et d¡¯autres m¨¦thodes visant ¨¤ promouvoir la transparence et la compr¨¦hension des donn¨¦es utilis¨¦es pour g¨¦n¨¦rer les r¨¦sultats.
?
Description du d¨¦ploiement.?
Similaire au d¨¦veloppement.
±õ²Ô³Ù±ð°ù±è°ù¨¦³Ù²¹²ú¾±±ô¾±³Ù¨¦.
Description du d¨¦veloppement.
Veillez ¨¤ ce que les r¨¦sultats des fonctionnalit¨¦s d¡¯IA soient aussi compr¨¦hensibles et clairs que possible pour les clients et les utilisateurs.
?
Fournissez des explications claires et des documents justificatifs dans les fiches d¡¯information sur l¡¯IA pour aider les clients et les utilisateurs finaux ¨¤ comprendre la signification et les r¨¦percussions des r¨¦sultats de l¡¯IA dans le contexte du ou des cas d¡¯utilisation pr¨¦vus.
?
Description du d¨¦ploiement.?
Similaire au d¨¦veloppement.
Avis.
Description du d¨¦veloppement.
Concevez la fonctionnalit¨¦ d¡¯IA avec des avis clairs et accessibles informant les utilisateurs finaux qu¡¯ils interagissent avec un syst¨¨me d¡¯IA.?
?
Fournissez des conseils et une langue par d¨¦faut que les clients peuvent utiliser pour d¨¦crire le type de donn¨¦es trait¨¦es par la fonctionnalit¨¦ d¡¯IA.?
?
L¡¯avis peut ¨ºtre affich¨¦ sous forme de texte ou d¡¯image indiquant que la fonctionnalit¨¦ utilise l¡¯IA et que ses r¨¦sultats doivent ¨ºtre examin¨¦s en tant que tels.??
?
Description du d¨¦ploiement.?
Similaire au d¨¦veloppement.
Conception et contr?le centr¨¦s sur la personne.
L¡¯humain au c?ur du processus.
Description du d¨¦veloppement.
Concevez la fonctionnalit¨¦ d¡¯IA afin qu¡¯elle prenne en charge la surveillance et le contr?le par des humains. Nous fournissons aux clients une documentation expliquant comment les r¨¦sultats des fonctionnalit¨¦s d¡¯IA sont destin¨¦s ¨¤ soutenir, et non ¨¤ remplacer, la prise de d¨¦cision humaine cons¨¦quente.?
?
La fonctionnalit¨¦ doit ¨¦galement int¨¦grer une exp¨¦rience utilisateur pratique dans laquelle les humains sont les d¨¦cideurs finaux pour les d¨¦cisions essentielles, que les r¨¦sultats de la fonctionnalit¨¦ soient accept¨¦s ou ajust¨¦s, renforc¨¦s par des normes d¡¯explicabilit¨¦ dans ses r¨¦sultats.
?
Description du d¨¦ploiement.?
Similaire au d¨¦veloppement.
Autres proc¨¦dures.
Description du d¨¦veloppement.
Concevez la fonctionnalit¨¦ d¡¯IA de mani¨¨re ¨¤ permettre des proc¨¦dures de traitement d¡¯autres donn¨¦es, telles que l¡¯examen par des humains, au traitement standard de la fonctionnalit¨¦ d¡¯IA, le cas ¨¦ch¨¦ant. Fournissez des instructions et une documentation claires aux clients sur la mani¨¨re de mettre en ?uvre ces autres proc¨¦dures.
?
Description du d¨¦ploiement.?
Veuillez vous assurer que les personnes concern¨¦es par les donn¨¦es ont acc¨¨s ¨¤ diff¨¦rentes options dans l¡¯interface utilisateur ou ailleurs. Cela peut notamment se faire par des communications avec les personnes concern¨¦es pour leur permettre de demander des proc¨¦dures autres que celles utilis¨¦es par la solution d¡¯IA pour traiter leurs donn¨¦es et afficher des r¨¦sultats personnalis¨¦s. Ces autres proc¨¦dures peuvent ¨¦galement inclure un examen par des humains plut?t qu¡¯un examen uniquement effectu¨¦ par des machines.
±õ²Ô³¦±ô³Ü²õ¾±±¹¾±³Ù¨¦.
Description du d¨¦veloppement.
Concevez la fonctionnalit¨¦ d¡¯IA dans un souci d¡¯inclusivit¨¦, en vous assurant qu¡¯elle soit accessible et utilisable par diff¨¦rents utilisateurs finaux. Tenez compte de facteurs comme la langue, la culture, le statut de handicap et d¡¯autres obstacles potentiels ¨¤ l¡¯acc¨¨s et ¨¤ l¡¯engagement. Veillez ¨¤ ce que la qualit¨¦ de l¡¯exp¨¦rience utilisateur ne soit pas diminu¨¦e, quelles que soient les capacit¨¦s ou les pr¨¦f¨¦rences.??
?
Description du d¨¦ploiement.?
Assurez-vous que la solution d¡¯IA offre des options raisonnables dans l¡¯interface utilisateur de la solution d¡¯IA. Cela permet aux diff¨¦rents utilisateurs finaux d¡¯y acc¨¦der et de l¡¯utiliser de mani¨¨re ¨¤ promouvoir l¡¯¨¦quit¨¦.
Exportations int¨¦gr¨¦es.
Description du d¨¦veloppement.
Offrez aux clients des options pour acc¨¦der aux donn¨¦es export¨¦es pertinentes ¨¤ partir de la fonctionnalit¨¦ d¡¯IA. Cela leur permet d¡¯effectuer leurs propres contr?les et tests avec leurs propres experts, ce qui favorise la transparence et le contr?le.??
?
Description du d¨¦ploiement.?
Veillez ¨¤ ce que l¡¯¨¦quipe responsable de la configuration du produit re?oive des instructions suffisantes pour pr¨¦ciser les options permettant d¡¯acc¨¦der aux donn¨¦es de sortie de la solution d¡¯IA n¨¦cessaires et de les exporter pour tester les performances de cette derni¨¨re.
°ä´Ç²Ô´Ú¾±²µ³Ü°ù²¹²ú¾±±ô¾±³Ù¨¦.
Description du d¨¦veloppement.
Concevez la fonctionnalit¨¦ d¡¯IA en gardant la configurabilit¨¦ ¨¤ l¡¯esprit, pour ainsi permettre aux clients d¡¯adapter ses fonctionnalit¨¦s ¨¤ leurs besoins et pr¨¦f¨¦rences particuliers. Fournissez une documentation et des outils clairs pour soutenir les d¨¦cisions de configuration des clients. Cela respecte l¡¯esprit des protocoles pr¨¦c¨¦dents, en gardant les humains au centre de toutes les d¨¦cisions, y compris la mani¨¨re dont ils choisissent d¡¯utiliser les fonctionnalit¨¦s de la plateforme ²ÝÝ®ÊÓƵ?AI.
?
Description du d¨¦ploiement.?
Configurez la solution d¡¯IA pour qu¡¯elle corresponde aux cas d¡¯utilisation locaux pr¨¦vus.
Tests et surveillance.
Test d¡¯¨¦quit¨¦.
Description du d¨¦veloppement.
Effectuez des tests d¡¯¨¦quit¨¦ sur la fonctionnalit¨¦ d¡¯IA. Pour le d¨¦veloppement, cela peut ¨ºtre effectu¨¦ en utilisant des donn¨¦es synth¨¦tiques ou des ¨¦chantillons agr¨¦g¨¦s de r¨¦sultats, selon la disponibilit¨¦. Analysez les r¨¦sultats pour d¨¦tecter d¡¯¨¦ventuels biais et documenter les conclusions et les strat¨¦gies d¡¯att¨¦nuation. Nous incluons un r¨¦sum¨¦ descriptif des tests d¡¯¨¦quit¨¦ c?t¨¦ d¨¦veloppeur, le cas ¨¦ch¨¦ant, dans nos fiches d¡¯information sur les fonctionnalit¨¦s de l¡¯IA.
?
Description du d¨¦ploiement.
Pour le d¨¦ploiement, pensez ¨¤ utiliser les r¨¦sultats r¨¦els des fonctionnalit¨¦s lorsqu¡¯ils sont disponibles.
·¡´Ú´Ú¾±³¦²¹³¦¾±³Ù¨¦.
Description du d¨¦veloppement.
Testez rigoureusement la fonctionnalit¨¦ d¡¯IA pour s¡¯assurer que ses r¨¦sultats sont pr¨¦vus et fiables par rapport ¨¤ son objectif et ¨¤ la qualit¨¦ du cas d¡¯utilisation. Documentez la m¨¦thodologie et les r¨¦sultats des tests, d¨¦montrant la capacit¨¦ de l¡¯IA ¨¤ produire des r¨¦sultats pr¨¦cis.??
?
Description du d¨¦ploiement.?
Similaire au d¨¦veloppement.
Robustesse.
Description du d¨¦veloppement.
Testez la capacit¨¦ de la fonctionnalit¨¦ IA ¨¤ maintenir ses performances dans diverses conditions, telles que diff¨¦rentes donn¨¦es d¡¯entr¨¦e, diff¨¦rents param¨¨tres utilisateur et diff¨¦rentes populations. Documentez les proc¨¦dures et les r¨¦sultats des tests, d¨¦montrant la capacit¨¦ de l¡¯IA ¨¤ maintenir son niveau de performance dans diff¨¦rents sc¨¦narios.
?
Description du d¨¦ploiement.?
Similaire au d¨¦veloppement.
Tests planifi¨¦s.
Description du d¨¦veloppement.
?tablissez et respectez un calendrier r¨¦gulier pour tester et surveiller les performances de la fonctionnalit¨¦ d¡¯IA, notamment en termes de pr¨¦cision, de robustesse, d¡¯utilit¨¦ et d¡¯¨¦quit¨¦. D¨¦finissez, mettez en ?uvre et documentez la fr¨¦quence et les proc¨¦dures des tests.
?
Description du d¨¦ploiement.?
Similaire au d¨¦veloppement.
Normes d¡¯entretien.
Description du d¨¦veloppement.
?tablissez des normes et des proc¨¦dures claires pour la maintenance et la mise ¨¤ jour continues de la fonctionnalit¨¦ d¡¯IA et de ses mod¨¨les d¡¯apprentissage automatique sous-jacents. D¨¦finissez les crit¨¨res utilis¨¦s pour d¨¦terminer ¨¤ quel moment les mises ¨¤ jour sont n¨¦cessaires et comment elles seront mises en ?uvre et communiqu¨¦es.
?
Description du d¨¦ploiement.?
Documentez les normes ¨¤ utiliser pour d¨¦terminer ¨¤ quel moment et si la solution d¡¯IA ou sa configuration doit ¨ºtre mise ¨¤ jour ou r¨¦¨¦valu¨¦e.
°ä´Ç²Ô´Ú¾±»å±ð²Ô³Ù¾±²¹±ô¾±³Ù¨¦ et s¨¦curit¨¦.
Qualit¨¦ des donn¨¦es.
Description du d¨¦veloppement.
Assurez-vous que les donn¨¦es utilis¨¦es pour d¨¦velopper la fonctionnalit¨¦ d¡¯IA sont de haute qualit¨¦, adapt¨¦es aux cas d¡¯utilisation pr¨¦vus et repr¨¦sentatives des populations concern¨¦es. D¨¦montr¨¦ par des pratiques de documentation transparentes telles que nos fiches d¡¯information sur les fonctionnalit¨¦s de l¡¯IA.
?
Description du d¨¦ploiement.?
Similaire au d¨¦veloppement.
°Õ°ù²¹?²¹²ú¾±±ô¾±³Ù¨¦.
Description du d¨¦veloppement.
Concevez la fonctionnalit¨¦ d¡¯IA afin qu¡¯elle prenne en charge les capacit¨¦s de surveillance et de tra?abilit¨¦ du syst¨¨me.
?
Description du d¨¦ploiement.?
Assurez-vous qu¡¯un m¨¦canisme est en place pour soutenir la surveillance et la tra?abilit¨¦ du syst¨¨me.
Exclusion de localisation.
Description du d¨¦veloppement.
Offrez aux clients la possibilit¨¦ de contr?ler la disponibilit¨¦ g¨¦ographique de la fonctionnalit¨¦ d¡¯IA. Cela permet aux clients de se conformer aux lois et aux r¨¦glementations locales pour ainsi g¨¦rer la disponibilit¨¦ de la fonctionnalit¨¦ d¡¯IA dans diff¨¦rentes r¨¦gions.
?
Description du d¨¦ploiement.?
Similaire au d¨¦veloppement.
Mise ¨¤ jour et retrait.
Description du d¨¦veloppement.
?laborez un plan complet de gestion des changements pour les mises ¨¤ jour de la fonctionnalit¨¦ d¡¯IA et de ses mod¨¨les d¡¯apprentissage automatique sous-jacents. Ce plan doit comprendre des protocoles de communication pour informer les clients des mises ¨¤ jour et de toute r¨¦percussion potentielle sur leur utilisation de la fonctionnalit¨¦.
?
Description du d¨¦ploiement.?
D¨¦veloppez et documentez un plan de gestion des changements pr¨¦cis pour les mises ¨¤ jour de la solution d¡¯IA ou de sa configuration.
Gestion de l¡¯efficacit¨¦.
Description du d¨¦veloppement.
Concevez la fonctionnalit¨¦ d¡¯IA avec des mesures de protection pour att¨¦nuer les vuln¨¦rabilit¨¦s et les risques pour son efficacit¨¦. Cela comprend la protection contre les attaques adverses, l¡¯empoisonnement de donn¨¦es ainsi que d¡¯autres tentatives pour exploiter ou miner le syst¨¨me d¡¯IA.
?
Description du d¨¦ploiement.?
Veiller ¨¤ ce que les vuln¨¦rabilit¨¦s li¨¦es aux erreurs humaines des utilisateurs finaux et aux acteurs malveillants cherchant ¨¤ ??manipuler?? ou ¨¤ compromettre la solution d¡¯IA ou la s¨¦curit¨¦ de notre propri¨¦t¨¦ intellectuelle soient identifi¨¦es, att¨¦nu¨¦es et g¨¦r¨¦es.