Verantwoorde AI-toepassingen
Verantwoord ontworpen AI. Betrouwbare oplossingen.
We ontwikkelen AI-functies vanaf de basis op een verantwoorde manier. Zo geven we onze klanten de benodigde tools en mogelijkheden om AI vol vertrouwen te implementeren, te configureren en te gebruiken om hun doelen te bereiken.
Verantwoorde AI bij ²ÝÝ®ÊÓƵ.
²ÝÝ®ÊÓƵ is marktleider op het gebied van governance van verantwoorde AI of 'Responsible AI' (RAI). We willen dat onze AI een positieve kracht is. Daarom worden AI-risico's door ons zorgvuldig beoordeeld en beheerd. Ons team werkt organisatiebreed samen om te zorgen dat onze AI mensenrechten en veiligheid respecteert en de maatschappij echt ten goede komt. Dit doen we door verantwoorde AI-by-design toe te passen.
We werken proactief samen met Coalfire, een marktleider in cybersecurity, om onze te evalueren aan de hand van het NIST AI Risk Management Framework, en met Schellman om ons programma te certificeren conform de ISO 42001-standaard. Deze onafhankelijke evaluaties bevestigen dat we de hoogste normen voor verantwoorde AI hanteren, inclusief controles voor AI-beveiliging en privacy.
Robuuste risico-evaluatie.
Niet alle AI is hetzelfde als het gaat om risico's voor de rechten en veiligheid van mensen. Onze eerste stap is altijd dat we de risico's zorgvuldig beoordelen. Dit helpt ons te focussen op mogelijke aandachtspunten en ervoor te zorgen dat al onze AI, voor zowel klanten als onze eigen teams, verantwoord en ethisch is.
Tijdens het proces zijn er meerdere controlepunten en we beoordelen onze AI-toepassingen minstens twee keer: eerst tijdens het bouwen en dan nogmaals voordat de AI wordt gebruikt. Dit stelt ons in staat om eventuele problemen in een vroeg stadium te identificeren. We maken vervolgens duidelijke plannen om die aandachtspunten aan te pakken, afhankelijk van of we de AI zelf ontwikkelen of implementeren.
?
Hoe we risico's evalueren.
Het niveau wordt bepaald door factoren zoals de mate waarin het product voorspellingen of categorie?n opstelt over individuele medewerkers, de mogelijke directe of indirecte impact op hun economische kansen en andere aspecten die te maken hebben met de eigenschappen of de context waarin de AI wordt gebruikt. Als we dit evalueren, houden we ook rekening met 'onaanvaardbare risico's'. Zo identificeren we toepassingen die buiten onze goedgekeurde governancestructuur vallen omdat ze mensen mogelijk schaden of fundamentele mensenrechten bedreigen.
Aan elk risiconiveau koppelen we specifieke protocollen (standaarden) om die risico's te beperken. Voor AI-functies met een hoger risico gelden strengere vereisten en meer protocollen. Dit zorgt ervoor dat het toezicht evenredig is aan de mogelijke risico's die ontstaan als het product wordt gebruikt.
Of we de AI nu bouwen of gebruiken, we stemmen onze evaluaties daarop af. Dit helpt ons vooruit te kijken, mogelijke problemen vroeg te identificeren en ervoor te zorgen dat we onze AI veilig en verantwoord ontwikkelen en gebruiken. Ons interne beleid beschrijft verder welke AI-toepassingen verboden zijn, wie waarvoor verantwoordelijk is, en schetst de specifieke timing en vereisten voor hoe we RAI-risico's evalueren.
Onze toewijding aan verantwoorde AI.
AI verantwoord gebruiken is een doorlopend proces. We zetten ons in om voortdurend te monitoren hoe de regelgeving en maatschappelijke verwachtingen evolueren, en wat de beste kaders zijn. Ons team blijft zijn werkwijzen en programma's actief ontwikkelen. Zo zorgen we dat de manier waarop we AI ontwikkelen en implementeren eerlijk, betrouwbaar en ethisch blijft, en aansluit bij de hoogste normen voor verantwoorde AI.?
We laten ons leiden door AI-governancekaders zoals het NIST AI Risk Management Framework (AI RMF). We beoordelen ook voortdurend hoe huidige en nieuwe regelgeving, zoals de EU AI Act, de AI-wet van Colorado en andere opkomende lokale, nationale en internationale regels en kaders, zich verhoudt tot ons RAI-programma en onze werkwijzen.?
Bij ²ÝÝ®ÊÓƵ geven we prioriteit aan transparantie. We bieden duidelijke informatie om besluitvorming te ondersteunen. Hieronder beschrijven we de belangrijkste protocollen voor verantwoorde AI die we hebben ingevoerd om risico's te beheren in onze AI-levenscyclus. We delen deze met onze teams die AI ontwikkelen en implementeren op basis van het risiconiveau van elke toepassing, zoals hierboven beschreven.
Verantwoord gebruik van AI
Risico-identificatie.
Beschrijving van ontwikkeling.
Stel het risiconiveau van het gehele product of de gehele functie proactief vast en evalueer het.
?
Dit omvat de ethische, sociale en technische risico's die horen bij de beoogde toepassing en de eigenschappen van de AI-functie. Hierdoor beperken we mogelijke latere schade in de productieomgeving voordat die optreedt.
?
We doen dit niet alleen om de mogelijke nadelen te begrijpen, maar ook de voordelen die ontstaan als we het goed aanpakken, en om een manier te vinden om de functies veilig op te leveren.
Beschrijving van implementatie.?
Vergelijkbaar met ontwikkeling.
Rollen en verantwoordelijkheden.
Beschrijving van ontwikkeling.
Definieer duidelijk wie waarvoor verantwoordelijk is binnen de verschillende teams die AI-functies ontwikkelen, zoals Product & Technology, ML Engineering, Legal & Compliance, Privacy en andere teams. Dit zorgt ervoor dat iedereen zijn verantwoordelijkheid neemt, dat er wordt samengewerkt en dat er diverse input is, gedurende de hele levenscyclus waarin we de AI ontwikkelen.
?
Bovendien groeit zo op organische wijze het netwerk van experts die beschikbaar zijn voor vragen en ondersteuning terwijl nieuwe teams hun weg vinden in de governancestructuur.
?
En het wordt tot slot mogelijk om gestructureerd bij te dragen aan het RAI-governancekader naarmate er nieuwe uitzonderlijke situaties worden ge?dentificeerd en de business verschuift, verandert en groeit.
?
Beschrijving van implementatie.
Vergelijkbaar met ontwikkeling.
Bewijs dat het nuttig is.
Beschrijving van ontwikkeling.
Verzamel en documenteer informatie die aantoont dat de AI-functie nuttig is. Hieruit moet blijken hoe de functie het beoogde doel bereikt en waarde toevoegt voor gebruikers.
?
Anders gezegd, voegt de AI-functie echt waarde toe voor gebruikers?
?
Beschrijving van implementatie.
Vergelijkbaar met ontwikkeling.
Transparantie en verklaarbaarheid.
Verklaarbaarheid.
Beschrijving van ontwikkeling.
Leg duidelijk uit hoe de AI-functie werkt en hoe de outputs tot stand komen. Denk hierbij aan documentatie voor klanten zoals AI-factsheets en beschrijvingen van de gebruikersinterface, en andere methoden om transparant te zijn en te verduidelijken welke data worden gebruikt om de outputs te genereren.
?
Beschrijving van implementatie.
Vergelijkbaar met ontwikkeling.
Interpreteerbaarheid.
Beschrijving van ontwikkeling.
Zie erop toe dat de outputs van AI-functies zo begrijpelijk en duidelijk mogelijk zijn voor klanten en gebruikers.
?
Zorg voor duidelijke uitleg en ondersteunend materiaal in AI-factsheets. Zo help je klanten en eindgebruikers te begrijpen wat de outputs van de AI betekenen en wat de gevolgen zijn, in de context van de beoogde toepassing(en).
?
Beschrijving van implementatie.
Vergelijkbaar met ontwikkeling.
Melding.
Beschrijving van ontwikkeling.
Ontwerp de AI-functie met duidelijke en toegankelijke meldingen die eindgebruikers informeren dat ze met een AI-systeem werken.?
?
Bied richtlijnen en standaardteksten die klanten kunnen gebruiken om te beschrijven welk type data door de AI-functie wordt verwerkt.?
?
Meldingen verschijnen bijvoorbeeld in de vorm van tekst of afbeeldingen om aan te geven dat de functie AI gebruikt en dat de resultaten als zodanig moeten worden beschouwd.??
?
Beschrijving van implementatie.
Vergelijkbaar met ontwikkeling.
Mensgericht ontwerpen en beheren.
Human-in-the-loop.
Beschrijving van ontwikkeling.
Ontwerp de AI-functie zo dat een mens toezicht houdt en de controle heeft. We bieden klanten documentatie waarin wordt uitgelegd hoe de outputs van de AI-functies bedoeld zijn om belangrijke menselijke beslissingen te ondersteunen, niet om ze te vervangen.?
?
De functie moet ook een praktische gebruikerservaring bieden waarbij mensen bij kritieke zaken de uiteindelijke beslissing nemen, of de resultaten van de functie nu worden geaccepteerd of aangepast. Dit wordt versterkt doordat de outputs uitlegbaar zijn.
?
Beschrijving van implementatie.
Vergelijkbaar met ontwikkeling.
Alternatieve procedures.
Beschrijving van ontwikkeling.
Ontwerp de AI-functie zodanig dat er naast standaardverwerking door de AI-functie indien nodig alternatieve manieren zijn om data te verwerken, zoals menselijke beoordeling. Geef klanten duidelijke instructies en documentatie over hoe ze deze alternatieve procedures implementeren.
?
Beschrijving van implementatie.
Zorg ervoor dat betrokkenen in de gebruikersinterface of elders, zoals in de communicatie met betrokkenen, de keuze hebben om te vragen om alternatieve procedures in plaats van dat de AI-oplossing hun data verwerkt en gepersonaliseerde resultaten toont. Denk hierbij aan menselijke controle als alternatief voor machinale beoordeling.
Inclusiviteit.
Beschrijving van ontwikkeling.
Ontwerp de AI-functie met inclusiviteit als uitgangspunt, zodat deze toegankelijk en bruikbaar is voor diverse eindgebruikers. Houd rekening met factoren zoals taal, cultuur, eventuele beperkingen en andere mogelijke barri¨¨res die toegang en interactie belemmeren. Zorg dat de kwaliteit van de gebruikerservaring niet vermindert, ongeacht iemands capaciteiten en/of voorkeuren.??
?
Beschrijving van implementatie.
Zorg dat de AI-oplossing redelijke keuzemogelijkheden biedt binnen de gebruikersinterface van de AI-oplossing. Dit helpt diverse eindgebruikers om er toegang toe te krijgen en ermee om te gaan op een manier die gelijkheid bevordert.
Ingebouwde exports.
Beschrijving van ontwikkeling.
Bied klanten opties om relevante ge?xporteerde data uit de AI-functie in te zien. Dit stelt klanten in staat om samen met hun eigen experts de tool te monitoren en te testen, wat transparantie en controle bevordert.??
?
Beschrijving van implementatie.
Zorg dat het team dat het product voor gebruik configureert, voldoende kennis heeft over het specificeren van opties aangaande het bekijken en exporteren van outputdata van AI-oplossingen benodigd om prestaties van AI-oplossingen te testen.
Configureerbaarheid.
Beschrijving van ontwikkeling.
Ontwerp de AI-functie met configuratie als uitgangspunt, zodat klanten de werking kunnen afstemmen op hun specifieke behoeften en voorkeuren. Zorg voor duidelijke documentatie en tools om klanten te ondersteunen bij de beslissingen die ze nemen als ze iets configureren. Dit sluit aan bij de strekking van eerdere protocollen, waarbij de mens centraal staat bij alle beslissingen, inclusief hoe zij ervoor kiezen om te werken met functies van het ²ÝÝ®ÊÓƵ AI-platform.
?
Beschrijving van implementatie.
De AI-oplossing configureren zodat deze past bij de lokaal beoogde toepassing(en).
Testen en bewaken.
Testen op eerlijkheid.
Beschrijving van ontwikkeling.
Voer tests uit om de eerlijkheid van de AI-functie te bepalen. Voor ontwikkeling kunnen, afhankelijk van wat beschikbaar is, synthetische data of geaggregeerde samples van outputs worden gebruikt. Analyseer de resultaten op mogelijke vooroordelen en documenteer de bevindingen en strategie?n om ze te beperken. In onze AI-factsheets nemen we waar relevant een beschrijvende samenvatting op van de eerlijkheidstests van de ontwikkelaars.
?
Beschrijving van implementatie.
Maak voor de implementatie waar mogelijk gebruik van echte outputs van de functie.
Doeltreffendheid.
Beschrijving van ontwikkeling.
Test de AI-functie uitvoerig om te garanderen dat de outputs zoals bedoeld en betrouwbaar zijn voor het doel en de kwaliteit van de toepassing. Documenteer de testmethodologie en resultaten en toon aan dat de AI nauwkeurige outputs produceert.??
?
Beschrijving van implementatie.
Vergelijkbaar met ontwikkeling.
Robuustheid.
Beschrijving van ontwikkeling.
Test of de AI-functie onder verschillende omstandigheden even goed presteert, zoals met verschillende inputdata, gebruikersinstellingen en populaties. Documenteer de testprocedures en resultaten en toon aan dat de AI in verschillende scenario's even goed presteert.
?
Beschrijving van implementatie.
Vergelijkbaar met ontwikkeling.
Gepland testen.
Beschrijving van ontwikkeling.
Ontwikkel en onderhoud een regelmatig schema voor het testen en bewaken van de prestaties van de AI-functie, inclusief nauwkeurigheid, robuustheid, nut en eerlijkheid. Definieer, implementeer en documenteer de frequentie en procedures van het testen.
?
Beschrijving van implementatie.
Vergelijkbaar met ontwikkeling.
Normen voor onderhoud.
Beschrijving van ontwikkeling.
Stel duidelijke normen en procedures op voor het doorlopend onderhouden en updaten van de AI-functie en de onderliggende ML-modellen. Definieer de criteria voor wanneer updates nodig zijn en hoe deze worden ge?mplementeerd en gecommuniceerd.
?
Beschrijving van implementatie.
Documenteer normen die worden gebruikt om te bepalen wanneer en of de AI-oplossing of de configuratie ervan moet worden bijgewerkt en/of opnieuw ge?valueerd.
Privacy en beveiliging.
Datakwaliteit.
Beschrijving van ontwikkeling.
Zorg ervoor dat de data die worden gebruikt om de AI-functie te ontwikkelen van hoge kwaliteit zijn, geschikt zijn voor de beoogde toepassing(en) en representatief zijn voor de relevante populaties. Dit wordt aangetoond door transparant te documenteren, zoals in onze AI-factsheets.
?
Beschrijving van implementatie.
Vergelijkbaar met ontwikkeling.
Traceerbaarheid.
Beschrijving van ontwikkeling.
Ontwerp de AI-functie met mogelijkheden voor systeembewaking en -traceerbaarheid.
?
Beschrijving van implementatie.
Zorg voor een mechanisme dat het bewaken en traceren van het systeem ondersteunt.
Locaties uitsluiten.
Beschrijving van ontwikkeling.
Geef klanten de mogelijkheid om de geografische beschikbaarheid van de AI-functie te bepalen. Zo stel je klanten in staat aan lokale wet- en regelgeving te voldoen om de beschikbaarheid van de AI-functie in verschillende regio's te beheren.
?
Beschrijving van implementatie.
Vergelijkbaar met ontwikkeling.
Updaten en terugtrekken.
Beschrijving van ontwikkeling.
Ontwikkel een uitgebreid verandermanagementplan voor updates van de AI-functie en de onderliggende ML-modellen. Dit plan moet communicatieprotocollen bevatten om klanten te informeren over updates en de mogelijke impact op hun gebruik van de functie.
?
Beschrijving van implementatie.
Ontwikkel en documenteer een gespecificeerd verandermanagementplan voor updates of configuratie van de AI-oplossing.
Doeltreffendheid beheren.
Beschrijving van ontwikkeling.
Ontwerp de AI-functie met waarborgen om mogelijke kwetsbaarheden en risico's voor de doeltreffendheid te beperken. Dit omvat bescherming tegen vijandige aanvallen, datamanipulatie en andere pogingen om het AI-systeem uit te buiten of te ondermijnen.
?
Beschrijving van implementatie.
Zorg dat kwetsbaarheden voor menselijke fouten van eindgebruikers en kwaadwillenden die het systeem proberen te misleiden of anderszins de AI-oplossing of de beveiliging van ons intellectuele eigendom in gevaar brengen, worden ge?dentificeerd, beperkt en beheerd.