Explainable AI

Een recent artikel in het FD luidde: ‘Rekenkamer ziet vele fouten in algoritmes overheid’. Sinds de start van de digitale revolutie zijn bijna alle gebieden van het leven getransformeerd en hebben geleid tot een digitale wereld. Dit heeft ook zijn weerslag op (lokale) overheden. Data gedreven werken krijgt een steeds belangrijkere functie. Deze ontwikkeling biedt bijvoorbeeld kansen op het gebied van efficiëntere beleidsvoering, door het inzetten van Artificial Intelligence en Machine Learning. Door de inzet van slimme rekenregels, algoritmen, kunnen computers grote hoeveelheden data in korte tijd analyseren. De computer spreekt en optimaliseert haar eigen taal. Maar hoe voorkom je bij het uit handen geven van deze taken, dat fouten sluipen in een taal die je eigenlijk niet begrijpt?

Inkoopdashboard

De ‘black box’

Digitalisering biedt vele kansen en mogelijkheden, maar brengt ook risico’s met zich mee. Toonaangevende instituten waarschuwen dat deze nieuwe technologieën vragen om een andere kijk op controleerbaarheid en aanspreekbaarheid. Veel digitale systemen/technologieën hebben namelijk een ‘black box’-karakter. Dit houdt in dat er inzicht is in de inbrengsten en opbrengsten van een AI-toepassing, maar dat niet begrepen wordt wat er in het proces, de zogenaamde ‘black box’, gebeurt. Het is lastig om erachter te komen hoe de systemen precies werken, welke aannames ze maken en op basis waarvan besluiten tot stand komen. Verschillende adviesraden doen daarom aanbevelingen en Europese beleidsmakers werken in een hoog tempo aan nieuwe kaders en wetgeving. Kortom, het is belangrijk dat gemeenten zich voorbereiden op deze ontwikkelingen.

Explainable AI met InIn

Een ‘black box’ kan verstrekkende gevolgen hebben. Hoe kan je er bijvoorbeeld voor zorgen dat gegevensbeveiliging gegarandeerd blijft? En hoe zorg je ervoor dat er geen schending van fundamentele rechten zoals discriminatie plaatsvindt? Explainable AI is daarom een heel belangrijk onderdeel binnen de dienstverlening van InIn. Deze term, die in contrast staat met het concept van de ‘black box’, houdt in dat altijd uit te leggen is wat er is gedaan, wat er zal gebeuren en er transparantie gegeven wordt in informatie waarop acties gebaseerd zijn. De medewerkers van InIn zijn zowel sociaal als technisch bekwaam, zodat ze niet enkel in staat zijn de data gedreven oplossingen te maken waar jij naar op zoek bent, maar ook uit kunnen leggen wat de oplossingen behelzen. In begrijpelijke taal.

Contact

Ben jij op zoek naar een data gedreven oplossing? Of twijfel je over de transparantie van de oplossing die je nu gebruikt? De dataspecialisten van InIn begrijpen data. We maken het inzichtelijk en aantrekkelijk zodat jij ermee wil werken.

Menu