Narrow AI: eigenaarschap beleggen bij één team

Het probleem is zelden technisch

De lastigste vraag bij een AI-implementatie gaat niet over modellen. Hij gaat over verantwoordelijkheid.

Wie is aanspreekbaar als een beslissing verkeerd uitpakt? Welke afdeling beheert het model? Wie past de regels aan als de wet verandert of de markt opschuift? Bij brede AI-systemen die van alles een beetje kunnen, blijft het antwoord vaag. Iedereen is een beetje betrokken en niemand is eigenaar.

Bij Narrow AI is het antwoord simpel: de afdeling die het proces beheert, beheert het model.

Wat Narrow AI is

Narrow AI is AI die is getraind voor één afgebakende taak. Niet algemeen, niet creatief, niet zelflerend buiten het eigen domein. Binnen dat domein juist wel uitzonderlijk nauwkeurig en voorspelbaar.

Voorbeelden uit de praktijk:

• Een model dat inkomende facturen classificeert naar kostenplaats.

• Een algoritme dat kredietaanvragen beoordeelt op basis van vastgestelde criteria.

• Een module die binnenkomende meldingen prioriteert en aan de juiste behandelaar toewijst.

• Een voorspeller die aangeeft welke orders de afgesproken levertijd waarschijnlijk niet halen.

• Elk model doet precies dat ene ding. Juist die beperking maakt het organisatorisch hanteerbaar.

Eén taak, één eigenaar

Omdat de scope scherp is afgebakend, is eenvoudig te bepalen welk team eigenaar is. Niet als IT-project, maar als onderdeel van een bedrijfsproces dat al een eigenaar heeft.

De financiële administratie is eigenaar van het model dat facturen classificeert. Zij stellen de categorieën vast, bewaken de kwaliteit van de uitkomsten en passen de regels aan waar nodig, zonder tussenkomst van IT voor elke wijziging.

Risicomanagement is eigenaar van het kredietbeoordelingsmodel. Zij bepalen de drempelwaarden en dragen de verantwoordelijkheid voor de uitkomsten, net zoals ze dat deden toen die beoordeling nog handmatig gebeurde.

Dit sluit aan op hoe organisaties al zijn ingericht: met proceseigenaren per afdeling. Narrow AI verlengt die bestaande verantwoordelijkheid naar het model dat het proces ondersteunt. Er hoeft geen nieuwe governance-structuur te worden bedacht.

Wat eigenaarschap in de praktijk inhoudt

Eigenaarschap is meer dan een naam in een document. Een eigenaar van een Narrow AI-model:

Beoordeelt maandelijks een steekproef van de beslissingen, om te zien of de uitkomsten nog kloppen.

Bewaakt hoeveel gevallen het model doorstuurt naar een mens. Loopt dat percentage op, dan is er iets veranderd in de werkelijkheid.

Keurt wijzigingen in drempelwaarden en categorieën goed.

Is het aanspreekpunt voor auditor en toezichthouder.

Leg deze taken vast voordat het model live gaat, niet erna. Een model zonder eigenaar verslechtert geleidelijk en niemand merkt het, totdat een klant of een auditor het merkt.

Narrow AI tegenover generatieve AI

Generatieve AI zoals ChatGPT is krachtig voor brede taken. In een gecontroleerde procesomgeving heeft het drie eigenschappen die lastig uitpakken.

De output varieert. Dezelfde vraag levert morgen een ander antwoord op. Voor het schrijven van een tekst is dat prima, voor het beoordelen van een kredietaanvraag niet.

De redenering is niet vast te leggen. Het systeem geeft desgevraagd een verklaring, maar dat is een gegenereerde tekst, geen weergave van hoe de uitkomst tot stand kwam.

Het eigenaarschap is diffuus. Een model dat honderd verschillende taken uitvoert, hoort bij honderd verschillende processen en dus bij niemand in het bijzonder.

Narrow AI gedraagt zich anders. Dezelfde input geeft dezelfde uitkomst. Elk besluit is herleidbaar naar het moment, de input en de toegepaste regels. Uw auditor, uw bestuur en uw toezichthouder kunnen het volgen en beoordelen.

Dat maakt generatieve AI niet minderwaardig, het maakt het geschikt voor andere taken. Veel organisaties gebruiken beide, op verschillende plekken.

Hoe Dex-IT Narrow AI inbedt

Een model levert pas waarde als het onderdeel is van een werkende procesflow.

Process mining bepaalt de scope: welke processtappen lenen zich voor een model, hoeveel volume gaat erdoorheen en welke data is beschikbaar en betrouwbaar? Die analyse voorkomt dat u een model bouwt voor een stap die in de praktijk nauwelijks voorkomt.

De BPM-laag borgt de uitvoering. Elke beslissing van het model wordt vastgelegd, uitgevoerd binnen de vastgestelde grenzen, en kan door een mens worden overschreven. Die overschrijvingen zijn bovendien de beste bron voor verbetering van het model.

Het resultaat is AI die werkt binnen de grenzen die uw organisatie heeft gesteld: beheersbaar, controleerbaar en met een eigenaar die bij naam bekend is.