Shadow AI

Wat is shadow AI?

Shadow AI is AI die binnen je bedrijf voor het werk gebruikt wordt zonder dat je bedrijf het weet. Een collega plakt een klantencontract in een chatbot om er een samenvatting van te krijgen. Iemand van de verkoop haalt een klantenlijst door een gratis tool om ze aan te vullen. Iemand op de boekhouding bouwt een agent die een mailbox uitleest, en deelt die met drie collega's.

De naam komt van shadow IT, het oude probleem van teams die software kochten buiten IT om. Shadow AI is dezelfde vorm zonder de wrijving. Voor shadow IT had je op zijn minst een aankoop, een installatie of een beheerderswachtwoord nodig. Voor shadow AI heb je een browsertabblad nodig.

Het telt dat hier zowat nooit kwaad opzet achter zit. In bijna alle gevallen heeft iemand een tool gevonden die zijn werk echt sneller maakte, en die dan gebruikt. Dat is precies het juiste instinct bij een medewerker. Het probleem zit niet in de beweegreden, het zit erin dat niemand kan zien wat er gebeurt.

Hoe het zich vastzet

Er zijn drie drijfveren, en op alle drie heb je invloed.

De goedgekeurde weg is trager dan de niet-goedgekeurde. Duurt het zes weken om toegang te krijgen tot een goedgekeurde tool en zes seconden om een gratis alternatief te openen, dan gebruiken mensen dat alternatief voor alles wat dringend is. Elke keer opnieuw.

Niemand heeft gezegd wat de regels zijn. De meeste bedrijven hebben hun mensen nooit verteld welke soorten informatie nooit in een externe tool mogen. Zonder regel gebruiken mensen hun eigen oordeel, en dat oordeel is afgesteld op hoe nuttig het antwoord was.

Het verspreidt zich door het te tonen. Eén collega laat een andere zien dat een taak nu tien minuten duurt in plaats van een namiddag. Zo'n demonstratie overtuigt een pak sterker dan eender welke interne communicatie over een goedgekeurd platform.

Wat er echt misloopt

Data glipt uit je handen. Een contract, een patiëntendossier of een prijslijst in een consumententool plakken, betekent dat die data nu verwerkt wordt op een plek waar je geen overeenkomst mee hebt, onder voorwaarden die je niet gelezen hebt, mogelijk buiten de EU. Dat is een vraag rond gegevensbescherming nog voor het een beveiligingsvraag is.

Agents zonder eigenaar. Een agent die één persoon gebouwd heeft en met een ploeg gedeeld heeft, blijft draaien als die persoon van functie verandert of vertrekt. Hij gebruikt nog altijd diens account, leest nog altijd echte data, en niemand herinnert zich dat hij bestaat tot hij stukgaat of iets doet dat niet hoort.

Geen spoor achter een beslissing. Komt een offerte, een weigeringsbrief of een beoordeling uit een niet-goedgekeurde tool, dan kan je achteraf niet reconstrueren waarop ze gebaseerd was. Dat valt vervelend uit in een discussie en nog slechter in een controle.

Foute antwoorden zonder iemand die nakijkt. Een goedgekeurde tool staat op je eigen data met een of andere vorm van onderbouwing. Een consumentenchatbot antwoordt vanuit algemene kennis, zelfzeker, ook over jullie eigen beleidsregels die hij nooit gezien heeft.

Een onbeheerd aanvalsoppervlak. Een agent waar niemand van weet, is ook een agent die niemand beveiligd heeft. Hij heeft tools, aanmeldgegevens en inkomende input, en een prompt injection in een binnenkomende mail kan die in gang zetten.

Waarom een verbod niet werkt

De reflex is een beleidsregel die het gebruik van externe AI-tools verbiedt. Die reflex valt te begrijpen, en hij werkt niet, om twee redenen.

De eerste is dat je het niet kan zien. Een verbod dat je niet kan afdwingen, duwt hetzelfde gedrag gewoon verder uit het zicht, naar privétoestellen en privéaccounts, waar je helemaal niets meer ziet. Je hebt het risico niet verkleind, je hebt het onzichtbaar gemaakt.

De tweede is dat de tijdswinst echt is. Zou het verbod wel werken, dan vraag je je mensen om hun werk trager te doen dan ze kunnen. Dat houdt geen stand, en wie de regel het snelst breekt, is net degene die er het meest uit haalt.

Wat wel werkt, is saaier. Geef je mensen een goedgekeurde tool die goed genoeg is dat de niet-goedgekeurde niet meer aantrekkelijk is. Zeg duidelijk welke soorten informatie het bedrijf nooit mogen verlaten, in concrete woorden en niet als principe. Zorg dat een agent registreren twee minuten duurt en dat er geen uitbrander aan vasthangt. En aanvaard dat een register met de lastige lijnen erin meer waard is dan een beleidsregel die een proper ogende leegte oplevert.

Waar moet je op letten bij shadow AI

Eerst amnestie, dan regels. Als het eerste wat iemand overkomt die toegeeft een tool te gebruiken een terechtwijzing is, dan hoor je nooit iets over de tweede. Vraag zonder gevolgen wat mensen gebruiken voor je iets aanscherpt.

Kijk in de software die je al gekocht hebt. Veel shadow AI is helemaal geen aparte tool. Het is een AI-functie die een leverancier aangezet heeft in een product dat je al gebruikt. Niemand heeft ze gekozen, en ze verwerkt je data evengoed.

Privéaccounts zijn het lastigste stuk. Een collega die op een eigen laptop met een eigen account werkt, zit buiten alles wat jij beheert. Daar heb je een gesprek en een stuk cultuur voor nodig, geen technische oplossing.

Schrijf de regel in zelfstandige naamwoorden en niet in principes. "Ga verantwoord om met data" zegt niemand iets. "Klantgegevens, personeelsdossiers, contracten en broncode gaan niet in externe tools" is iets waar iemand op een dinsdagnamiddag mee vooruit kan.

Shadow AI is een signaal en niet enkel een risico. De tools waar mensen naar grijpen, vertellen je exact waar je processen traag zitten. Dat is gratis onderzoek, en dat lees je best als zodanig voor je alles gaat dichttimmeren.