Swapfiets bouwde een AI-brein voor fietsreparaties. De monteurs willen er niets van weten

"Alleen willen ervaren fietsenmakers daar geen gebruik van maken, die doen toch liever hun eigen ding." Die zin sprak Marc de Vries, CEO van Swapfiets, gisteren uit op EDAY in Amsterdam. Het ging over een AI-brein dat zijn bedrijf heeft gebouwd om fietsreparaties te beoordelen.

Camera's registreren wat er mis is met een fiets. Het systeem vertelt vervolgens wat er moet gebeuren. Volgens De Vries werkt het goed. Toch kiezen de monteurs er niet voor.

Werkt, maar niet gebruikt

Dit is geen verhaal over een AI-tool die faalt. Het werkt, zegt de eigen CEO. Het probleem zit ergens anders: bij mensen die hun vak al jaren doen en liever op hun eigen inschatting vertrouwen dan op een camera die zegt wat er moet gebeuren.

Dat is geen onwil om nieuwe dingen te leren. Het is een vakman die zijn eigen oordeel hoger inschat dan een algoritme, ook als dat algoritme het net zo goed of beter doet. Voor Swapfiets is dat een duur probleem: een systeem bouwen is één ding, het laten gebruiken door mensen die het misschien niet nodig denken te hebben is iets anders.

Overtuigend is niet hetzelfde als juist

Onderzoekers van de Radboud Universiteit publiceerden deze week iets dat hier haaks op staat. Zij ontdekten dat een chatbot die vlot en natuurlijk praat door gebruikers als net zo betrouwbaar wordt gezien als een chatbot die feitelijk correct is, zelfs als de vlotte prater onzin uitkraamt.

Zet die twee verhalen naast elkaar en je ziet het probleem. Mensen die AI niet kennen, vertrouwen een systeem sneller dan het verdient, puur omdat het goed geformuleerd klaagt. Mensen die hun vak wél kennen, vertrouwen een systeem juist minder dan het verdient, omdat ze hun eigen blik hoger inschatten. In beide gevallen is het oordeel losgezongen van de vraag of het systeem het bij het rechte eind heeft.

Wat dit betekent voor wie AI moet gaan gebruiken

Voor werkgevers die AI invoeren in technisch werk, van fietsenmakers tot monteurs tot technici, is dit een waarschuwing. Een tool bouwen die goed werkt is niet genoeg. Je moet ook iets doen aan het vertrouwen van mensen die al jaren op hun eigen ervaring varen, en dat vertrouwen bouw je niet met een handleiding.

Voor wie op zoek is naar werk in de techniek, IT of logistiek is het een nuttig signaal. Bedrijven zoeken niet alleen mensen die met AI overweg kunnen. Ze zoeken ook mensen die bereid zijn hun eigen aanpak los te laten als een systeem het beter doet, en dat is lastiger dan het klinkt.