Voor u gelezen: Onderzoekers maken zichzelf onzichtbaar voor intelligente camera’s

‘Electric Eyes are Everywhere.’ Steve Porcaro, de enige van uiterst muzikale Porcaro Brothers - Jeff en Mike waren zijn broers - die nog in leven is, schreef het al in het nummer ‘Human Nature’, dat in 1983 werd gezongen door een destijds immens populaire zanger.

Om die elektrische ogen een loer te draaien verzonnen drie studenten een plannetje. Een kartonnen bordje met daarop een kleurrijke afbeelding. Dat is alles wat ze nodig hadden om de boel voor de gek te houden. In Etotaal.nl doen ze uit de doeken hoe ze de zwakke punten van slimme camera’s aan het licht hebben gebracht.

Eerst en vooral: de studenten van de Vlaamse onderzoeksgroep EAVISE (Embedded and Artificially Intelligent Vision Engineering) hebben geen kwade bedoelingen. Integendeel. Ze willen alleen de zwakke punten van intelligente detectiesystemen blootleggen.

Die systemen maken namelijk gebruik van patroonherkenning. De camera registreert de beelden, de software interpreteert ze. Als je die systemen vervolgens traint met beelden van verschillende mannen en vrouwen, dan slagen ze er na verloop van tijd in om mensen te herkennen en hen te onderscheiden van welke andere objecten dan ook. Natuurlijk, mensen verschillen van grootte, omvang, haarkleur, of gelaat. Toch identificeert het algoritme een mens als mens.

Daardoor zijn die slimme detectiesystemen erg geschikt voor beveiliging. Ze geven zelfs automatisch een signaal zodra er zich een indringer in het zicht van de camera's begeeft, ook al probeert die zich te verstoppen. Vroeger had je daarvoor bewakers nodig die urenlang naar schermen moesten turen. En de aandacht van die bewakers kon natuurlijk wel eens verslappen……

Achilleshiel
Maar ook die slimme detectiesystemen zijn niet helemaal onfeilbaar. Ze vinden het bijvoorbeeld soms moeilijk om bepaalde patronen te herkennen. Kleine veranderingen zijn daarvoor genoeg. Zo kan je met een kartonnen namaakbril of een nepsnor een gezichtsherkenningssysteem helemaal in de war brengen. De Vlaamse studenten zijn nog een stapje verder gegaan. Ze zijn er in geslaagd om YOLO, een van de meest populaire algoritmes om objecten en personen te detecteren, te misleiden.

Ze hielden een kartonnen bord van 40 bij 40 centimeter, met daarop een kleurrijke print, voor hun lichaam. Dat was genoeg om YOLO beet te nemen: wie het bordje draagt, wordt onzichtbaar voor het systeem. Je wordt niet gedetecteerd, niet als mens, noch als object. Hoe het komt dat precies dit patroon YOLO om de tuin heeft geleid, weten de studenten nog niet. Algoritmes maken nu eenmaal gebruik van miljoenen parameters.

Gespecialiseerde websites hebben het nieuws ondertussen al gretig opgepikt. De video die de onderzoekers online hebben gezet, is al meer dan 147.000 keer bekeken.

Het hele verhaal is hier te vinden.