Onzichtbaar voor slimme camera’s (+video)

Een video van de onderzoeksgroep EAVISE, Embedded and Artificially Intelligent Vision Engineering, gaat viraal. Hoe misleid je een gezichts­herkennings­camera?

Trefwoorden: #artificiële intelligentie, #EAVISE, #facial recognition, #gezichtsherkenning, #KUL

Lees verder

research

( Foto: screen YouTube - EAVISE, KU Leuven )

ENGINEERINGNET.BE - Het vergt geen hightech stealthtechnologie, geen skunk works, geen onzichtbaarheidsmantel,...

Een kartonnen bordje met daarop een kleurrijke print volstond voor onderzoekers Wiebe Van Ranst, Simen Thys en Toon Goedemé van de Faculteit Industriële Ingenieurswetenschappen om zich onzichtbaar te maken voor het slimme detectiesysteem. We pikten hun bericht van april via een omweg (en zoveel meer views op YouTube) dan toch op.

De onderzoeksgroep EAVISE (Embedded and Artificially Intelligent Vision Engineering) bestudeert de zwakke punten van intelligente detectiesystemen die gebruik maken van patroonherkenning. Software gaat automatisch camerabeelden interpreteren.

“Als je die systemen traint met beelden van verschillende mannen en vrouwen, dan slagen ze er na verloop van tijd in om mensen te herkennen en hen te onderscheiden van om het even welk object”, aldus Professor Goedemé, hoofd van de onderzoeksgroep EAVISE aan Campus De Nayer.

Dat maakt deze systemen geschikt voor beveiliging/bewakingsopdrachten omdat ze een onderscheid maken tussen een hond of kat die voor de camera loopt en een mens.

Maar soms laten deze systemen een steek vallen... en herkennen ze een bepaald patroon niet. Masterstudent Simen Thys en postdoc Wiebe Van Ranst slaagden er in om YOLO (staat niet voor You Only Live Once maar voor één van de meest populaire algoritmes om objecten en personen te detecteren) te misleiden.

Ze hielden een kartonnen bord van 40 op 40 centimeter voor hun lichaam, met daarop een kleurrijke print. Wie het bordje draagt, wordt onzichtbaar voor het systeem.

Professor Goedemé: “Ons patroon, dat nota bene door artificiële intelligentie ontworpen is, maakt mensen onzichtbaar. Wie het bordje draagt, wordt niet gedetecteerd, noch als mens, noch als object. Hoe het komt dat precies dit patroon YOLO om de tuin heeft geleid, weten we niet. Algoritmes maken nu eenmaal gebruik van miljoenen parameters. Voor ons is dit een zwarte doos.”

De onderzoekers zijn enthousiast, maar waarschuwen meteen voor andere beveiligingslekken. Ze gaan ervan uit dat YOLO nog andere zwakke punten heeft.

“Of we ooit alle beveiligingslekken kunnen dichten? Dat denk ik niet. Ik zei het al: zo'n algoritme is een black box. Dit is het begin van een wapenwedloop.”


Video: