RID De Leugenacademie
Kennisbank

De achtergrondkennis bij de video-analyse

De video-analyse van De Leugenacademie meet beweging en geluid, maar de uitvoer betekent pas iets in handen van iemand die de onderliggende begrippen kent. Deze kennisbank is die leerstof. Wie de actie-eenheden en het non-verbale gedrag niet kent, leest de meting verkeerd.

Zo werkt het instrument

Het instrument leest de video beeld voor beeld uit en zet elk beeld om in getallen. Er wordt niets gecombineerd met kennis van buiten, er is geen model dat iets voorspelt over de persoon, en er verlaat geen beeld of geluid het apparaat.

Vijf stappen

  • Meten. Per beeld worden 478 punten op het gezicht bepaald en daaruit 52 vormwaarden afgeleid, plus de stand van het hoofd in drie hoeken. Staan de schouders in beeld, dan komen daar 33 lichaamspunten bij.
  • Vertalen. Die vormwaarden worden samengevoegd tot achttien actie-eenheden, tot blik en hoofdbeweging, en tot schouder- en handmaten. De lichaamsmaten worden gedeeld door de schouderbreedte, zodat de afstand tot de camera niet meetelt.
  • Basislijn. Over een door u gekozen tijdvak wordt per kanaal het gemiddelde en de spreiding bepaald. Dat is de rusttoestand van deze persoon in deze opname.
  • Afwijking. Daarna wordt alles uitgedrukt in z-waarden, het aantal spreidingen dat een meting van die eigen rusttoestand afligt. Een z van 2,5 betekent dus niet veel of weinig in het algemeen, maar veel ten opzichte van deze persoon.
  • Markeren. Overschrijdt een kanaal de drempel, dan ontstaat een moment met een begin, een top en een einde. Momenten die binnen vier tienden van een seconde van elkaar liggen worden samengevoegd tot een voorval.

Waarom een eigen basislijn

Mensen verschillen enorm in gezichtsbouw, spierspanning in rust en spreekstijl. Een absolute drempel meet daardoor vooral anatomie. Door alles af te zetten tegen de eigen rusttoestand meet u verandering, en verandering is het enige dat gedragsmatig iets kan betekenen. Kies daarom een basislijnvenster waarin de persoon ontspannen over iets neutraals praat, niet per se de eerste zestig seconden.

De actie-eenheden

De benaming volgt het Facial Action Coding System van Ekman en Friesen. Let op: dit instrument benadert die eenheden op basis van vormwaarden uit een computermodel. Het is geen gecodeerde FACS-meting door een gecertificeerd codeur, en de intensiteitsschaal A tot E uit FACS wordt hier niet gebruikt.

CodeNaamBetrokken spierenWat u zietWaar op te letten
AU1binnenste wenkbrauw omhoogm. frontalis, pars medialisbinnenste wenkbrauwuiteinden omhoog, horizontale rimpels in het midden van het voorhoofdbij een van nature hoge wenkbrauwstand blijft deze waarde ook in rust verhoogd, de basislijn vangt dat op
AU2buitenste wenkbrauw omhoogm. frontalis, pars lateralisbuitenste deel van de wenkbrauw omhoog, de boog wordt sterkerkomt zelden alleen voor, meestal samen met AU1
AU4wenkbrauwverlagerm. corrugator supercilii, m. depressor supercilii, m. depressor glabellaewenkbrauwen omlaag en naar elkaar toe, verticale groef tussen de brauwenook actief bij concentratie, fel licht en inspanning, niet alleen bij spanning
AU5bovenooglid omhoogm. levator palpebrae superiorisbovenooglid omhoog, meer oogwit boven de iris zichtbaarwordt door een bril of hangende oogleden onderschat
AU6wanghefferm. orbicularis oculi, pars orbitaliswang omhoog, onderooglid komt op, kraaienpootjesde sleutel bij het onderscheiden van een spontane en een sociale glimlach
AU7ooglidspannerm. orbicularis oculi, pars palpebralisooglidspleet vernauwt, gespannen onderooglidlastig te scheiden van AU6, let op of de wang wel of niet meekomt
AU9neusrimpelaarm. levator labii superioris alaeque nasineusrug rimpelt, neusvleugels omhoog, bovenlip komt meeook bij een vieze geur of fel licht
AU10bovenliphefferm. levator labii superiorisbovenlip omhoog, nasolabiale plooi verdiept en verhoogttreedt ook op bij spreken, let op de duur
AU12mondhoektrekkerm. zygomaticus majormondhoeken schuin omhoog en naar buitenzonder AU6 is dit een sociale of beleefde glimlach, niet per se plezier
AU14kuiltjesvormerm. buccinatormondhoek naar binnen en zijwaarts getrokken, kuiltje in de wangeenzijdig is dit het kenmerk van minachting
AU15mondhoekverlagerm. depressor anguli orismondhoeken omlaag, onderlip licht naar buitenbij een van nature omlaag lopende mond blijft de basislijn verhoogd
AU17kinhefferm. mentaliskin omhoog, onderlip komt op, kin krijgt een gerimpeld oppervlakveel voorkomend tijdens spreken en slikken
AU18lippentuiterm. incisivii labii superioris en inferiorislippen naar voren getuitkomt ook voor bij bepaalde klanken, denk aan oe en u
AU20lipstrekkerm. risoriusmondhoeken zijwaarts uit elkaar, mond wordt brederonderdeel van het angstprototype, ook bij inspanning
AU24lippenperserm. orbicularis orislippen op elkaar geperst, lippenrand wordt smallerin dit instrument zijn AU23 en AU24 samengenomen, het model scheidt ze niet
AU26kaak zaktontspanning van m. masseter en m. temporaliskaak zakt, lippen komen losgaat vrijwel altijd samen met spreken, weinig informatief op zichzelf
AU28lippen naar binnenm. orbicularis orislippen naar binnen gezogen, lippenrood verdwijnt deelskomt vaak voor bij nadenken en bij droge lippen
AU45knipperingm. orbicularis oculi en m. levator palpebraeknippering, ooglid volledig gesloten en weer geopendwordt apart geteld en niet als afwijking gemarkeerd, alleen het tempo telt

Expressieconfiguraties

Een configuratie is een vast patroon van actie-eenheden dat in de literatuur aan een emotie wordt gekoppeld. Het instrument berekent per beeld welk deel van de vereiste eenheden actief is, trekt daar iets af als een tegenindicerende eenheid meedoet, en drukt de uitkomst uit als dekkingspercentage.

ConfiguratieVereiste eenhedenTegenindicatieOpmerking
blijdschapAU6 AU12geen
verdrietAU1 AU4 AU15AU12
verrassingAU1 AU2 AU5 AU26AU4
angstAU1 AU2 AU4 AU5 AU20geen
woedeAU4 AU5 AU7 AU24AU12
walgingAU9 AU10 AU17geen
minachtingAU12 AU14geenvereist aantoonbare eenzijdigheid, anders zakt de score sterk

Wat een percentage wel en niet zegt

Zeventig procent dekking betekent dat het merendeel van de spiergroepen die bij dat prototype horen tegelijk actief was. Het betekent niet dat de persoon die emotie voelde. De aanname dat een gezichtsuitdrukking betrouwbaar naar een innerlijke toestand verwijst, is stevig bekritiseerd, onder meer in het overzichtsartikel van Barrett, Adolphs, Marsella, Martinez en Pollak uit 2019. Dezelfde configuratie komt voor bij verschillende toestanden, en dezelfde toestand leidt bij verschillende mensen tot verschillende gezichten. Beschrijf in een rapport dus de configuratie, niet de emotie.

Duur, symmetrie en de micro-expressie

Duur

Elk moment krijgt een duur van onset tot offset. Onder de tweehonderd milliseconden heet het micro, tussen tweehonderd en vijfhonderd vluchtig. Echte micro-expressies duren veertig tot tweehonderd milliseconden. Bij dertig beelden per seconde beslaat dat een tot zes beelden, wat te grof is om zoiets betrouwbaar vast te stellen. Neem daarom op met honderdtwintig beelden per seconde als korte expressies het onderwerp zijn, en zet de bemonstering daar dan ook op.

Symmetrie

Voor de eenheden die links en rechts apart gemeten worden, wordt het verschil tussen beide zijden berekend. Boven vijfendertig procent verschil wordt het gemeld. Asymmetrie is om twee redenen interessant: bij minachting hoort eenzijdigheid tot de definitie, en bij bewust gestuurde uitdrukkingen loopt de ene gezichtshelft vaker voor op de andere. Wees wel voorzichtig, want een scheve camerahoek en een gedraaid hoofd veroorzaken schijnasymmetrie.

De glimlach

Bij elke AU12 wordt gecontroleerd of AU6 meedoet. Zonder wangbetrokkenheid is het een sociale of beleefde glimlach. Dat is geen aanwijzing voor misleiding, wel een aanwijzing dat de uitdrukking gestuurd is in plaats van spontaan.

Hoofd, blik en lichaam

KanaalWat het meetHoe
HBhoofdbewegingsnelheid van de hoekverandering in graden per seconde, licht gedempt
HJhoofddraai links rechtsafwijking van de gemiddelde stand, plus herkenning van schudden
HKhoofdknik op neerafwijking van de gemiddelde stand, plus herkenning van knikken
BLIKblikafwendingafstand van de kijkrichting tot de eigen gemiddelde kijkrichting, uit acht oogkanalen
SCHschouderactiviteithoogte van beide schouders ten opzichte van het hoofd, gedeeld door de schouderbreedte
SCHAschouderasymmetrieverschil in hoogte tussen linker en rechter schouder
ROMPhoudingstabiliteitschijnbare schouderbreedte, die afneemt zodra de romp wegdraait
HANDhand bij gezichtkortste afstand van een pols tot de neus, genormaliseerd
GEBhandbewegingpolssnelheid, een maat voor illustratoren bij de spraak

Schudden en knikken

Een gebaar wordt vastgesteld als de hoofdhoek binnen driekwart seconde per wisseling minstens drie keer van richting verandert met voldoende uitslag. Er wordt gemeld hoeveel wisselingen er waren en hoe groot de uitslag was in graden.

Blikafwending

Dit is een van de slechtst onderbouwde signalen die er zijn. Het hangt sterker samen met cultuur, met geheugenwerk en met de sociale druk van het gesprek dan met misleiding. Het wordt gemeten omdat het beschrijvend nuttig is. Er wordt bij vermeld of het hoofd meedraaide of dat alleen de ogen bewogen, want dat zijn gedragsmatig twee verschillende dingen.

Stem en spreekritme

Het geluidsspoor wordt teruggerekend naar acht kilohertz en per vijfentwintig milliseconden geanalyseerd.

MaatHoe berekendBetekenis
TOONautocorrelatie met octaafcorrectie, zestig tot vierhonderd hertzgrondtoon van de stem
LUIDeffectieve waarde per venster in decibelluidheid
TEMPOtoppen in de energieomhullende, geteld in een venster van drie secondenlettergrepen per seconde
SPANvijftig procent toon, dertig procent luidheid, twintig procent tempo, elk als z-waardesamengestelde spanningsindex
pauzestilte langer dan driehonderdvijftig milliseconde binnen spraakaarzeling of denkpauze
toonstabiliteitomgekeerde van de relatieve toonspreidingmonotonie tegenover melodische variatie

Wat hier bewust niet in zit

Er worden geen emotielabels aan de stem gehangen. Modellen die dat doen presteren redelijk op geacteerde opnames en aanzienlijk slechter op spontaan gesprek. Commerciele stemstressanalyse, zoals de producten rond layered voice analysis, komt in onafhankelijk onderzoek herhaaldelijk niet boven kansniveau uit. Een stijgende toonhoogte onder spanning is een van de robuustere bevindingen in de literatuur, maar het effect is klein en zegt niets over de oorzaak van die spanning.

Woord en gedrag

Met een transcript erbij wordt aan elk voorval de gesproken tekst gekoppeld, met een halve seconde speling aan beide kanten. Vervolgens wordt elke uitspraak geduid op drie kenmerken en worden vijf combinaties gemeld waarin woord en gedrag verschillende kanten op wijzen.

Hoe de tekst geduid wordt

Op trefwoorden, niet op begrip. Ontkenning wordt herkend aan woorden als niet, nooit, geen, niets en niemand. Bevestiging aan ja, klopt, precies, inderdaad. Stelligheid aan wendingen als ik weet zeker, absoluut, geloof me, op mijn erewoord. Ironie, citaten van anderen en tussenzinnen gaan daarbij mis. Lees dus altijd na wat er werkelijk gezegd is, daarvoor staat het citaat bij elk voorval.

De status van dit signaal

Tegenstrijdigheid tussen woord en gedrag is de enige categorie in dit instrument met noemenswaardige onderzoeksdekking. En zelfs die zegt niets over waarheid. Het is een aanwijzing dat een moment nadere bevraging verdient. Meer niet.

Intensiteit en voorvallen

Momenten die dicht bij elkaar liggen worden samengevoegd tot een voorval. Dat voorval krijgt een intensiteit tussen nul en honderd, opgebouwd uit twee delen: hoe ver het sterkste kanaal boven zijn drempel uitkwam, en hoeveel verschillende kanalen tegelijk meededen. Boven de zesenzestig heet het hoog, tussen achtendertig en vijfenzestig middelmatig, daaronder laag.

Intensiteit zegt iets over de opvallendheid van een moment, niet over de betekenis. Een hoge intensiteit bij het aanpassen van een bril is nog steeds een bril. Daarom staat er in het rapport bewust intensiteit en niet risico.

Grenzen en juridisch kader

Wat dit instrument niet is

Het is geen leugendetector. Er bestaat geen wetenschappelijk houdbare stap van een actie-eenheid, een stemkenmerk of een gebaar naar waarheid of leugen. Meta-analyses van non-verbale aanwijzingen voor misleiding vinden effecten die zo klein zijn dat ze op individueel niveau onbruikbaar zijn. Wie op basis van deze uitvoer een uitspraak doet over geloofwaardigheid, doet dat op eigen gezag en niet op gezag van de meting.

Basisratio. Ook als een signaal bij misleiding twee keer zo vaak voorkomt, geldt: als misleiding zeldzaam is in de onderzochte groep, zijn verreweg de meeste treffers alsnog onschuldig. Dat is geen detail maar de kern van waarom dit soort instrumenten in de praktijk zo vaak verkeerd uitpakt.

Verwerking van persoonsgegevens

Gezichtsmetingen zijn biometrische gegevens. Er is een grondslag nodig, een gegevensbeschermingseffectbeoordeling ligt voor de hand, en er moet een bewaartermijn zijn. Alle verwerking in dit instrument gebeurt lokaal in de browser, er wordt niets geupload. Dat vergemakkelijkt de verantwoording maar heft de verplichtingen niet op.

Emotieherkenning en de AI-verordening

Systemen voor emotie-inferentie en voor het afleiden van betrouwbaarheid vallen in de Europese AI-verordening onder apart geregelde toepassingen, met zwaardere eisen zodra ze in een rechtshandhavings- of arbeidscontext worden gebruikt. Ga na welke verplichtingen op het moment van gebruik gelden, want de invoering verloopt in fasen. Voer dit instrument daarom nooit op als beslissysteem, maar als observatiehulpmiddel waarvan een mens de uitkomst beoordeelt.

Van kennis naar instrument

De video-analyse komt beschikbaar zodra u laat zien dat u de stof beheerst. De route is opgezet in vier stappen, zodat niemand met het instrument werkt zonder de begrippen te kennen.

01

Kennisbank

U neemt deze leerstof door.

02

Toets

U toetst uw kennis van de actie-eenheden en het gedrag.

03

Micro-expressies op niveau

U haalt de vereiste score op herkenning.

04

Video-analyse

Het instrument wordt voor u vrijgegeven.