DEEPTRUST: Bouwen aan forensische betrouwbaarheid in het tijdperk van deepfakes
De snelle opkomst van generatieve AI maakt het manipuleren van digitale documenten en beelden makkelijker dan ooit. Of het nu gaat om valse schadefoto’s, frauduleuze identiteitsbewiezen of nepbonnetjes: deepfakes zijn met het blote oog nauwelijks nog van echt te onderscheiden. Met het nieuwe project DEEPTRUST zet het Leiden Centre for Applied Bioscience (LCAB) in op de ontwikkeling van deepfake-detectiemethoden die voldoen aan de strengste forensische en juridische standaarden.
Veel bestaande detectietools richten zich puur op gezichtsherkenning in video’s en maken gebruik van black-box AI-modellen. Voor een officieel forensisch proces of een juridische procedure is dat onvoldoende. De rechtspraak eist namelijk transparantie, consistentie en een harde wetenschappelijke onderbouwing. Een rechter of schadebehandelaar moet kunnen begrijpen waarom een document als 'vals' is aangemerkt. Project DEEPTRUST springt in dit gat.
Het doel: Uitlegbare en rechtsgeldige AI-detectie
Het doel van DEEPTRUST is het ontwikkelen van betrouwbare, reproduceerbare en verklarende detectiemethoden voor AI-gemanipuleerd beeld- en documentmateriaal. Het project levert een concrete proof of concept op, inclusief actuele datasets en een forensisch toetsingskader. Zo kunnen organisaties die afhankelijk zijn van digitaal materiaal van derden — zoals verzekeraars, toezichthouders en opsporingsinstanties — de authenticiteit van bewijsmateriaal met hoge zekerheid vaststellen.
Impact op de sector en het onderwijs
Met DEEPTRUST levert het LCAB een directe bijdrage aan de nationale KIA Digitalisering (binnen de thema's AI, Cybersecurity en Digitale Veiligheid). Het project versterkt het maatschappelijke vertrouwen in digitale informatie en helpt grootschalige fraude effectief te bestrijden.
DEEPTRUST-consortium
Binnen het DEEPTRUST-consortium werken we nauw samen met tech-pionier DuckDuckGoose (ontwikkelaar van deepfake-detectiesoftware) en de Stichting Verzekeringsbureau Voertuigcriminaliteit (VbV). Waar DuckDuckGoose de algoritmen bouwt en VbV praktijkcases aanlevert, vormt het LCAB de forensische en juridische kern van het project.
Het LCAB draagt zorg voor de wetenschappelijke validatie en forensische inbedding via een reeks samenhangende werkpakketten ->
Juridische en forensische kaders (WP1 & WP2)
Het LCAB analyseert aan welke wet- en regelgeving (zoals de AI Act en de GDPR) de detectietechnieken moeten voldoen. We vertalen complexe juridische randvoorwaarden naar harde technische kwaliteitscriteria voor de nieuw te bouwen datasets.
Explainable AI & Forensische documentatie (WP3 & WP4)
Wij onderzoeken hoe geavanceerde deep learning-modellen gecombineerd kunnen worden met klassieke, bewezen signalen (zoals Error Level Analysis en ruispatronen). Het LCAB ontwikkelt de documentatie- en visualisatieformats die de AI-keuzes vertalen naar een transparante, uitlegbare indicatie. Dit zorgt ervoor dat het resultaat standhoudt in de rechtbank en bruikbaar is voor niet-technische professionals.
Kennisdisseminatie & Congresorganisatie (WP5)
Als onafhankelijke kennispartner valideert het LCAB de ontwikkelde prototypes in een laboratoriumtestomgeving. Daarnaast nemen wij de leiding in het delen van de resultaten met het werkveld door wetenschappelijke publicaties te schrijven en een groot congres te organiseren over de aanpak en resultaten.
Meer weten over DEEPTRUST?
Neem voor vragen over de onderzoekslijnen, forensische validatie of mogelijkheden tot samenwerking contact op met het LCAB via [email protected].