Europol: The impact of Large Language Models on Law Enforcement
/Eind maart 2023 heeft het Innovatielab van Europol een nieuw Tech Watch Flash Report gepubliceerd over grote taalmodellen (LLM's), zoals ChatGPT, en hun impact op de rechtshandhaving. Het rapport is gebaseerd op de resultaten van speciale workshops voor deskundigen waarin het gedrag van een LLM, namelijk ChatGPT, werd getest wanneer deze werd geconfronteerd met potentieel criminele gevallen van kwaadwillig gebruik.
ChatGPT (in de versie GPT-3.5) kan mensachtige tekst verwerken en genereren in antwoord op vragen van gebruikers. Het kan vragen beantwoorden over uiteenlopende onderwerpen, tekst vertalen, conversaties aangaan en tekst samenvatten om de belangrijkste punten aan te geven. Het kan sentimentanalyse uitvoeren, tekst genereren op basis van een gegeven vraag (bv. een verhaal of gedicht schrijven), en code uitleggen, produceren en verbeteren in enkele van de meest gangbare programmeertalen (Python, Java, C++, JavaScript, PHP, Ruby, HTML, CSS, SQL). Hoewel in ChatGPT verschillende veiligheidsmaatregelen zijn opgenomen om kwaadwillig gebruik van het model door de gebruikers te voorkomen, blijkt uit het verslag dat deze veiligheidsmaatregelen kunnen worden omzeild. Het proces van het verfijnen van de precieze manier waarop een vraag wordt gesteld om de output van een AI-systeem te beïnvloeden (de zogenaamde prompt engineering) kan ook worden gebruikt om deze beveiligingen terzijde te schuiven.
Wat het criminele gebruik ervan betreft, wordt in het rapport vastgesteld dat ChatGPT kan worden gebruikt om verschillende soorten misdrijven beter te begrijpen en vervolgens uit te voeren. Het biedt nieuwe mogelijkheden, met name voor misdrijven op het gebied van social engineering, phishing en online fraude, maar ook voor het genereren van propaganda, desinformatie en nepnieuws. De mogelijkheid om code te produceren maakt ChatGPT tot een levensvatbaar instrument voor kwaadwillenden om malware en andere hulp voor cybercriminele doeleinden te creëren.
Gezien de reële impact die LLM's reeds hebben en de snelle groei en verdere verbetering ervan, wordt in het verslag sterk benadrukt dat de rechtshandhaving deze impact moet begrijpen en in staat moet zijn misbruik te voorzien en te voorkomen. Daartoe biedt Europol ook een diepgaander verslag aan dat uitsluitend bestemd is voor rechtshandhaving.
Lees verder:
