Technische, organisatorische en juridische overwegingen bij het opschalen van AI-toepassingen binnen het veiligheidsdomein
/In deze bijdrage zetten de auteurs allereerst uiteen wat wordt bedoeld met AI-toepassingen en introduceren zij de centrale casus: geweldsdetectie in camerabeelden. In de paragrafen erna gaan de auteurs in op de verschillende vormen van opschaling die in de literatuur worden onderscheiden, en op de organisatorische, technische en juridische aspecten die van belang zijn om mee te nemen in opschalingsvraagstukken en -besluiten. In het laatste deel van deze bijdrage reflecteren de auteurs op de complexiteit om publieke waarden te versterken via opschaling. Ze staan stil bij drie centrale publieke waarden: efficiëntie, effectiviteit en verantwoording (accountability).
Efficiëntie en effectiviteit zijn aspecten die worden genoemd als ‘stuwende beginselen’ voor de inzet van technologie, en zo ook voor de inzet van AI. Accountability is een ‘procesmatig beginsel’ waarlangs de inzet van dergelijke toepassingen moet plaatsvinden, en die ook onder druk kan komen te staan door het opschalen van AI-toepassingen. Deze publieke waarden zijn bepalend voor de wenselijkheid om AI-toepassingen op te schalen. Uiteraard zijn meerdere waarden en beginselen van belang bij de inzet van technologie en AI (bijv. non-discriminatie en dataprotectie), maar die worden in deze bijdrage buiten beschouwing gelaten.
Lees verder:
Technische, organisatorische en juridische overwegingen bij het opschalen van AI-toepassingen binnen het veiligheidsdomein door Martijn Wessels, Jeroen van Rest, Liisa Janssens, Jesper van Putten en Ron Boots in Justitiële verkenningen
