Amsterdam steunt internationale oproep: verbied AI-tools voor maken nepnaaktbeelden

Amsterdam en expertisecentrum voor online misbruik Offlimits steunen een internationale oproep voor een verbod op een technologie waarmee nepnaaktbeelden kunnen worden gemaakt. Daarmee sluiten ze zich aan bij ruim honderd organisaties wereldwijd. Het gaat om zogenoemde nudify tools, AI-toepassingen die van gewone foto's realistische naaktbeelden maken, zonder toestemming van degene op de foto. Deze technologie wordt volgens Offlimits steeds vaker gebruikt voor chantage, online pesten en misbruik van minderjarigen.  Uit cijfers van het expertisecentrum blijkt dat 15 procent van de mannen tussen de 18 en 25 jaar beelden van seksueel misbruik heeft gezien, realistische of AI-gegenereerde. En onderzoek van televisieprogramma Pointer onder ruim 60 middelbare scholen wijst uit dat bijna een kwart van de scholen bekend is met pesten met AI-gegenereerde naaktbeelden.  "Seksueel misbruik laagdrempeliger" De technologie is online eenvoudig te vinden. Platforms, appstores en hostingdiensten moeten deze tools weren en het kabinet en de Europese Unie moeten ze verbieden, vinden de ruim honderd organisaties die zich hebben aangesloten bij het manifest. Naast de gemeente Amsterdam en Offlimits wordt de oproep gesteund door onder meer Interpol en de Nationaal Rapporteur Mensenhandel en Seksueel Geweld tegen Kinderen.  Wat legaal is, maar 'aantoonbaar schade veroorzaakt' moet verboden worden, licht verantwoordelijk wethouder Scholtes toe. "Het is onacceptabel dat we door het gemak van nudify-tools seksuele intimidatie en misbruik steeds laagdrempeliger maken."