Kan een verbod op AI-uitkleedapps online misbruik stoppen?

Online apps en websites waarmee je met AI nepnaaktfoto’s kunt maken, worden straks in heel Europa verboden. Het Europees Parlement stemt over een verbod op deze zogenaamde uitkleed-apps. Met deze apps kunnen mensen met behulp van kunstmatige intelligentie kleding van foto’s verwijderen. De landen van de Europese Unie waren het eerder al eens over dit verbod.

Het verspreiden van zulke nepbeelden is nu al verboden. Toch is het nog steeds makkelijk om deze beelden te maken met AI-chatbots, zoals Grok. Ook zijn er via zoekmachines zoals Google en Bing nog veel websites te vinden waarmee dit kan.

Zoekmachines kunnen straks hoge boetes krijgen als zij zulke websites blijven tonen in de zoekresultaten. Ook wordt het verboden voor AI-chatbots om functies aan te bieden waarmee nepnaaktbeelden gemaakt kunnen worden.

Het aanstaande verbod wordt bij expertisecentrum online misbruik Offlimits gevierd als een grote overwinning. De organisatie waarschuwt al langer voor het gevaar van deze apps en lobbyt ook in Nederland voor strengere maatregelen.

Opdrachten:

Bekijk het filmpje: Amine (18 jaar): ‘AI naaktfoto blijft mij achtervolgen’ en het artikel: Europees Parlement achter verbod op uitkleed-apps, gaat voor de zomer in

1. Wat gebeurde er met Amina in het NOS filmpje en waarom wilde zij anoniem blijven?
2. Waarom zijn AI-naaktbeelden van jongeren strafbaar?
3. Welke gevolgen kunnen slachtoffers ervaren volgens Offlimits
4. Waarom denkt de EU dat een verbod kan helpen?
5. Welke rol spelen zoekmachines zoals Google en Bing in dit probleem?
6. Wat wordt bedoeld met “in twee clicks een seksueel misdrijf”?
7. Wat zou jij doen als een klasgenoot slachtoffer wordt van AI-naaktfoto’s?
8. Waarom is het belangrijk om AI-gebruik op school te bespreken?
9. Vind jij dat AI-uitkleedapps helemaal verboden moeten worden? Leg uit.
10. Kan een verbod op AI-uitkleedapps wel of niet het online misbruik stoppen? Motiveer je mening.

Wil je meer weten over Nu Burgerschap?