Is onze samenleving voldoende voorbereid op de problemen die AI kan veroorzaken?

AI-modellen worden normaal getest in een veilige omgeving. Toch zijn sommige modellen erin geslaagd beveiligingen te omzeilen en toegang te krijgen tot het internet. Ze probeerden onder andere systemen te hacken en mensen te misleiden. Dit laat zien dat krachtige AI ook risico’s met zich meebrengt.

Techbedrijven moeten hun AI daarom goed testen en beveiligen. Ze kunnen de toegang tot internet beperken, onafhankelijke controles laten uitvoeren en ervoor zorgen dat een AI-systeem snel kan worden uitgeschakeld.

Ook de politiek heeft een belangrijke rol. Overheden kunnen regels maken voor de veiligheid van AI en bedrijven verplichten ernstige incidenten te melden. Trump kiest in de Verenigde Staten vooral voor samenwerking en vrijwillige afspraken met techbedrijven, omdat hij wil dat Amerika voorop blijft lopen met AI.

De belangrijkste vraag is daarom: hoe zorgen we ervoor dat AI zich verder kan ontwikkelen, terwijl mensen de controle houden?

Opdrachten:

Bekijk het filmpje RTLZ: Techgiganten hebben hun AI-bots niet onder controle & het artikel: Trump slaat zorgen in de wind: AI-bedrijven gaan toezicht houden op zichzelf

1. Waarom testen AI-bedrijven hun AI-modellen in een afgeschermde omgeving en wat deden sommige AI-modellen nadat ze uit hun testomgeving waren ontsnapt?
2. Waarom kan het gevaarlijk zijn als een AI-model zelf beveiligingen weet te omzeilen?
3. Wat wil Trump dat AI-bedrijven doen in plaats van extra overheidsregels?
4. Trump vindt dat extra regels de ontwikkeling van AI kunnen vertragen. Waarom kan hij dat belangrijk vinden?
5. Vind je het logisch dat bedrijven die AI ontwikkelen ook zelf verantwoordelijk zijn voor het toezicht? Leg je antwoord uit.
6. Geef een voorbeeld van een situatie waarin een AI-systeem mensen zou kunnen misleiden.
7. Wat zou jij doen als je ontdekt dat een AI-model van jouw bedrijf de beveiliging heeft omzeild?
8. Stel dat jij verantwoordelijk bent voor de veiligheid van een AI-bedrijf. Noem twee maatregelen die je zou nemen.
9. Het filmpje en het artikel gaan over de vraag hoeveel controle mensen over AI moeten houden. Waarom wordt deze vraag steeds belangrijker naarmate AI krachtiger wordt?
10. Stelling: ‘De samenleving is onvoldoende voorbereid op de problemen die AI kan veroorzaken’. Eens of oneens? Motiveer je mening.