Module 6: Online en door AI gefaciliteerd gendergerelateerd geweld (GBV)

In de digitale wereld van vandaag is het internet centraal in hoe jongeren contact maken, communiceren en ontdekken wie ze zijn. Maar naast deze kansen brengen digitale ruimtes ook serieuze risico’s met zich mee— vooral voor meisjes, jonge vrouwen, LGBTIQA+-jongeren en andere gemarginaliseerde groepen. Technologie is niet neutraal. Ze kan gebruikt worden om te ondersteunen, maar ook om te controleren, te beschamen of te schaden.

Online gendergerelateerd geweld (GBV) verwijst naar schadelijke handelingen die via digitale technologieën worden uitgevoerd en die mensen treffen op basis van hun gender, genderidentiteit of seksuele oriëntatie. Volgens het Europees Instituut voor Gendergelijkheid (EIGE) heeft meer dan de helft van de jonge vrouwen (52%) in de EU een vorm van online geweld ervaren—zoals bedreigingen, intimidatie, en het niet-consensueel delen van intieme beelden (EIGE, 2022). LGBTIQA+-jongeren, raciale minderheden en jongeren met een beperking worden eveneens onevenredig vaak geviseerd.

Sommige vormen van online GBV zijn luid en publiek, zoals haatreacties of gemanipuleerde beelden. Andere zijn verborgen of vermomd als “normaal”, zoals controlerende berichten in een relatie of een onbekende die online vertrouwen opbouwt met misbruik als doel. Maar alle vormen van online GBV kunnen diepe emotionele, psychologische en zelfs fysieke gevolgen hebben. Ze kunnen offline escaleren—en dat gebeurt ook vaak.

In deze sectie introduceren we zeven kernvormen van online GBV die jeugdwerkers en educators moeten kunnen herkennen. Elke vorm wordt uitgelegd met eenvoudige definities en concrete voorbeelden van platformen die jongeren echt gebruiken— zoals WhatsApp, TikTok, Discord of Instagram. De signalen kennen is de eerste stap om schade te voorkomen en steun te bieden.

1. Cyberstalking

Digitale tools gebruiken om iemands activiteit of locatie zonder toestemming te volgen. Dit kan gaan om het tracken via GPS-apps zoals Snap Map, obsessief iemands online status controleren, of gedeelde wachtwoorden gebruiken om berichten te lezen.

Voorbeeld: De ex van een tiener blijft haar locatie volgen via Snap Map, zelfs nadat ze de relatie beëindigt en hem blokkeert op Instagram.

2. Cyberintimidatie (cyber-harassment)

Herhaalde, ongewenste berichten die agressief, bedreigend, seksueel of vernederend zijn. Dit gebeurt vaak via DM’s, groepschats of anonieme accounts en kan snel escaleren.

Voorbeeld: Een leerling krijgt dagelijks spraakberichten van een klasgenoot die hen uitscheldt en dreigt persoonlijke geheimen te onthullen.

3. Cyberpesten (cyber-bullying)

Een patroon van doelgericht online wreed gedrag tegen een minderjarige, meestal door leeftijdsgenoten. Dit kan bestaan uit memes, impersonatie, publieke beschaming of uitsluiting uit digitale ruimtes (bv. WhatsApp-groepen, private stories).

Voorbeeld: Een groep verspreidt een gefotoshopte meme over het lichaam van een klasgenoot en tagt haar in TikTok-reacties.

4. Online gendergerelateerde haatspraak

Beledigende of bedreigende taal gericht op iemand vanwege gender, seksuele oriëntatie of identiteit. Dit wordt soms “genormaliseerd” via ironie, memes of grappen, maar is zwaar schadelijk.

Voorbeeld: Een non-binaire jongere wordt herhaaldelijk misgendert in een Discord-server en krijgt te horen dat ze “zichzelf van kant moeten maken” nadat die pronouns deelt.

5. Niet-consensueel misbruik van intieme beelden (soms “wraakporno” genoemd)

Het delen of dreigen te delen van intieme foto’s of video’s zonder toestemming. Dit omvat zowel echte beelden als AI-gemanipuleerde content zoals deepfakes.

Voorbeeld: Iemand lekt een naaktfoto die in vertrouwen werd gestuurd, of maakt een deepfake-video en verspreidt die op anonieme fora.

6. Online grooming

Wanneer iemand bewust over tijd vertrouwen opbouwt met een minderjarige via online contact, meestal om hen seksueel te manipuleren of uit te buiten. Groomers doen zich vaak voor als leeftijdsgenoten of geven validatie, cadeautjes of complimenten.

Voorbeeld: Een 14-jarig meisje dat online games speelt, wordt uitgenodigd in privéchats door iemand die haar complimenteert en later om foto’s en geheimen vraagt.

Let op: Grooming start vaak niet met dreigementen—het begint met vriendelijkheid. Jongeren beseffen soms niet dat ze gemanipuleerd worden.

7. Doxxing

Het publiek maken van iemands persoonlijke informatie (naam, adres, telefoonnummer, school) om te intimideren of anderen aan te zetten die persoon lastig te vallen. Doxxing volgt vaak op online discussies, activisme of coming-out verhalen.

Voorbeeld: Nadat een jongere op TikTok post over LGBTIQA+-rechten, lekt een troll-account hun thuisadres in de reacties.

Elke vorm van online GBV kan er anders uitzien, maar ze kunnen allemaal het mentale welzijn, zelfvertrouwen, veiligheid en vrijheid van jongeren beïnvloeden. Jeugdwerkers, educators en peers spelen een cruciale rol in het herkennen van red flags, het creëren van veiligere digitale omgevingen en het helpen benoemen van wat niet oké is. Figuur 1 vat enkele vormen van online GBV samen.

Artificiële intelligentie (AI) verandert hoe we communiceren, met elkaar omgaan en informatie vinden—vooral in digitale omgevingen waar jongeren veel tijd doorbrengen. Maar naast de voordelen verandert AI ook hoe schade kan ontstaan, waaronder gendergerelateerd geweld (GBV).

In deze unit verkennen we hoe AI-technologieën zowel kunnen worden ingezet om misbruik te faciliteren, als om preventie en respons te ondersteunen. De unit biedt praktische inzichten voor jeugdwerkers en educators die de tools, risico’s en kansen van AI in hun praktijk willen begrijpen.

De bespreking belicht ook de ethische uitdagingen van het vertrouwen op geautomatiseerde systemen in gevoelige contexten, en staat stil bij de beperkingen van huidige datasets en ontwerpkeuzes—zeker wanneer jongeren of gemarginaliseerde gemeenschappen niet zijn betrokken.

Belangrijk: AI-gefasiliteerd geweld is niet iets volledig nieuws. Het is eerder een voortzetting van gendergerelateerd geweld via nieuwe digitale kanalen, dan een aparte of geïsoleerde vorm. Als onderdeel van het online–offline continuüm van GBV weerspiegelen veel huidige schadelijke praktijken—zoals surveillance, dwang of beeldmisbruik—offline patronen van macht en controle. Technologie heeft dit gedrag niet gecreëerd, maar wel versterkt, geautomatiseerd en opgeschaald, vaak op manieren die moeilijker te detecteren of aan te pakken zijn.

Artificiële intelligentie kan een krachtig hulpmiddel zijn—maar, zoals bij veel technologie, kan het ook misbruikt worden. In de context van GBV heeft AI nieuwe manieren mogelijk gemaakt voor daders om anderen lastig te vallen, te vernederen of te controleren, vooral in digitale ruimtes waar jongeren het meest actief zijn.

Een van de meest verontrustende ontwikkelingen is het gebruik van deepfakes—AI-gegenereerde beelden of video’s waarin iemands gezicht zonder toestemming in pornografische content wordt geplaatst. Deze deepfakes worden vaak gedeeld via sociale media of versleutelde berichtenapps. Zelfs wanneer ze duidelijk vervalst zijn, geven slachtoffers—vaak meisjes, jonge vrouwen en LGBTIQA+ jongeren—aan dat ze zich vernederd, bang en sociaal geïsoleerd voelen (Umbach et al., 2024).

Een ander veelvoorkomend misbruik is het maken van intimidatiebots: geautomatiseerde accounts die op grote schaal gewelddadige, denigrerende of bedreigende berichten versturen. Zulke bots richten zich vaak op jonge activisten, influencers of mensen die publiek spreken over gender, seksualiteit of rechtvaardigheid. De enorme hoeveelheid berichten kan ervoor zorgen dat het misbruik eindeloos en onontkoombaar voelt (Powell et al., 2022).

AI kan ook schade versterken zonder dat er per se een directe kwaadaardige intentie is. Platformalgoritmen die content met veel interactie naar voren schuiven, versterken vaak posts die woede of verontwaardiging oproepen. Daardoor bereiken misogynistische of transfobische berichten meer mensen—niet omdat platforms dat willen, maar omdat hun AI-systemen zijn ontworpen om aandacht te maximaliseren, niet veiligheid (Henry & Powell, 2018).

Tot slot kunnen AI-gestuurde technologieën in smart homes, wearables of mentale-gezondheidsapps worden omgevormd tot surveillancetools. Een dader kan zulke systemen gebruiken om iemands locatie te volgen, privéberichten te bekijken of emotionele toestanden af te leiden zonder toestemming. Slachtoffers weten soms niet eens dat ze worden gevolgd (Powell et al., 2022).

Deze risico’s onderstrepen een kernboodschap: AI veroorzaakt geen misbruik, maar kan wel worden bewapend door mensen met schadelijke intenties. Voor jeugdwerkers, sociaal werkers en educators is het essentieel om te begrijpen hoe deze technologieën werken—en hoe ze samenhangen met bestaande patronen van offline geweld—om jongeren te beschermen en te versterken, zoals weergegeven in Tabel 2.

Hoewel AI-technologieën kunnen worden misbruikt om schade te veroorzaken, hebben ze ook veel potentieel om preventie, vroege detectie en ondersteuning van overlevenden bij gendergerelateerd geweld (GBV) te versterken. Wanneer AI ethisch wordt ontwikkeld en toegepast, kan het de veiligheid verhogen en de toegang tot hulp verbeteren voor mensen die online misbruik ervaren.

Een van de meest effectieve toepassingen is het detecteren en verwijderen van schadelijke content. Tools met beeldherkenning, zoals systemen geïnspireerd op Microsoft’s PhotoDNA, helpen platforms al om bekend kindermisbruikmateriaal (CSAM) te herkennen en te blokkeren. Deze systemen vergelijken uploads met beveiligde databases van eerder gemelde misbruikbeelden. Hoewel ze niet kunnen voorkomen dat nieuwe beelden worden gemaakt, zijn ze een belangrijke waarborg tegen verspreiding (UNICEF, 2022).

AI wordt ook gebruikt voor chatbots en virtuele assistenten die overlevenden helpen om passende ondersteuning te vinden. Dit is vooral nuttig voor jongeren die het spannend vinden om met iemand face-to-face te praten. Chatbots kunnen gebruikers begeleiden met vragen over hun ervaring en hen koppelen aan mentale gezondheidszorg, juridische hulp of noodservices. Wanneer ze trauma-sensitief zijn ontworpen en meertalig beschikbaar zijn, kunnen ze een veilige eerste stap richting hulp vormen (Musharu et al., 2025).

Natural Language Processing (NLP)—AI die menselijke taal helpt begrijpen—wordt ingezet om haatspraak te detecteren en te blokkeren. Platforms zoals X (voorheen Twitter), Instagram en TikTok gebruiken steeds vaker NLP-modellen om posts te scannen op beledigende of bedreigende taal en daarop te handelen. Deze tools zijn niet perfect, maar ze verminderen de zichtbare schade en kunnen gebruikers beschermen tegen de psychologische impact van gerichte intimidatie (Powell et al., 2022).

Er lopen ook vroege proeven met AI voor preventie en early-warning systemen. Sommige apps analyseren gebruikersgedrag—zoals toon van berichten of contactfrequentie—om patronen te herkennen die op risico kunnen wijzen. In bepaalde contexten van huiselijk geweld wordt AI onderzocht om hoogrisicosituaties te signaleren voordat fysiek geweld plaatsvindt. Zulke voorspellende modellen moeten uiterst zorgvuldig worden gebruikt om foutpositieven en privacyrisico’s te vermijden, maar ze tonen potentieel voor vroegtijdige interventie (Henry & Powell, 2018).

Wat deze tools echt bruikbaar maakt, is niet alleen de technologie zelf, maar ook hoe ze worden geïntroduceerd, uitgelegd en bestuurd. Tools die samen met jongeren, overlevenden en maatschappelijke organisaties worden ontworpen, sluiten vaker aan bij echte behoeften en worden sneller vertrouwd (zie Tabel 3).

Nu AI steeds vaker wordt ingezet in de aanpak van gendergerelateerd geweld (GBV), is het essentieel om niet alleen de mogelijkheden te begrijpen, maar ook de beperkingen en risico’s. AI-tools zijn niet neutraal. Ze worden gevormd door de data waarop ze getraind zijn, de doelen van ontwikkelaars en de sociale context waarin ze worden gebruikt. Zonder goed toezicht kunnen ze onbedoeld ongelijkheid versterken, overlevenden blootstellen aan nieuwe risico’s of tekortschieten in de bescherming die ze beloven.

Een belangrijke zorg is bias in AI-modellen. Veel systemen die haatspraak, misbruikberichten of schadelijke beelden detecteren, zijn getraind op data waarin bepaalde groepen of talen ondervertegenwoordigd zijn. Daardoor kan misbruik gericht op vrouwen van kleur, LGBTIQA+ personen of niet-westerse gebruikers onopgemerkt blijven. In sommige gevallen worden legitieme uitingen van boosheid of frustratie door overlevenden onterecht als “misbruik” gemarkeerd, terwijl echte bedreigingen online blijven (Powell et al., 2022).

Een ander risico is het gebrek aan transparantie in hoe AI-tools beslissingen nemen. Overlevenden weten mogelijk niet waarom een post is verwijderd of waarom een chatbot een bepaald antwoord gaf. Dit “black box”-probleem vermindert vertrouwen en beperkt accountability. Voor jongeren—die vaak minder vertrouwd zijn met digitale rechten—kan dit leiden tot verwarring of frustratie wanneer ze online hulp zoeken (Henry & Powell, 2018).

Misbruik van surveillance is eveneens een groeiend probleem. AI-tools die bedoeld zijn om gebruikers te beschermen—zoals locatie-trackers of emotieherkenning—kunnen door daders worden ingezet om slachtoffers te monitoren of te controleren. Als veiligheidsapps geen sterke privacybescherming hebben, kunnen ze juist onderdeel worden van coercive control. Dat is extra gevaarlijk in situaties van huiselijk geweld waar technologie al een rol speelt (UNESCO, 2023).

Het ontbreken van jongerenparticipatie bij het ontwerp is een andere cruciale lacune. Jongeren hebben vaak specifieke ervaringen met online misbruik, maar worden zelden betrokken bij het ontwikkelen van digitale veiligheidsoplossingen. Daardoor kunnen tools slecht aansluiten bij hun leefwereld, moeilijke taal gebruiken of context missen—zoals slang, culturele normen of platform-specifieke risico’s (Musharu et al., 2025).

Tot slot is er een gebrek aan longitudinale data over wat écht werkt. Veel AI-interventies zijn pilots of commerciële producten met beperkte transparantie. Zonder onafhankelijke evaluatie en publiek beschikbare data is het lastig te beoordelen of tools op lange termijn schade verminderen of het probleem vooral verplaatsen naar andere platforms of groepen.