Rechter wijst vorderingen Offlimits tegen Grok en X af — RBAMS:2026:3106

Stichting Offlimits, een Nederlandse non-profitorganisatie die strijdt tegen online seksueel grensoverschrijdend gedrag, spande een kort geding aan tegen X.AI (aanbieder van de AI-chatbot Grok), X Corp en X Internet Unlimited Company. Inzet was een verbod op het genereren van niet-consensuele seksuele beelden van echte personen en van kinderpornografisch materiaal via Grok.

De aanleiding was dramatisch: na de lancering van een beeldbewerkingsfunctie op X eind december 2025 schat de non-profitorganisatie Center for Countering Digital Hate (CCDH) dat Grok in slechts elf dagen tijd circa 3 miljoen geseksualiseerde afbeeldingen genereerde, waarvan ruim 23.000 kinderen leken af te beelden. De functie stelde gebruikers in staat om foto's van echte, herkenbare personen te bewerken zodat zij (deels) ontkleed leken.

X.AI reageerde op de publieke ophef door de beeldbewerkingsfunctie op 9 januari 2026 te beperken tot betaalde gebruikers, en op 14 januari aanvullende technische maatregelen aan te kondigen. De Europese Commissie opende intussen een onderzoek naar X op grond van de Digital Services Act wegens zorgen over verspreiding van illegale inhoud, waaronder mogelijk materiaal van seksueel misbruik van kinderen.

Offlimits sommeerde gedaagden op 4 februari 2026 te stoppen met het genereren en verspreiden van dergelijk materiaal. X.AI stelde in reactie daarop dat de gevraagde content niet meer mogelijk was dankzij de genomen maatregelen, maar nodigde Offlimits ook uit om concrete voorbeelden te delen zodat eventuele resterende kwetsbaarheden konden worden gedicht. Offlimits stuurde op 11 maart 2026 — vlak voor de zitting — alsnog enkele voorbeelden van op 9 maart gegenereerde content, waarbij zij stelde dat het nog altijd mogelijk was om zonder toestemming personen digitaal uit te kleden en dat er geen leeftijdscontrole plaatsvond.

Tijdens de zitting op 12 maart 2026 betwistten gedaagden dat hun systemen de gevorderde verboden schonden. Zij wezen op de reeks technische maatregelen die sinds januari 2026 zijn doorgevoerd: inputfilters, beperkingen op het bewerken van beelden van echte personen en versterkte waarborgen tegen het genereren van geseksualiseerde beelden van minderjarigen. Gedaagden betoogden bovendien dat de kort-gedingrechter niet de aangewezen instantie is om vergaande technische verplichtingen op te leggen aan mondiale AI-platforms, en dat de vorderingen te onbepaald en disproportioneel waren.

De voorzieningenrechter wees de vorderingen van Offlimits af. De rechter oordeelde dat onvoldoende aannemelijk was gemaakt dat gedaagden op het moment van de uitspraak nog steeds structureel in strijd handelden met de wet, gezien de aantoonbaar getroffen maatregelen. Daarmee ontbrak de voor een kort geding vereiste spoedeisendheid in combinatie met een voldoende onderbouwde dreigende of voortdurende onrechtmatige daad. De proceskosten werden ten laste van Offlimits gebracht.