Uitspraak ingezonden door Otto Volgenant, Boekx.
Offlimits v Grok en X: kort geding over niet‑consensuele uitkleedbeelden
Rb Amsterdam 26 maart 2026, IEF 23420, IT 5164; C/13/783613 / KG ZA 26-120 EAM/JD (Offlimits tegen X.AI, X en XIUC). In deze zaak start Stichting Offlimits, die zich richt op het voorkomen en bestrijden van online (seksueel) grensoverschrijdend gedrag en (kinder)misbruik, een kort geding tegen X.AI (ontwikkelaar van de generatieve AI‑chatbot Grok), X Corp (de Amerikaanse X‑entiteit) en XIUC (de Ierse exploitant van X in de EER). Grok is een large language model dat via grok.com, een standalone‑app en de “Grok‑in‑X”‑functie op X beschikbaar is. Gebruikers kunnen er niet alleen tekst mee genereren, maar ook afbeeldingen bewerken en genereren. Aanleiding zijn onder andere een CCDH‑rapport en een artikel in The Guardian waaruit blijkt dat na introductie van de beeldfunctie grote hoeveelheden geseksualiseerde afbeeldingen, inclusief beelden die kinderen lijken te tonen, met Grok zijn gegenereerd en op X geplaatst, waarna de Europese Commissie een DSA‑onderzoek naar X aankondigt. Offlimits stelt dat Grok ondanks door X.AI/X aangekondigde technische maatregelen in januari 2026 nog steeds (1) niet‑consensuele “uitkleedbeelden” van echte personen genereert (deepfake‑stripbeelden) zonder controle op toestemming of leeftijd en (2) kinderpornografisch materiaal of daarop lijkende beelden kan genereren, en vordert daarom verboden en geboden (met hoge dwangsommen) die er in de kern op neerkomen dat Grok en X geen functionaliteit meer mogen aanbieden waarmee deze beelden kunnen worden gegenereerd en verspreid. De voorzieningenrechter acht zich op grond van art. 79 AVG, art. 7 lid 2 Brussel I‑bis en art. 7 Rv internationaal bevoegd, past AVG en Nederlands recht toe (via Rome II, art. 14), en verklaart Offlimits als 3:305a‑stichting ontvankelijk onder het “lichte regime” vanwege het ideële karakter en het ontbreken van schadevorderingen.