⚠️ EU åpner sak mot Grok etter seksualisering av barn
EU-kommisjonen har åpnet formell etterforskning mot Elon Musks KI-chatbot Grok. Bakgrunnen er at tjenesten lar brukere generere og spre ulovlig innhold, inkludert seksualiserte deepfake-bilder av kvinner og barn.
Hva har skjedd?
En studie fant at Grok produserte 3 millioner seksualiserende bilder på under to uker. Av disse skal 23.000 ha fremstilt barn i seksuell setting.
EU-kommisjonen mistenker at tjenesten mangler nødvendige sikkerhetsmekanismer for å hindre slik misbruk.
- EU: Formell etterforskning under Digital Services Act
- Frankrike: Razzia mot X sitt Paris-kontor
- Storbritannia: Ofcom etterforsker under Online Safety Act
- California: Justisministeren etterforsker xAI
- Australia: eSafety Commissioner involvert
Kan Grok tvinges ut av Europa?
Ifølge den tyske avisen Handelsblatt kan hensikten med EU-tiltakene være å tvinge Musks selskap xAI til å trekke chatboten helt fra det europeiske markedet.
Det pågår allerede en etterforskning som startet i 2023.
X tar grep — men er det nok?
X's sikkerhetsteam har uttalt at de har satt i verk teknologiske tiltak for å hindre at Grok redigerer reelle personer i avslørende bekledning som bikinier. Begrensningen gjelder for alle brukere, også betalende abonnenter.
Men journalister har testet og funnet at Grok fortsatt produserer problematisk innhold selv etter de lovede fiksingene.
Hvorfor dette er viktig for bott-verden
Grok-saken viser tydelig farene ved å lansere kraftige KI-verktøy uten tilstrekkelige sikkerhetssperrer. Den vil sannsynligvis forme fremtidig regulering av AI-chatbotter og bildegenerering globalt.
- Krav til «safety by design» i KI-tjenester
- Strengere ansvar for plattformer som tilbyr generativ KI
- Potensielt forbud mot visse typer bildegenerering