EU åpner sak mot Elon Musks KI-chatbot Grok

EU-kommisjonen har åpnet en ny formell sak mot Elon Musks KI-chatbot Grok etter at tjenesten har blitt brukt til å generere ulovlig innhold.

Bakgrunnen for saken er at Grok-tjenesten har latt brukere generere og spre ulovlig innhold, deriblant seksualiserte «deepfake»-bilder av kvinner og barn.

En studie fra Center for Countering Digital Hate fant at Grok produserte 3 millioner seksualiserende bilder på under to uker, hvorav 23.000 skal ha fremstilt barn i en seksuell setting.

EU-kommisjonen mistenker at tjenesten mangler nødvendige sikkerhetsmekanismer.

Ifølge den tyske avisen Handelsblatt skal hensikten med de varslede tiltakene være å tvinge Musks selskap, xAI, til å trekke chatboten helt fra det europeiske markedet. Det pågår allerede en etterforskning som startet i 2023.