Ranskalaiset syyttäjät suorittivat ratsian X:n Pariisin pääkonttoriin tiistaina osana laajenevaa tutkintaa, joka koskee väitettyä lapsiin kohdistuvaa seksuaalista hyväksikäyttöä, tekoälyn tuottamia deepfake-kuvia sekä holokaustin kieltämistä alustalla.
Europolin tukema ratsia on merkittävä askel Euroopan viranomaisten toimissa Elon Muskin sosiaalisen median imperiumia vastaan. Syyttäjät ovat kutsuneet Muskin ja entisen toimitusjohtajan Linda Yaccarinon “vapaaehtoisiin haastatteluihin”, jotka on ajoitettu 20. huhtikuuta.
Tutkimuksen laajuus
Pariisin syyttäjänviraston kyberrikosyksikkö aloitti esitutkinnan tammikuussa 2025. Aluksi keskityttiin väitteisiin, joiden mukaan X:n algoritmit vääristivät automaattisten tietojenkäsittelyjärjestelmien toimintaa. Tutkinta laajeni merkittävästi sen jälkeen, kun Muskin tekoäly-chatbot Grok tuotti sisältöä, jonka väitetään kieltäneen holokaustin ja luoneen seksuaalisesti explicittejä deepfake-kuvia.
Tutkinnan kohteena on rikosnimikkeet, kuten myötävaikutus lapsiin kohdistuvan seksuaalisen hyväksikäytön kuvamateriaalin hallussapitoon ja levittämiseen sekä seksuaalisesti explicitteihin deepfake-kuviin. Syyttäjät selvittävät myös rikoksia ihmisyyttä vastaan sekä järjestäytyneen ryhmän harjoittamaa automaattisten tietojärjestelmien manipulointia.
Syyttäjänvirasto ilmoitti käynnissä olevista etsinnöistä X:ssä. Pian tämän jälkeen virasto kertoi jättävänsä alustan ja kehotti seuraajiaan liittymään muihin sosiaalisen median palveluihin.
Grok kiistojen keskiössä
xAI:n kehittämä chatbot Grok aiheutti maailmanlaajuista närkästystä viime kuussa. Sen “spicy mode” tuotti kymmeniä tuhansia seksuaalissävytteisiä suostumuksettomia deepfake-kuvia käyttäjien pyynnöistä.
Chatbot julkaisi myös holokaustin kieltävää sisältöä ranskaksi. Se väitti Auschwitz-Birkenaun kaasukammioiden olleen suunniteltu “Zyklon B:llä desinfiointiin pilkkukuumetta vastaan” joukkomurhan sijaan – ilmaus, jota holokaustin kieltäjät ovat pitkään käyttäneet.
Vaikka Grok myöhemmin korjasi väitteensä ja myönsi virheensä, vahinko oli jo tapahtunut. Malesia ja Indonesia estivät Grokin kokonaan ensimmäisinä maista, ja Malesia ilmoitti oikeustoimista X:ää ja xAI:ta vastaan.
X vastaa takaisin
Oman alustansa julkaisussa X tuomitsi ratsian “väärinkäytökseksi, jossa lainvalvontaa käytetään teatterina laittomien poliittisten päämäärien saavuttamiseksi oikeudenmukaisen ja puolueettoman oikeudenkäytön sijaan”.
Yhtiö kiisti kaikki syytökset, kutsuen Ranskan toimia poliittisesti motivoiduksi sensuuriksi.
Durov kommentoi
Telegramin perustaja Pavel Durov, jota vastaan on nostettu samankaltaisia syytteitä Ranskassa elokuun 2024 pidätyksen jälkeen, puolusti X:ää ja arvosteli Ranskan viranomaisia.
“Ranskan poliisi suorittaa tällä hetkellä ratsiaa X:n toimistolla Pariisissa. Ranska on ainoa maa maailmassa, joka kriminalisoi kaikki sosiaalisen median verkostot, jotka antavat ihmisille jonkinasteista vapautta (Telegram, X, TikTok…). Älkää erehtykö: tämä ei ole vapaa maa,” Durov kirjoitti X:ssä.
Kommentissaan hän jatkoi: “Lapsensuojelun käyttäminen sensuurin ja massavalvonnan verukkeena on kuvottavaa. Nämä ihmiset eivät kaihda mitään keinoja.”
Vaihtelevia reaktioita
Durovin kannanotto sai sekä tukea että vastareaktioita verkossa. Osa käyttäjistä jakoi hänen näkemyksensä – yksi kuvaili Ranskan lähestymistapaa “Digitaalisen Autokratian aloituspakkaukseksi” ja Durovin pidätystä “varoitukseksi” tulevasta.
Toiset kehottivat näkemään asian laajemmin. “Alustat kuten Telegram ja X eivät ole vain ‘vapauden työkaluja’. Niiden avulla voidaan levittää vihaa, organisoida väkivaltaa ja horjuttaa yhteiskuntaa”, yksi käyttäjä kirjoitti. “Asia ei ole vain ‘vapaa maa vs. ei-vapaa’, vaan todellisuus on monimutkaisempi molemmilla puolilla.”
Sääntelypaine kasvaa
Myös muut maat tarkastelevat Muskin alustoja. Britannian tietosuojaviranomainen on käynnistänyt virallisen tutkinnan siitä, miten X ja xAI käsittelivät henkilötietoja Grokia kehittäessään. Iso-Britannian mediaviranomainen Ofcom tutkii asiaa erikseen, ja tämä prosessi voi kestää kuukausia.
Euroopan unioni aloitti myös oman tutkintansa viime kuussa deepfake-tapauksen jälkeen, ja on jo määrännyt X:lle 120 miljoonan euron sakot digisäädösten rikkomisesta, mukaan lukien harhaanjohtava sininen tarkistusmerkki -käytäntö.
Oikeudellinen paine kasvaa, kun Musk keskittää teknologiayrityksiään. SpaceX ilmoitti maanantaina ostaneensa xAI:n, jolloin Grok, X ja satelliittiviestintäyritys Starlink yhdistyvät saman yrityksen alle – tämä voi tehdä viranomaisvalvonnasta entistä haastavampaa eri lainkäyttöalueilla.
