Keinotekoisen älyn eli tekoälyn käyttämien deepfake-sisältöjen määrän kasvu on herättänyt uudelleen huolta yleisestä turvallisuudesta.
Teknologian kehittyessä ja yleistyessä, herää kysymyksiä siitä, kuinka luotettavia keskitettyjen vaihtoalustojen visuaaliseen henkilöllisyyden varmennukseen perustuvat järjestelmät ovat.
Hallinnot ryhtyvät hillitsemään deepfake-ilmiötä
Harhaanjohtavat videot leviävät nopeasti sosiaalisen median alustoilla. Tämä lisää huolta uudesta väärän tiedon aallosta ja tekaistusta sisällöstä. Teknologian väärinkäyttö kasvaa ja horjuttaa yhä enemmän yleistä turvallisuutta ja henkilökohtaista koskemattomuutta.
Ongelma on saavuttanut uusia mittasuhteita, ja hallitukset eri puolilla maailmaa ovat ryhtyneet säätämään lakeja deepfakien käytön kieltämiseksi.
Tällä viikolla Malesia ja Indonesia olivat ensimmäiset maat, jotka rajoittivat pääsyä Grok-palveluun, jonka xAI (Elon Muskin kehittämä tekoälychatbot) tarjoaa. Viranomaisten mukaan päätöksen taustalla oli huoli palvelun väärinkäytöstä seksuaalisesti eksplisiittisten ja ei-toivottujen kuvien tuottamiseen.
Kalifornian osavaltion oikeusministeri Rob Bonta kertoi samankaltaisesta toimista. Keskiviikkona hän vahvisti, että hänen toimistonsa tutkii useita tapauksia, joissa on kyse todellisten ihmisten suostumuksetta luoduista seksuaalissävytteisistä kuvista.
”Tämä materiaali, jossa naisia ja lapsia kuvataan alastomina ja seksuaalisesti eksplisiittisissä tilanteissa, on aiheuttanut häirintää ympäri internetiä. Kehotan xAI:ta ryhtymään välittömiin toimiin, ettei tämä jatku enempää”, Bonta totesi lausunnossaan.
Uudet deepfake-työkalut eroavat aiemmista, sillä ne kykenevät reagoimaan dynaamisesti annettuihin ohjeisiin. Ne toistavat luonnollisen näköisiä kasvojen ilmeitä ja puhetta tarkasti synkronoituna.
Siksi perustarkastukset, kuten silmänräpäytykset, hymyily tai pään liikkeet eivät välttämättä enää vahvista käyttäjän henkilöllisyyttä luotettavasti.
Nämä kehitysaskeleet vaikuttavat suoraan keskitettyihin vaihtoalustoihin, jotka hyödyntävät visuaalista tunnistusta asiakasprosessissa.
Keskitetyt pörssit paineen alla
Deepfakeihin perustuvan huijauksen taloudelliset vaikutukset eivät ole enää pelkkää teoriaa.
Alalla toimivat tarkkailijat ja teknologian tutkijat ovat varoittaneet, että tekoälyn tuottamia kuvia ja videoita esiintyy yhä useammin esimerkiksi vakuutusvaatimusten ja oikeusjuttujen yhteydessä.
Kryptovaluutta-alustat, jotka toimivat maailmanlaajuisesti ja luottavat usein automatisoituun rekisteröitymiseen, voivat muodostua houkutteleviksi kohteiksi tällaiselle toiminnalle, jos suojaustoimenpiteet eivät kehity teknologian mukana.
Tekoälyn tuottaman sisällön yleistyessä luottamus pelkkään visuaaliseen tunnistukseen ei ehkä enää riitä.
Kryptovaluutta-alustojen on reagoitava nopeasti, jotta teknologia ei etenisi ohi järjestelmien, joiden tarkoitus on pitää käyttäjät ja alustat turvassa.