OpenAI lisää näkymättömän ChatGPT-vesileiman chatbot-teksteihin ja Codex-tulosteisiin koko Euroopan unionissa. Kuitenkin yhtiön omissa testeissä vain neljänneksen sanoista vaihtaminen synonyymeihin pudottaa tunnistuksen vain 17 prosenttiin.
Tämä on vastaus EU:n AI-asetukseen, joka vaatii koneellisesti luettavat merkinnät tekoälyn tuottamiin teksteihin. OpenAI myöntää, että teknologia on vielä keskeneräistä – siksi tunnistin ei ole julkisesti saatavilla ainakaan vielä.
Kuinka vahva ChatGPT-vesileima on, jos tekstiä muokataan?
Tiedotteen mukaan järjestelmää kutsutaan nimellä textGrain, ja se ohjaa mallin sanavalintaa jättäen tekstiin piilotetun tilastollisen kuvion. Erillinen tunnistin etsii tätä kuviota tekstipätkistä.
OpenAI:n UKK:n mukaan vesileima piiloutuu sanojen muotoiluun. Tekstiin ei lisätä piilotettuja merkkejä, näkymättömiä välejä tai erikoisia välimerkkejä. Tämän vuoksi vesileiman poistaminen piilotettuja merkkejä poistamalla ei toimi.
Pituudella on suuri merkitys. OpenAI mittaa tekstejä tokeneissa, jotka ovat tekoälymallien käyttämiä sanansirpaleita. Yksi token vastaa noin kolme neljäsosaa englanninkielisestä sanasta.
OpenAI:n testeissä tunnistin havaitsi noin 66 % muokkaamattomista vastauksista, joissa oli noin 150 sanaa. Kun tekstin pituus oli noin 300 sanaa, tunnistus nousi noin 92 prosenttiin.
Pieni muokkaaminen heikentää ChatGPT-vesileiman tehoa. Teksteissä, jotka olivat 300 sanan mittaisia, yhden sanan vaihtaminen kymmenestä synonyymiin laski tunnistuksen 92 prosentista 66 prosenttiin. Kun joka neljäs sana vaihdettiin, tunnistettavuus putosi vain 17 prosenttiin.
Vesileima ei juuri vaikuttanut OpenAI:n GPT-6 Astra -mallin benchmark-tuloksiin.
Miksi OpenAI ei anna yleisön käyttää tunnistinta?
Sen sijaan, että vesileimatunnistin tuotaisiin julkiseen käyttöön, OpenAI ottaa vastaan hakemuksia hyväksytyiltä tutkijoilta ja asiantuntijaorganisaatioilta. Yhtiön mukaan positiivinen tulos ei paljasta käyttäjää, kehotetta eikä keskustelua.
Negatiivinen tulos ei sekään ole ratkaiseva. Lyhyet, muokatut tai käännetyt tekstit voivat mennä tunnistimen ohi, samoin kilpailijoiden tekoälyn tuottama sisältö.
Havaitsemattoman vesileiman puuttuminen ei todista, että ihminen olisi kirjoittanut tekstin.
Lähde: OpenAI
Kuvat ja äänitiedostot toimivat eri tavalla. Kuka tahansa voi ladata tällaisia tiedostoja OpenAI:n julkiseen verify-työkaluun ja tarkistaa SynthID-vesileiman.
Euroopan ulkopuolella ChatGPT-vesileima on oletuksena pois päältä. API-asiakkaat ympäri maailmaa voivat nyt kuitenkin halutessaan ottaa vesileiman käyttöön valituissa malleissa projekti- tai organisaatioasetuksistaan.
Vesileiman käyttöönotto seuraa EU:n elokuussa alkanutta AI Act -asetusvalvontaa. Kryptomaailmassa tällä nähdään konkreettista merkitystä, sillä rikollinen tekoälyn käyttö kryptossa kasvoi 40 prosenttia vuoden aikana TRM Labsin mukaan.
Näin ollen ero sääntelyvaatimusten ja tunnistusmenetelmien kyvykkyyden välillä voi määrittää, miten jokainen suuri tekoälytoimija noudattaa vaatimuksia tulevaisuudessa.











