OpenAI, yritys, joka loi suositun kielimallin ChatGPT, kohtaa haasteita lainsäädännön noudattamisessa ja tietojen tarkkuudessa. Tämä ongelma on saanut NOYB: n – Euroopan digitaalisten oikeuksien keskuksen, Wienissä, Itävallassa sijaitsevan voittoa tavoittelemattoman organisaation, tekemään valituksen OpenAI: sta Itävallan tietosuojaviranomaiselle (DPA).
OpenAI:n tiedonkeruu onkin aiheuttanut huolta sääntelyelimissä ja yksityisyyden puolustajissa. Tämä NOYB: n siirto voisi mahdollisesti herättää laajemman keskustelun tietojen eettisestä käytöstä tekniikassa.
OpenAI:n datamurheet paljastavat tekoälyn eettiset haasteet
Valituksen ydin on OpenAI:n viimeaikaisissa tunnustuksissa koskien ChatGPT:n rajoituksia datan käsittelyssä. OpenAI:n mukaan tekoälymalli ei pysty todentamaan yksilöistä tuottamansa tiedon oikeellisuutta. Lisäksi se ei voi paljastaa syötteidensä alkuperää.
ChatGPT:n julkaisun marraskuussa 2022 laukaiseman kasvavan tekoälyhypen keskellä työkalun laaja käyttöönotto on paljastanut kriittisiä haavoittuvuuksia. ChatGPT toimii ennustamalla todennäköisiä vastauksia käyttäjien kehotteisiin ilman luontaista mekanismia, joka varmistaisi tosiasiallisen paikkansapitävyyden.
Tämä on johtanut tapauksiin, joissa tekoäly “hallusinoi” tietoja ja valmistaa vastauksia, jotka voivat olla harhaanjohtavia tai täysin vääriä. Vaikka tällaiset epätarkkuudet voivat olla merkityksettömiä joissakin yhteyksissä, ne aiheuttavat merkittäviä riskejä henkilötietoihin liittyen.
Lue lisää: Näin rakennat henkilökohtaisen tekoälychatbotin ChatGPT-rajapinnan avulla
Euroopan unionin yleinen tietosuoja-asetus (GDPR) edellyttää henkilötietojen paikkansapitävyyttä ja antaa yksilöille oikeuden saada ja oikaista itseään koskevia virheellisiä tietoja. OpenAI:n nykyiset kyvykkyydet eivät täytä näitä lakisääteisiä vaatimuksia, mikä herättää keskustelua tekoälyn eettisistä vaikutuksista arkaluonteisten tietojen käsittelyyn.
Maartje de Graaf, noybin tietosuojalakimies, korostaa tilanteen vakavuutta.
“On selvää, että yritykset eivät tällä hetkellä pysty saamaan ChatGPT:n kaltaisia chatbotteja noudattamaan EU:n lainsäädäntöä käsitellessään yksilöitä koskevia tietoja. Jos järjestelmä ei pysty tuottamaan tarkkoja ja läpinäkyviä tuloksia, sen avulla ei voida tuottaa tietoja yksilöistä. Teknologian on noudatettava lakisääteisiä vaatimuksia, ei päinvastoin”, de Graaf selittää.
Kysymykset ulottuvat teknisistä esteistä laajempiin sääntelyhaasteisiin. Generatiiviset tekoälytyökalut, mukaan lukien ChatGPT, ovat alusta lähtien olleet eurooppalaisten yksityisyyden vahtikoirien tiukan valvonnan kohteena.
Esimerkiksi Italian tietosuojaviranomainen asetti rajoituksia ChatGPT:n tietojenkäsittelylle vuoden 2023 alussa epätarkkuuksiin vedoten.
Tämän jälkeen Euroopan tietosuojaneuvosto toteutti koordinoituja toimia tällaisiin tekoälyalustoihin liittyvien riskien arvioimiseksi ja lieventämiseksi .
Näiden oikeudellisten haasteiden ajoitus on erityisen huomionarvoinen. Samaan aikaan OpenAI keskusteli strategisen allianssin muodostamisesta Worldcoinin kanssa, projektin, jonka perusti Sam Altman, joka johtaa myös OpenAI: ta.
Lue lisää: 11 parasta ChatGPT Chrome -laajennusta, jotka kannattaa tarkistaa vuonna 2024
OpenAI:n mahdollinen yhteistyö Worldcoinin kanssa saattaa kuitenkin tuoda mukanaan lisää oikeudellisia ja eettisiä ongelmia. Worldcoinin lähestymistapa biometristen tietojen käyttöön leikkaa OpenAI:n haasteet tietosuojan ja tarkkuuden varmistamisessa.
Lisäksi Worldcoin on joutunut oikeusviranomaisten valvonnan kohteeksi ympäri maailmaa, mukaan lukien Kenia, Espanja ja Argentiina, tiedonkeruunsa suhteen. Näin ollen tämä synergia voisi joko tasoittaa tietä teknologian innovatiiviselle käytölle tai muodostaa ennakkotapauksen tiukemmille sääntelytoimille.
Trusted
Vastuuvapauslauseke
Kaikki verkkosivustollamme olevat tiedot julkaistaan vilpittömässä mielessä ja ainoastaan yleiseen tiedottamiseen. Lukijan on toimittava verkkosivustomme tietojen perusteella täysin omalla vastuullaan.
