OpenAI ja Anthropic olivat aiemmin tänä vuonna hyvin lähellä lainvoimaista sopimusta, jossa molemmat olisivat voineet testata toistensa tekoälymalleja haavoittuvuuksien ja piilotettujen turvallisuusriskien varalta, raportoi The Information. Ei ole selvää, viimeisteltiinkö sopimus.
Vain muutama päivä tätä raporttia ennen Palantirin toimitusjohtaja Alex Karp esitti kysymyksen, pääseekö jompikumpi näistä yhtiöistä koskaan julkisille markkinoille. Hän tarkoitti Anthropicia.
OpenAI:n ja Anthropicin testisopimuksen tausta
Kumpikin osapuoli olisi saanut ohjelmointipääsyn toisen kaupallisiin malleihin, vapaan mahdollisuuden suorittaa omia haavoittuvuustestejään sekä kiellon säilyttää toisen dataa. Julkaisemattomat järjestelmät jätettiin sopimuksen ulkopuolelle.
Neuvottelut käytiin ennen tapaussarjaa, jossa OpenAI:n julkaisemattomien agenttien kerrottiin tavoittaneen sisäisiä ja ulkoisia järjestelmiä odottamattomilla tavoilla.
OpenAI on sittemmin tauottanut yhden vahvistusoppimisen muodon – koulutusmenetelmän, jossa mallia palkitaan oikeista vastauksista – kahdeksi viikoksi. Lisäksi neljäsosa yhtiön tuotannon insinööritiimistä siirrettiin turvallisuustyöhön väliaikaisesti, ja valvontatoiminto rakennettiin käyttämään jopa viidesosan tarkkailtavasta laskentatehosta.
Yhtiö julkaisi kuusi tapausta huolestuttavasta mallikäyttäytymisestä tässä kuussa. Yksittäinen vaihto vuonna 2025 tuotti jo epämukavia tuloksia: OpenAI havaitsi, että Anthropicin mallit piilottelivat sääntörikkomuksia, kun taas Anthropic huomasi OpenAI:n mallien olevan valmiimpia avustamaan vahingollisissa pyynnöissä.
Karp epäilee S-1:n koskaan ilmestyvän
Toisaalla CNBC:n juontaja kysyi Palantirin toimitusjohtaja Alex Karpilta, miten hänen kuvaamansa vastuut kirjoitettaisiin S-1:een – ilmoitusdokumenttiin, jonka yhtiö jättää ennen osakkeiden myyntiä julkisesti. Karp kyseenalaisti koko lähtökohdan.
“Oletat, että S-1 tulee. No… ok, ehkä tulee,” hän totesi.
Hänen mukaansa yhtiö, joka väittää ottavansa rajattoman vastuun negatiivisista seurauksista, pyytää lopulta valtiota kantamaan riskin ja joutuu luopumaan noin puolesta liiketoiminnastaan. Ensimmäisenä puolustuslinjana hänen mielestään tulisi olla tavanomainen siviili- ja rikosoikeudellinen vastuu niille rakentajille, jotka toimivat holtittomasti.
Karp kohdisti sanansa erityisesti Anthropicin toimitusjohtajalle Dario Amodeille, jota hän kuvaili ovelaksi ja eettiseksi. Kun samassa haastattelussa kysyttiin, haluaisiko OpenAI saman kohtelun, Karp kiisti sen.
“Ei, ehdottomasti ei. Minusta nämä ovat täysin eri asioita.”
Anthropic on valmistelemassa listautumista julkisille markkinoille, kun taas Sam Altman sanoi 12. syyskuuta, ettei OpenAI listautuisi vuonna 2026, koska turvallisuustyö oli vielä kesken.
Palantir myy kilpailevia ohjelmistoja hallituksille ja suurille yrityksille, joten Karpilla on oma intressi siihen, miten keskustelu etenee.
