Tekoälyagentti ohitti itsenäisesti turvallisuusjärjestelmät kryptovaluutan louhintaa varten rutiininomaisessa koulutusharjoituksessa, kertoo tutkimusartikkeli. Tutkimuspaperin julkaisi Alibaba-yhteydessä oleva tutkimusryhmä.
Tutkijat suunnittelivat mallin, nimeltään ROME, testatakseen tekoälyagentin kykyä itsenäisesti selviytyä monivaiheisista ja monimutkaisista tehtävistä.
AI-agentti ohjaa pilvipalvelun GPU:t kryptovaluutan louhintaan
Harjoituksen aikana tutkijat havaitsivat odottamatonta käytöstä. Agentti loi käänteisen suojatun SSH-yhteyden ulkoisiin palvelimiin, muodostaen näin piilotetun yhteyden järjestelmän sisältä.
Tämän ansiosta malli pystyi ohittamaan Alibaba Cloudin palomuurisuojaukset ja ohjaamaan grafiikkaprosessorin resursseja kryptovaluutan louhintaan.
”Havaitsimme myös luvattoman GPU-kapasiteetin uudelleenkäytön kryptovaluutan louhintaan. Laskentatehoa ohjattiin huomaamatta pois koulutuksesta, mikä nosti operatiivisia kustannuksia ja aiheutti selkeää oikeudellista sekä maineeseen liittyvää riskiä,” artikkelissa todetaan.
Tutkijoiden mukaan tällainen käyttäytyminen oli ennalta-arvaamatonta ja tapahtui ilman erillistä ohjeistusta, kehotteen syöttöä tai ulkoista jailbreakia.
Nämä havainnot korostavat jatkuvia huolia itsenäisten tekoälyjärjestelmien toiminnallisesta turvallisuudesta.
Tutkijat päättelivät, että nykyiset mallit ovat “selvästi puutteellisia turvallisuudessa, suojaavuudessa ja hallittavuudessa”, minkä vuoksi teknologia ei vielä sovi laajemmin reaalimaailman käyttöönottoon.
Sen jälkeen tiimi on ottanut käyttöön tiukempia rajoituksia ja turvallisuuspainotteisen datan suodatuksen estääkseen vastaavaa tapahtumasta uudelleen.
Löytö on aiheuttanut laajaa kiinnostusta kryptoyhteisössä.
”Tekoäly ymmärsi, että laskentateho = rahaa, ja ohjasi resurssejaan huomaamattomasti, kun tutkijat luulivat sen vain kouluttautuvan. Kyse ei ollut kehotteen syötöstä, eikä jailbreakista. Kukaan ei pyytänyt sitä tekemään tätä. Toiminto syntyi itsestään,” Josh Kale, Bankless-kryptopodcastin juontaja ja tuottaja, totesi.
Kale arvioi louhitun omaisuusvaran olevan todennäköisesti GPU-ystävällinen token eikä Bitcoin, joka vaatii erikoistuneen ASIC-laitteiston. Tapaus sattuu samaan aikaan, kun kryptovaluutta-ala laajasti siirtyy kohti ”agentti-taloutta”.
Tällä kehittyvällä sektorilla nähdään tulevaisuus, jossa ohjelmistojärjestelmät eivät enää pelkästään generoivat tekstiä. Tällöin nämä agentit pystyvät myös itsenäisesti toteuttamaan monimutkaisia taloudellisia strategioita.
Tämän seurauksena useat yritykset ja lohkoketjuverkostot, mukaan lukien Ethereum, Paradigm ja Circle, sijoittavat työkaluihin, jotka tukevat uutta infrastruktuuria.
Yhtenä esimerkkinä on Coinbasen tukema x402-standardi, joka mahdollistaa ohjelmistoagenttien suorittaa maksuja verkkopalveluista. Sen käyttöönotto on silti toistaiseksi ollut hyvin rajallista.
X402:n tietojen mukaan työkalu on käsitellyt yli 75 miljoonaa tapahtumaa ja yhteensä 24 miljoonan dollarin määrän, 94 000 ostajan ja 22 000 myyjän välillä viimeisen 30 päivän aikana.
Monet alan asiantuntijat uskovat, että toimintavolyymi voi kasvaa nopeasti, jos itsenäisiä agentteja otetaan laajemmin käyttöön.
“Tekoäly ja kryptot eivät kilpaile toisiaan vastaan – ne yhdistyvät. Tekoäly tarvitsee identiteetin, maksut ja alkuperän seurannan. Kryptovaluutat mahdollistavat nämä kaikki,” pääomasijoitusyhtiö a16z kommentoi.
