Keskustelu AI-laskentatehosta alkaa usein puutteista. GPU:t ovat kalliita, pilvipalveluiden kapasiteetti on rajallista ja pienemmillä tiimeillä on vaikeuksia kilpailla yritysten kanssa, jotka pystyvät varaamaan valtavia määriä laskentatehoa. Syvemmällä tasolla suurin haaste on kuitenkin koordinointi.
Markkinoilla on paljon laitteistoa, joka on vajaakäytössä. Riippumattomilla operaattoreilla on usein käyttämättömiä GPU:ita, kun taas kehittäjillä olisi tarve laskentateholle esimerkiksi inferenssiin, upotuksiin, eräkäsittelyyn tai mallien hienosäätöön.
Ocean Network pyrkii yhdistämään nämä kaksi ryhmää. Se yhdistää pirstaloituneen tarjonnan todelliseen kysyntään vertaisverkossa, jossa konttipohjaiset laskentatyöt suoritetaan etäsolmuissa ja tulokset palautetaan käyttäjälle.
Oceanin ajatuksena on, että käyttämättömät laitteet voivat muuttua osaksi likvidiä markkinaa, kun koordinointi toimii hyvin.
Airbnb:tä muistuttava vertaus on onnistunut – ylimääräisistä huoneista tuli taloudellisesti hyödyllisiä vasta, kun niihin lisättiin löydettävyyttä, varauksia ja luottamusta mahdollistavia kerroksia. Ocean pyrkii samaan laskentateholla: hajallaan olevien koneiden avulla voidaan muodostaa reititettävä markkina, johon data-analyytikot ja kehittäjät pääsevät käsiksi tarpeen mukaan.
Mikä on Ocean Network?
Ocean Network toimii yksinkertaisen työnkulun mukaisesti. Käyttäjä valitsee laskentaympäristön, lähettää konttipohjaisen työn ja saa tulokset, kun ajo suoritetaan loppuun.
Ennen työn aloitusta Ocean Orchestratorissa käyttäjät yleensä etsivät sopivan laskentakapasiteetin Ocean Network Dashboardin kautta, joka toimii pääsisäänkäyntinä solmukatalogin selaamiseen, laitteiden tietojen tarkistamiseen sekä työtehtävien ja maksujen hallinnointiin.
Palvelu sisältää myös testilaskentaympäristöt, kuten nopean CPU-testin ja avustuksella tarjotun GPU-kuormitusten käytön, mikä antaa data-analyytikoille ja kehittäjille mahdollisuuden arvioida alustaa kevyemmin ennen suurempien töiden ajamista.
Ocean Orchestrator on editoripohjainen työkalu, jonka avulla kehittäjät voivat luoda projekteja, lähettää töitä, seurata etenemistä ja ladata tulokset suoraan kehitysympäristöstään.
Laajennus toimii työkaluissa kuten VS Code, Cursor ja muissa samankaltaisissa editoreissa. Sen sijaan, että otettaisiin käyttöön jo olemassa oleva Python- tai JavaScript-tiedosto, aloitetaan uudella projektiasetuksella, jossa kehittäjä luo tarvittavat tiedostot pohjista: algoritmitiedosto, Dockerfile, riippuvuustiedosto ja .env-tiedosto. Kun nämä on määritetty, työt voidaan ajaa etäkoneella ilman tarvetta manuaaliseen koneiden provisiointiin.
Suuret pilvipalvelutoimittajat tarjoavat jo käytön mukaan hinnoiteltua laskentakapasiteettia ja GPU:ita. Näissä järjestelmissä käyttäjän täytyy kuitenkin silti valita instanssit ja hallita ympäristöjä itse. Ocean painottaa enemmän varsinaisen työn määrittelyä ja suorittamista.
Kehittäjät valitsevat etäympäristön, ajavat työn, ja maksavat vain käytetyistä resursseista.
Konttipohjaiset tehtävät, kuten mallin inferenssi tai eräkäsittely, muistuttavat enemmän laskentatyön suorittamista kuin koneen vuokrausta.
Oceanin orkestrointikerros
Ocean Orchestrator on koko kokemuksen ytimessä. Hajautettu laskenta voi tuntua tehokkaalta, mutta muuttuu nopeasti monimutkaiseksi, jos käyttäjän täytyy itse hallita etäjärjestelmiä. Ocean pyrkii pitämään työnkulun mahdollisimman lähellä tavallista kehitystyötä.
Editorilaajennuksen avulla kehittäjät voivat luoda projektin, lähettää laskentatyön, seurata suoritusta ja saada tulokset projektikansioon. Työkalu tukee Python-, JavaScript- ja kustomoituja kontteja, ja toimii editoreissa kuten VS Code, Cursor, Antigravity ja Windsurf.
Tämän lähestymistavan ansiosta etäsuoritukset tuntuvat saumalliselta osalta kehitysympäristöä. Työ lähtee editorista, ajetaan valitussa solmussa ja palauttaa tulokset, joita kehittäjä voi tarkastella tai jatkaa käsittelyä. Orchestrator koordinoi verkkoa niin, että hajallaan olevat koneet käyttäytyvät yhtenäisenä, hyödynnettävänä laskentaresurssipoolina.
Compute-to-Data-turvallisuusarkkitehtuuri
Turvallisuus ja datan omistajuus ovat keskeisessä roolissa Oceanin suunnittelussa. Oceanin Compute-to-Data-mallin ansiosta algoritmit voidaan ajaa siellä, missä data jo sijaitsee. Työt suoritetaan eristetyissä konteissa ja vain lopputulokset palautuvat käyttäjälle.
Lähestymistapa on erityisen tärkeä arkaluonteisille aineistoille. Terveydenhuollon tiedot, yritysaineistot ja tutkimusdatan ei useinkaan voida siirtää vapaasti eri tahojen välillä. Compute-to-Data mahdollistaa analyysit niin, että data pysyy sen omistajan hallinnassa.
AI- ja datatieteen työnkuluissa tämä mahdollistaa uudenlaisen yhteistyön. Tutkijat tai kehittäjät voivat ajaa hyväksyttyjä algoritmeja, mutta datan omistaja säilyttää omaisuusvaransa alueellisen hallinnan. Verkko toimii siis sekä likvidinä laskentamarkkinana että turvallisena alustana hajautetulle laskennalle.
Maksu käytön mukaan verrattuna varattuun infrastruktuuriin
Oceanin talousmalli noudattaa samaa logiikkaa. Pilvialustat, kuten AWS ja GCP, veloittavat jo käytön mukaan, mutta kehittäjät varaavat yhä koneita ja hallinnoivat ympäristöjä. Ocean keskittyy jälleen varsinaisiin työtehtäviin.
Käyttäjä valitsee laskentaympäristön käytettävissä olevien GPU-, CPU-, RAM-, levytilan, maksimikeston ja palkkiotokenin perusteella, ja lähettää sitten konttipohjaisen työn kyseiselle solmulle Ocean Orchestratorin kautta.
Työ ajetaan etänä ja käyttäjä saa reaaliaikaiset tilannepäivitykset ja lokit. Maksu määräytyy vain tämän työn vaatiman resurssinkäytön mukaan. Oceanin järjestelmässä työn kustannus rahastoidaan etukäteen escrow-tilille, ja arvioitu hinta näytetään ennen suorituksen alkua. Näin käyttäjä näkee työn hintatason jo ennen käynnistystä.
Ennakkoon kapasiteettia ei tarvitse varata, vaan työ yhdistetään ympäristöön, jolla on tunnetut rajat ja verkko huolehtii suorituksesta. Tarjoajan näkökulmasta palkkiot voidaan sitoa resurssikäyttöön, kuten aikaan ja ympäristöön, jolloin hajautettu laitteisto muuttuu hinnoiteltavaksi ja hyödynnettäväksi yksityiskohtaisemmin.
Mitä tämä merkitsee kahdelle yleisölle
Ocean Network palvelee kahta ryhmää.
- Datascientistit ja kehittäjät saavat pääsyn valikoimaan laskentaympäristöjä, joista he voivat ajaa konttipohjaisia töitä suoraan editoristaan. Tehtävät kuten embedding-mallinnus, mallin inferenssi tai datan prosessointi voidaan suorittaa etänä ja palauttaa tulokset paikalliseen projektiin.
- Solmuoperaattoreille tarjoutuu mahdollisuus saada tuottoa vajaakäyttöisestä laskentakapasiteetista. Ajamalla Ocean Nodeja he voivat suorittaa laskentatöitä verkolle ja vastaanottaa maksuja suoritetuista töistä. Tämä ansaintamahdollisuus tulee avautumaan myös itsenäisille solmujen pyörittäjille myöhemmässä Beta-vaiheessa.
Nämä tekijät muodostavat yhdessä koordinoidun laskentamarkkinan. Kehittäjät saavat joustavan pääsyn hajautettuun laskentaan, ja laitteiston omistajille avautuu mahdollisuus ansaita käyttämättömillä koneilla.
Ocean Network -tiimi pyrkii tällä tavoin muuttamaan hajanaisen kapasiteetin AI-käyttäjille löydettäväksi, käytettäväksi ja luotettavaksi resurssiksi.
