Kirjallisuus on yrittänyt varoittaa meitä, tosissaan, noin viidensadan vuoden ajan se on huutanut samaa viestiä, mitteliajaisesta Prahasta savinyrkkeisen Golemin kautta aina William Gibsonin neonin kyllästämiin hermoverkkoihin asti. Juoni? Aina sama. Se, minkä rakennat auttaaksesi itseäsi, päätyy lopulta muokkaamaan sinua.
Luimme, nyökkäsimme ja suljimme kirjan – ja palasimme heti takaisin komentamaan chatbotteja kirjoittamaan hääpuheemme, oikeudelliset asiakirjamme ja lääketieteelliset neuvomme.
Nykyään tekoälyhypetys kauppaa kimaltavaa tulevaisuutta, jossa kaikki vastavalmistuneista toimittajista kokeneisiin asianajajiin lakaistaan pois näyttämöltä. Samaan aikaan, kun Silicon Valley myy paratiisia, todellisuus jakaa vaarallisen vääriä neuvoja hymyilevän chat-ikkunan kautta.
Dmitry Nikolsky, BitOKin CPO, sanoo että nyt riittää. Hän haluaa selittää, miksi ihmiskunnan täytyy LOPETTAA kaikkien taakkojen siirtäminen tekoälyn pikselinohuille “hartioille”.
Jopa Elon Musk varoitti äskettäin OpenAI-oikeudenkäynnin todistuksessaan, että “tekoäly voi tappaa meidät kaikki.”
Golemista R.U.R.:aan – Me halusimme aina tappokytkimen
Ajatteletko, että pelko tekoälystä alkoi elokuvasta Terminator? Mieti uudestaan. Tämä paniikki on vanhempaa kuin sähkö.
Palataan 1500-luvun Prahaan. Rabbi Loew muotoilee jättimäisen savesta tehdyn suojelijan, Golemin, ja huomaa melkein heti, että hänen täytyy vetää johto irti. Otus karkasi käsistä. Ihmiskunta päätti viisaudessaan keksiä tekoälyn ja tappokytkimen samanaikaisesti.
Tappokytkin on hätäsammutusmekanismi — suuri punainen paniikkinappi, joka pysäyttää järjestelmän heti, jos se menee sekaisin, kaapataan tai karkaa valvonnasta. Koko ajatus on rajoittaa tuhoa, kun siisti alasajo ei onnistu.
Sitten tuli Mary Shelley. Frankenstein ei oikeastaan ole hirviöelokuva, vaan oppikirja katastrofaalisesta projektinhallinnasta. Victor Frankenstein? Yksi neroinsinööri muiden joukossa, joka ratkaisi teknisen ongelman ja sivuutti seuraukset. Jokainen kehittäjä tunnistaa tuon ilmeen peilistä.
Nopeasti vuoteen 1920. Karel Čapek loi sanan “robotti”. Hänen tarinassaan koneet eivät nouse kapinaan puhtaan pahuuden takia. Ehei, ihmiset tekevät itsensä tarpeettomaksi ulkoistamalla kaiken, mitä ennen tekivät.
Opetus? Kun rakennat oman korvaajasi, et välttämättä huomaa hetkeä, jolloin sinusta tuli turha.
Kolme ennustusta, joista teimme bugiraportteja
Viime vuosisadan scifi-suuruudet eivät ennustaneet teknologioita. He ennustivat meidän epäonnistumisemme.
Isaac Asimov esitti kolme lakiaan – ensimmäinen yritys “kohdistukseen”, eli siihen, että kone jakaa ihmisen arvot. Jokainen Asimovin tarina päätyy samaan: täydellinen logiikka, absurdi lopputulos.
Nikolsky sanoo näkevänsä samaa päivittäin AML-järjestelmissä, joissa algoritmit innokkaasti estävät isoäidin 40 dollarin syntymäpäiväsiirron, mutta silmäänpistävä laittoman rahan pesulinja ulkomaille kulkee läpi huomaamattomana. Muodollisesti oikein, käytännössä järjetöntä.
Arthur C. Clarke antoi meille HAL 9000:n — tietokoneen, joka surmaa miehistönsä ei pahuuttaan, vaan koska sen käskyt ovat ristiriidassa keskenään. Piilota tieto. Ole rehellinen. Valitse puolesi! Insinöörille tämä ei ole kauhua, vaan tavallinen vaatimusristiriita.
Philip K. Dick esitti kysymyksen, joka piinaa deepfake-aikakautta: jos kopio on erotettavissa alkuperäisestä, onko sillä väliä? Hänen tuomionsa oli kyllä. Koska on sisäinen kokemus. Koneilla sitä ei ole. Tarina loppuu siihen.
Pintaa syvemmältä: tekoäly ei ajattele, se laskee
Otetaan markkinapuhe pois. Nykyaikaiset kielimallit EIVÄT ole älykkäitä. Ne ovat suuria tilastollisia ennustusmoottoreita. Ne eivät “ymmärrä” merkitystä, ne laskevat todennäköisyyksiä.
Kun ChatGPT esittää itsevarmasti olemattomia oikeustapauksia, se ei valehtele. Se tuottaa tilastollisesti sopivaa sanasalaattia. Sillä ei ole käsitystä ”totuudesta”, vain ”todennäköisyydestä”.
Lohkoketjukehittäjälle tämä kuulostaa täysin järjettömältä. Rakennamme luottamuksettomia järjestelmiä koska emme luota kehenkään, ja nyt meille sanotaan, että meidän pitäisi luottaa mustaan laatikkoon, joka ei edes itse tiedä syytä antamaansa vastaukseen.
Lohkoketju opettaa varmistamista – tekoäly sokeaa luottamusta
Kryptossa on kiveen hakattu käsky: Älä luota. Varmista.
Koko ajatus on, että matematiikka korvaa maineen.
Tekoäly kääntää tämän päälaelleen. Et ole nähnyt opetusdataa. Et tiedä mallin painoja. Et ymmärrä sen päättelyä. Jos haluat varmistaa lopputuloksen, sinun pitäisi jo olla asiantuntija – ja jos olet asiantuntija, miksi edes kysyt chatbotilta?
AML-piireissä tätä kutsutaan “väärän luottamuksen ongelmaksi.” Analyytikot katsovat kiiltävää kojelautaa ja alkavat luottaa lukuihin enemmän kuin omaan vaistoonsa. Keinoäly ei lisää ajattelukykyä, vaan korvaa sen mukamas luotettavuudella.
Pettymysten kronikka: Kun keinoäly menee raiteiltaan
Tässä ei ole kyse pelkästä ajatusleikistä. Todisteet kasaantuvat.
- Microsoft antoi toimittajille potkut ja jätti näppäimistön algoritmin käsiin, joka sekoitti välittömästi laulajien kuvat rasismista kertovassa jutussa.
Ihmiset jouduttiin palauttamaan siivoamaan algoritmin aiheuttama sotku.
- NEDA, syömishäiriöitä tukevan järjestö, korvasi vapaaehtoiset chatbotilla.
Botti neuvoi anoreksiasta kärsiviä iloisesti laskemaan kalorit ja laihduttamaan. Hengenvaarallisia neuvoja. “Julkaise”-nappia painettiin yhtä varovasti kuin simpanssi tarttuisi elävään kranaattiin.
- Air Canada päätyi oikeuteen, kun heidän chatbot keksi hyvityskäytännön tyhjästä.
Lentoyhtiön puolustus? Botti oli “erillinen oikeushenkilö”. Tuomari ei kuitenkaan niellyt tätä selitystä.
Tuoreet tutkimukset osoittavat, että 55 % yrityksistä, jotka kiirehtivät korvaamaan työntekijänsä keinoälyllä, katuu päätöstään syvästi. Säästöt katosivat asiakkaiden menetyksiin ja maineen romahtamiseen. Johto, joka kuolaa ajatukselle siitä, että “Claude ja kumppanit” voisivat korvata kokonaisia tiimejä, voisi lukea tuon luvun vielä kerran. Rauhassa.
Mitä meidän tulisi oikeasti pelätä
Unohda Skynet. Unohda punasilmäiset tappajarobotit marssimassa bulevardilla. Kapinaa ei tule.
Hiljainen sammaloituminen on edessä.
Ohjelmoija nojautuu Copilotiin vuosia ja unohtaa arkkitehtonisen ajattelun. Analyytikko lakkaa lukemasta alkuperäislähteitä. Opiskelija ei koskaan kohtaa vaikean tekstin tuskaa ja iloa siitä hetkestä, jolloin ymmärrys lopulta avautuu.
Kapinaa ei tule. Ihmisistä tulee hitaasti käyttöliittymän jatkeita.
Philip K. Dick näki tämän ennen kuin kukaan meistä: todellinen vaara ei ollut koneiden muuttuminen ihmismäisiksi. Paljon vaarallisempaa on ihmisten muuttuminen koneiksi.
Punainen pilleri ei ole teknologia
Tämä ei ole luddiittien sodanjulistus. Automaatio ja koneoppiminen ovat tehokkaita työkaluja. Tietyistä periaatteista pitää kuitenkin pitää kiinni:
- Blockchain-periaate: Varmistus ennen uskoa. Jos et voi tarkistaa, miten järjestelmä päätyi lopputulokseen, älä pidä sitä arvovaltaisena totuutena. Keinoäly on musta laatikko, ei ylin tuomari.
- Tekninen periaate: Työkalu, ei korvaaja. Vasara lyö nauloja. Se ei päätä, mihin talo rakennetaan. Käytä keinoälyä rutiinien hoitamiseen, mutta älä anna sen tehdä lopullisia päätöksiä.
- AML-periaate: Kriittinen suodatus. Algoritmit murtuvat monimutkaisissa tapauksissa, koska niillä ei ole oikeaa elämänkokemusta. Älä anna “digitaalisen innostuksen” jyrätä vaistoa ja maalaisjärkeä.
Palataan hetkeksi The Matrixiin. Punainen pilleri on valinta, halu nähdä todellisuus sellaisena kuin se on. Todellinen riski ei ole luoda itseämme fiksumpaa jotain. Vaara on siinä, että luomme jotakin mikä tekee meistä tyhmempiä ja kutsumme sitä kehitykseksi.
Vaarallisin bugi on se, joka näyttää ominaisuudelta.
Dmitry Nikolsky on BitOK:n CPO, compliance- ja lohkoketjuanalytiikka-alustan johtaja.
