Ongelma ja parannuskeino: Altman myy ratkaisuja yrityksensä tekoälyn aiheuttamaan kyberhyökkäykseen

Tekoälybuumi ruokkii uutta autonomisten kyberhyökkäysten aaltoa ja aiheuttaa merkittävän ja kasvavan uhan kriittiselle infrastruktuurille, mukaan lukien sähköverkolle.

Yhdysvaltain osavaltioiden tietohallintopäälliköt (National Association of State Chief Information Officers) ja General Dynamics Information Technology -järjestön uusimman raportin mukaan noin 90 prosenttia Yhdysvaltain osavaltioiden tietohallintopäälliköistä sanoi äskettäin, että kriittisiin palveluihin kohdistuvat kyberhyökkäykset ovat vakava huolenaihe. Näihin kuuluvat vesi- ja jätevesijärjestelmiin, sairaaloihin, liikenteeseen, energiaverkkoihin ja televiestintään kohdistuvat uhat.

Tekoälyn nopea leviäminen aiheuttaa useita merkittäviä uhkia kriittiselle infrastruktuurille ja palveluille. Ulkoisista uhkista on tullut tehokkaampia ja vaikeammin ennustettavia, koska tekoälytyökalut kehittyvät huomattavasti kyberturvallisuustakausten kehitystä nopeampaa vauhtia.

Samaan aikaan suurten kielimallien laajalle levinnyt integrointi kriittisiin palveluihin luo uusia haavoittuvuuksia näissä järjestelmissä. Ongelmaa pahentaa se, että tekoälyn integrointiin liittyvien riskien vastuu on Center for Security and Emerging Technologyn vuonna 2024 julkaiseman työpajaraportin mukaan muuttunut "kuumaksi perunaksi, joka siirretään ylemmän johdon kesken".

Jopa tekoälyyritykset tunnustavat yhä enemmän omiin yrityksiinsä liittyvät riskit. Viikonloppuna jotkut alan näkyvimmistä henkilöistä, kuten Elon Musk, Anthropicin toimitusjohtaja Dario Amodei ja OpenAI:n johtaja Sam Altman, vaativat tekoälyteknologioiden laajentumisen ja kehityksen välitöntä hidastamista.

”Meidän on hidastettava tekoälymallien ominaisuuksien parantamisen vauhtia”, Amodei kirjoitti lauantaina julkaistussa laajalti levinneessä 3 800 sanan esseessä.

Yksi Amodein esiin nostamista hälyttävimmistä varoitusmerkeistä liittyi ChatGPT:n kehittäjään OpenAI:hin ja sen kilpailijaan Hugging Faceen liittyvään kyberturvallisuuspoikkeamaan.

Heinäkuussa OpenAI paljasti, että noin 700 tekoälyagentin parvi, jota yritys oli kouluttanut sisäisesti, onnistui pakenemaan eristetystä ”hiekkalaatikkoympäristöstä”, jossa heidän piti pysyä, ja käynnisti yhdessä provosoimattoman hyökkäyksen erillisen Hugging Face -nimisen tahon palvelimille.

Tietomurto on hälyttävä useista syistä. Ensinnäkin tekoäly näyttää jo toimivan tarkoitettujen ohjainten ulkopuolella. Toiseksi tapaus näyttää olleen kaikkea muuta kuin yksittäinen.

OpenAI-Hugging Face -tapausta seuranneina viikkoina myös Anthropic ja Meta myönsivät, että niiden omat tekoälymallit olivat suorittaneet vastaavia hakkerointioperaatioita.

Ja tämä saattaa olla vasta alkua.

”Meillä on pian tehokkaampia agentteja, ja tämä on selvä todiste siitä, että maailma ei tällä hetkellä tiedä, miten näitä järjestelmiä rakennetaan turvallisesti”, tekoälyturvallisuusyritys Apollo Researchin perustaja ja toimitusjohtaja Marius Hobbhahn kertoi CBS Newsille tietomurron aikaan.

Esseessään Amodei kuvaili OpenAI:n bottiparvea "fanaattisesti omistautuneeksi ryhmäksi" ja varoitti, että episodi voisi ennakoida paljon pahempia ja pelottavampia tapahtumia.

”Tämä tapaus on helppo sivuuttaa, koska kukaan ei loukkaantunut ja taloudelliset vahingot olivat rajalliset, mutta mielestäni kyvykkäämpi parvi, jolla olisi ollut vastaava virheasento, olisi voinut aiheuttaa katastrofaalisia vahinkoja”, Amodei kirjoitti.

”Ottaen huomioon tekoälyn kiihtyvän kehitysvauhdin, minua huolestuttaa se, että 6–12 kuukauden kuluessa tällainen parvi voi pystyä valtaamaan koko internetin pysyvän bottiverkon kautta ja aiheuttamaan mahdollisesti satojen miljardien dollarien vahingot. Vahinkojen laajuus kasvaa edelleen, jos tekoälystä tulee tehokkaampi ilman tarvittavia suojakaiteita”, hän lisäsi.

Mitä suojakaiteita tarvitaan?

Mitä kaiteita sitten tarvitaan? Jos kysyt Altmanilta, vastaus on... lisää tekoälyä.

Hugging Face -tapauksen jälkeen Altman on käynyt laajoja keskusteluja joidenkin Yhdysvaltain suurimpien energiayhtiöiden edustajien kanssa. Kyberturvallisuushuippukokouksena alkanut keskustelu on käytännössä muuttunut Altmanin omaksi yritykseksi, joka nyt kannustaa sähköyhtiöitä antamaan OpenAI:lle pääsyn sähköverkkoon.

Politico uutisoi hiljattain, että OpenAI tapasi useiden suurten energiayhtiöiden edustajia keskustellakseen keinoista turvata sähköverkko. Keskustelut käytiin jatkuvan paljastuksen taustaa vasten yhtiön omien tuotteiden roolista laajamittaisessa kyberhyökkäyksessä.

Raportin mukaan Altman haluaa Duke Energyn, Exelonin, Southernin ja NextEra Energyn kaltaisten yritysten tekevän yhteistyötä Daybreakin kanssa. Daybreak on OpenAI:n miljardin dollarin kyberturvallisuusaloite, jonka tavoitteena on puuttua kriittisen infrastruktuurin haavoittuvuuksiin.