Tekoäly puolustuksessa: autonomiset avustajat ja nopeus

Kuvittele ohjelmisto, joka voi laatia toimivan hyökkäyksen samalla kun ihmisanalyytikko vielä lukee hälytystä. Pelottavaa? On. OpenAI:n presidentti Greg Brockman antaa tästä varoituksen ilman tavallista yrityssävyn pehmentämistä.

Brockman väittää, että samat läpimurrot, jotka tekevät tekoälystä paremman koodin kirjoittamisessa, myös madaltavat hyökkääjien vaatimustasoa. Ehdottamansa ratkaisu on yksinkertaisuudessaan vastoin odotuksia: käytä tekoälyä enemmän ja nopeammin verkkojen ja ohjelmistojen puolustamiseen.

Miksi puolustajien kannattaa toivottaa autonomiset avustajat tervetulleiksi

Hän sanoo, että tekoäly voi muuttaa kyberturvallisuuden taloutta puolustajien eduksi. Kuvittele koneet, jotka tuottavat huomattavasti vahvempaa ja turvallisempaa koodia. Tai muodolliset, matemaattiset todistukset, jotka tukevat kryptografisia järjestelmiä. Nämä eivät ole scifi-ajatuksia. Ne ovat käytännön työkaluja, jotka voivat vähentää inhimillisiä virheitä ja saada turvallisuuden skaalautumaan.

Mitä turvallisuustiimien tulisi siis käytännössä tehdä? Brockman suosittelee asettamaan tekoälyagentit etusijalle osaksi turvallisuusvälineistöä. Nämä agentit eivät ole kikkoja. Ne pystyvät skannaamaan koodia, löytämään haavoittuvuuksia, analysoimaan toimitusketjun riskejä ja tekemään tilannearviointia nopeudella, jota ihmistiimi ei voi saavuttaa. Aloita pienestä. Rakenna luottamus. Sitten etene.

• Aloita yksinkertaisilla automatisoiduilla skannauksilla, jotka tunnistavat helposti korjattavat ongelmat.
• Siirry operatiivisiin skannauksiin, jotka toimivat jatkuvasti tuotantopalveluja vastaan.
• Ota käyttöön automatisoitu suodatus ja korjaus ilmeisille väärille positiiveille.

Painotus vaiheittaiseen käyttöönottoon on tarkoituksellinen. Brockman haluaa, että puolustukset kehittyvät askel kerrallaan sen sijaan, että otettaisiin käyttöön testaamaton agentti ja toivottaisiin parasta.

Viime kuukaudet ovat näyttäneet tämän jännitteen selvästi. Huippumallit kuten Anthropicin Mitos ovat herättäneet tarkastelua turvallisuustiimien ja sääntelijöiden taholta. Nämä järjestelmät toimitetaan usein rajoitetun käyttöoikeuden ohjelmina luotetuille kumppaneille, mutta niiden kyky havaita konfiguraatiovirheitä ja muodostaa uusia hyökkäysketjuja saa ihmiset seuraamaan tarkasti. Kehitys keskittyy nyt agenteihin, jotka voivat olla suoraan vuorovaikutuksessa ohjelmistojen kanssa, mikä lisää sekä mahdollisuuksia että riskejä.

Jotkut turvallisuustutkijat pelkäävät, että suojatoimet suurten kielimallien ympärillä eivät ole edenneet yhtä nopeasti kuin mallit itse. Ero on merkityksellinen. Älykkäät organisaatiot, joilla on pääsy johtaviin malleihin, kehittävät jo vastatoimia ja korjauspäivityksiä. Esimerkiksi Oracle julkaisi viime kuussa noin 1 450 tietoturvakorjausta, mikä muistuttaa siitä, että ohjelmistojen ylläpito on armoton rutiini.

Ei ole olemassa taikaratkaisuja. Käyttöönotto näyttää erilaiselta yrityksestä toiseen. Mutta viesti on selvä: pidä tekoälyä puolustuksen voimaa monistavana tekijänä, ei vain uutena kohtana tuotesuunnitelmassa. Kuinka nopeasti toimit voi ratkaista, pysyykö tiimisi askeleen edellä vai muuttuu reaktiiviseksi.

Käytä tekoälyä löytämään ja korjaamaan sen, minkä tekoäly tekee helpommaksi rikkoa.