Nadella: Tekoälymallit on suunniteltava rajoitettaviksi

Microsoftin toimitusjohtaja Satya Nadella kirjoitti laajassa X-julkaisussaan, että kehittäjien ja valvojien tulisi alusta alkaen pitää edistyneitä tekoälymalleja mahdollisena riskinä ja suunnitella niille toimintaa rajoittavat hallintamekanismit. Hänen mukaansa tekoälyn ”luottamuksen arkkitehtuuri” on arvioitava uudelleen, sillä nykyinen käytäntö käsitellä tehokkaita malleja toistensa sisään käärittyinä mustina laatikoina ei ole riittävä.

Mallien irrottaminen hallinta- ja valvontajärjestelmistä

Nadellan mukaan mallin suosituksia, vastauksia tai toimia ei pitäisi hyväksyä ilman rakenteellisia turvamekanismeja. Hän ehdotti arkkitehtuureja, joissa mallien toiminta erotetaan hallintaa ja tehtävien suorittamista hoitavista järjestelmistä. Näin rajoitukset ja turvakontrollit voitaisiin sijoittaa mallin ulkopuolelle. Tällainen erottelu mahdollistaisi hänen mukaansa riippumattomamman valvonnan ja mallin käyttäytymisen seurannan.

Mallin kompromettoitumisen varalta Nadella suositteli lähtemään siitä, että malli on alusta alkaen kompromettoitunut, ja suunnittelemaan rajoitukset sen mukaisesti. Hän kuvasi tätä operatiiviseksi turvallisuusvaatimukseksi: ”Meidän tulisi olettaa, että malli on alusta alkaen kompromettoitunut, ja meidän on rajoitettava sitä. Ajattele sitä kuin hätäjarrua. Valtuutetun henkilön tulisi aina pystyä pysäyttämään tai sulkemaan malli tehtävän suorittamisen aikana.” Hän lisäsi, että tehokkaammat mallit vaativat kehittyneempiä rajoitustekniikoita ja että näille teknologioille tulisi kehittää yhteisiä standardeja.

Pysäytyskontrollien lisäksi Nadella kehotti kirjaamaan kattavasti mallien keskeiset toimet. Hän vaati lokeja, jotka ovat sekä ihmiselle luettavia että väärentämisen kestäviä, jotta mallien suorituskykyä ja päätöksiä voidaan tutkia ja auditoida. Tällaiset tallenteet tukisivat hänen mukaansa mallien käytännön toiminnan tarkastelua ja arviointia.

Monet Nadellan ehdotuksista ovat linjassa muiden tekoälyyhteisössä esiin nostettujen suositusten kanssa. Hänen mukaansa jo keskustelussa ovat esimerkiksi tapahtumista ilmoittaminen oikea-aikaisesti, riippumaton auditointi, datan alkuperän todennettavuus sekä mekanismit mallien rajoittamiseksi niiden käyttäytyessä odottamattomasti.

Nadella ei esittänyt kirjoituksessaan teknisiä suunnitelmia tai aikatauluja, vaan muotoili näkemyksensä ehdotuksiksi ja periaatteiksi yksityiskohtaisten poliittisten linjausten sijaan. Hän korosti yhteisten standardien ja vahvempien ulkoisten valvontamekanismien tarvetta, jotta edistyneitä tekoälyjärjestelmiä voitaisiin valvoa tehokkaammin ja riippumattomammin.