OpenAI osallistuu vapaaehtoiseen mallien arviointiin

Kun hallitus pyytää kurkistamaan huippuluokan tekoälyn sisään, yritykset yleensä epäröivät. OpenAI ei epäröinyt, ainakaan täysin. George Osborne, OpenAI:n maajohtaja, kertoi Lontoossa SXSW-tapahtumassa, että yhtiö osallistuu vapaaehtoisesti uuteen Yhdysvaltain prosessiin, joka pyytää varhaista pääsyä kehittyneisiin malleihin.

Alun perin Valkoisen talon ajama toimeenpanomääräys tavoitteli 90 päivän ennakkotoimitusikkunaa. Ehdotus kohtasi vastustusta. Se pehmeni, ilmeisesti 30 päivän pyynnöksi julkisen vastareaktion ja jopa presidentti Trumpin julkisen epävarmuuden jälkeen. Lopullinen sanamuoto pyytää pääsyä vaatimisen sijaan, mutta se silti viestii tiukemmasta valvonnasta kaikkein kykenevimmille järjestelmille.

OpenAI on suostunut lähettämään seuraavan sukupolven mallinsa vertailuarviointiin, jonka tarkoituksena on arvioida "tekoälymallien kehittyneet kyberkyvyt" ja auttaa määrittämään kynnys, jonka säätelijät saattavat nimetä "kattavaksi eturintamamalliksi". Mitä se tarkoittaa käytännössä? Ajattele sitä ohjelmiston stressitestauksena todellisen maailman riskien varalta: kyvykkyydet, väärinkäytön potentiaali ja turvallisuusasema mitataan yleisen edun mittatikulla.

Osborne kehysti siirron ennakoivaksi. Hän sanoi, että OpenAI on ehdottanut keinoja, joilla hallitukset voivat seurata tekoälyn turvallisuutta ja suojaa, ei vain Yhdysvalloissa vaan myös globaalisti. Tämä lähestymistapa heijastaa alan muutosta: yritykset, jotka aiemmin suhtautuivat sääntelyyn torjuvasti, näkevät nyt jonkinasteisen koordinoinnin keinona välttää hätiköityjä ja huonosti suunniteltuja sääntöjä.

Siitä huolimatta vapaaehtoinen yhteistyö eroaa sitovasta valvonnasta. Yritykset voivat noudattaa, neuvoa tai vastustaa. Ne voivat myös muokata vertailukriteerejä ja niistä seuraavia määritelmiä. Päätöksentekijöille haasteena on varmistaa, että vertailut pysyvät tiukkoina, läpinäkyvinä ja kestävät eturyhmien vaikutusyrityksiä. Yrityksille laskelmaan vaikuttavat maine, markkinoille pääsy ja käytännön taakka luovuttaa arkaluontoisia malleja, jopa hyväksytyille tarkastajille.

Sääntely pyynnöstä. Vertailuarviointi sopimuksella. Uusi luku teollisuuden ja hallituksen neuvotteluissa vallan jakamisesta voimakkaan tekoälyn suhteen on alkamassa, ja se nostaa esiin tuttuja mutta kiireellisiä kysymyksiä vastuullisuudesta, teknisestä läpinäkyvyydestä ja siitä, kuka päättää turvallisuuskynnyksistä. Seuraa tilannetta, sillä itse testit voivat kertoa meille enemmän kuin mikään toimeenpanomääräys.