Anthropic pidättää Model 2:n: kyvykkyys ilman julkaisupäivää

He rakensivat jotain Mythosta vahvempaa ja sitten laittoivat sen laboratorion oven taakse. Valinta kertoo tekoälyriskien tilasta enemmän kuin mikään lehdistötiedote koskaan voisi.

Laboratorion sisällä: kyvykkyys ilman julkaisupäivää

Anthropicin viimeisin riskinarvio paljastaa hiljaisen, harkitun päätöksen: Model 2, Mythoksen sisäinen sisarmalli, ei tule julkiseen jakeluun. Yhtiön mukaan malli suoriutui paremmin kuin Mythos monissa sisäisissä tehtävissä, kuten ohjelmoinnissa, agenteihin pohjautuvissa työnkuluissa ja synteettisen datan luomisessa, mutta se jää toistaiseksi tutkimusomaisuudeksi. Lyhyt lause. Suuri merkitys.

Miksi pidättäytyä? Koska kyvykkyys on vain yksi puoli tilistä. Anthropic on nostanut arviotaan yleisestä epälinjautumisriskistä herkillä skenaarioilla "erittäin alhaisesta" alhaiseksi. Sanavalinnalla on merkitystä. Se kertoo kasvavasta epävarmuudesta siitä, toimiivatko monimutkaiset mallit jatkossakin ihmisten tavoitteiden mukaisesti, kun ne laajenevat.

On toinen käänne. Anthropicin tutkijat näkevät merkkejä siitä, että mallit nopeuttavat omaa tutkimus- ja kehityskykyään. Ajattele sitä koneina, jotka oppivat suunnittelemaan parempia koneita. Se voi vauhdittaa kehitystä voimakkaasti. Se voi myös, jos sitä käytetään väärin, avata uusia hyökkäysreittejä ja odottamattomia vikoja. Yhtiö vertaa Model 2:n saavutuksia aiempiin harppauksiin; tiimin mukaan kyseessä on merkittävää edistystä, mutta ei saman mittaluokan hyppy kuin Opus 4.6:sta Mythokseen.

Model 2:n pitämättä jättäminen julkaisusta on osa tutuksi tullutta toimintamallia korkean riskin teknologiassa: kokeile sisäisesti, opi nopeasti ja rajoita altistumista, kunnes ohjausmenetelmät kiristyvät. Se on varovainen linja. OpenAI viivästytti äskettäin Astra-mallinsa julkista käyttöönottoa samankaltaisista syistä vedoten huoliin kyberkyvyistä. Ala pysähtyy eri kohdissa, mutta itse tauosta on muodostumassa strateginen keino.

Mitä tämä tarkoittaa AGI-kilpailulle? Tauko voi olla vahva asema. Pitämällä kyvykkäimmät järjestelmät kontrolloitujen porttien takana tiimit voivat tutkia vikaantumistapoja, vahvistaa puolustuksia ja muokata arviointimenetelmiä. Se myös keskittää valtaa. Jos yksi laboratorio jatkaa nopeaa sisäistä kehitystä samalla kun muut hidastavat, se laboratorio voi ottaa etumatkaa poluilla, jotka johtavat yleisempään älykkyyteen. Juuri siksi sääntelijät ja yleisö seuraavat tilannetta tarkasti.

Edistymisen mittaaminen vaikeutuu, kun mallit kehittyvät. Aiemmin järkevät vertailumenetelmät menettävät signaaliaan. Tehtäväpohjaiset testit eivät enää tavoita esiin nousevia kykyjä tai hienovaraisia tapoja, joilla mallit ketjuttavat päättelyä pidemmiksi autonomisiksi prosesseiksi. Jos haluat ymmärtää riskiä tänään, tarvitset stressitestejä, jotka jäljittelevät todellista väärinkäyttöä, dynaamisia vastustajaprobeja ja jatkuvaa seurantaa yhden kertaluontoisen pistemäärän sijaan.

Anthropicin viesti on selkeä ilman koreiluja: kyvykkyyksien kasvu on todellinen, epävarmuus lisääntyy ja pidättyväisyys on tietoinen valinta. Yhtiö ei ilmoita julkaisuaikataulua. Toistaiseksi Model 2 toimii muistutuksena siitä, että tekninen eturintama ja turvallisuuseturintama on edettävä käsi kädessä, muuten tasapaino kallistuu kohti ei-toivottuja seurauksia.