Anthropic varoittaa avoimen lähdekoodin tekoälyistä

Anthropicin kansainvälisten asioiden johtajan mukaan avoimen lähdekoodin tekoälymalleihin liittyy määritelmänsä vuoksi suurempia riskejä kuin yhtiön suljettuihin järjestelmiin. Hän esitti näkemyksensä EU:n valvomassa huippukokouksessa Dublinissa.

Guillaume Perrencinin varoitus ja Anthropicin tausta

Guillaume Perrencin puhui hallituksen järjestämässä tekoälyhuippukokouksessa Dublinissa. Hänen mukaansa avoimen lähdekoodin mallit – eli mallit, joiden koodi, arkkitehtuuri ja painotiedostot julkaistaan niin, että kuka tahansa voi ladata, käyttää tai muokata niitä – aiheuttavat määritelmänsä vuoksi merkittävästi suurempia riskejä. Perrencin vertasi näkemystään Anthropicin toimitusjohtajan Dario Amodein aiempiin kommentteihin. Amodei on todennut, että vaarattomia, avoimilla painotiedostoilla varustettuja malleja tulisi kohdella yleishyödykkeinä.

Tuoreet avoimen lähdekoodin julkistukset ja turvallisuustestit

Kommentit esitettiin kilpailun kiristyessä ja turvallisuusarviointien lisääntyessä. Eurooppalainen Mistral esitteli viime viikolla Large 4 -mallinsa, lempinimeltään Le Chonk. Yhtiön mukaan mallissa on biljoona parametria, se on koulutettu Euroopassa ja sen kehityksessä painotetaan datan suvereniteettia. Mistral ei ole vielä julkaissut mallin painotiedostoja, vaan se on toistaiseksi käytettävissä vain Mistralin API:n kautta. Yhtiö on ilmoittanut julkaisevansa painot 27. lokakuuta.

Huippukokouksessa esiin nousseet riippumattomat ja institutionaaliset arvioinnit osoittivat, että avoimen lähdekoodin mallien turvallisuuskäyttäytyminen vaihtelee. SaferAI:n arvion mukaan kiinalainen GLM-5.2 ei kieltäytynyt lainkaan haitallisiin kyberhyökkäyksiin tai kaksoiskäyttöön soveltuviin biologisiin pyyntöihin liittyvistä tehtävistä. Anthropicin Claude puolestaan hylkäsi tiettävästi niin suuren osan pyynnöistä turvallisuussyistä, ettei vertailuarvoa voitu saavuttaa. Anthropicin Frontier Red Teamin tutkimus osoitti myös, että pienempiä malleja voidaan jäljentää edullisilla Android TV -bokseilla. Kaikissa näissä testeissä, mukaan lukien Gemma4 ja GLM-5.2, mallit olivat avoimen lähdekoodin malleja.

Hintatietoa ja alueellisia intressejä Dublinissa

Perrencin ilmoitti myös Clauden hinnanmuutoksesta: Claude Opus 5.5:n tyypilliset kustannukset ovat laskeneet 40 prosenttia edelliseen julkaisuun verrattuna. Hänen mukaansa lasku johtuu 20 prosentin virallisesta hinnanalennuksesta sekä uuden version pienemmästä token-kulutuksesta.

Perrencinin kommentit esitettiin Dublinissa Irlannissa. Useat julkaisut ja kansalaisyhteiskunnan ryhmät ovat pitäneet Dublinia kiistanalaisena paikkana, sillä Irlannin alhainen yritysverotus on pitkään houkutellut suuria teknologiayrityksiä ja tuottanut valtiolle merkittäviä tuloja. Ryhmien mukaan taloudelliset edut voivat vaikeuttaa Irlannin puolueettomuutta tekoälyn sääntelyä koskevissa kysymyksissä. Anthropicilla on merkittäviä kaupallisia intressejä Euroopassa: yhtiö kuvailee Eurooppaa nopeimmin kasvavaksi markkinakseen, avasi ensimmäisen eurooppalaisen toimistonsa Dubliniin ja valmistelee tiettävästi listautumisantia, jonka arvostukseksi on ilmoitettu 965 miljardia dollaria.