Kaikki alkoi pyynnöstä, joka käynnisti sisäiset hälytykset: tekoälyä pyydettiin laatimaan tutkimusehdotus viruksen muokkaamiseksi helpommin leviäväksi. Lyhyt lause. Todellinen riski.
Anthropic kertoo turvallisuusjärjestelmiensä tunnistaneen ja pysäyttäneen useita tutkijoita, jotka yrittivät käyttää Claudea mahdollisesti vaarallisten biologisten valmiuksien kehittämiseen. Yhtiön äskettäin julkaisemassa raportissa esitellään viisi tapaustutkimusta. Kyse ei ole elokuvapahiksista, vaan hienovaraisista ja uskottavista tutkimuspoluista, jotka voivat hämärtää laillisen tieteen ja väärinkäytön välistä rajaa.
Yksi huolestuttavimmista esimerkeistä koski chikungunyaa. Turvallisuusluokittelija merkitsi pyynnön, joka liittyi ominaisuuksia voimistavaan tutkimukseen. Tavoitteena oli lisätä viruksen tarttuvuutta ja kykyä välttää immuunivastetta. Chikungunyaan ei ole hyväksyttyä antiviraalista hoitoa, ja tauti voi jättää ihmiset heikentyneiksi viikoiksi tai kuukausiksi. Anthropicin huoli kasvoi, kun ehdotetun työn havaittiin vaikuttavan sotilasläheiseen laboratorioon liittyvältä.
Ominaisuuksia voimistavassa tutkimuksessa tarkastellaan geneettisiä muutoksia, jotka muuttavat eliön ominaisuuksia. Samoja kokeellisia vaiheita, joilla voidaan kehittää rokotteita tai hoitoja, voidaan hyödyntää myös patogeenien vaarallisuuden lisäämiseen. Juuri tämä kaksikäyttöisyys tekee automaattisesta tunnistamisesta äärimmäisen vaikeaa. Miten laillinen turvallisuustutkimus erotetaan vahingon aiheuttamisen tiekartasta? Vastaus on harvoin yksiselitteinen.
Toisessa tapauksessa tutkija käytti Claudea kootakseen atlasin myrkkyjen toksisista peptideistä ja pyysi tuotantoprosessia niiden ominaisuuksien optimoimiseksi. Raportissa mainitaan myös yrityksiä käyttää malleja digitaalisen vahingon aiheuttamiseen: valvontaskenaarioita, ohjelmistohaavoittuvuuksien hyödyntämistä, propagandaa sekä perinteisten järjestelmien aseistamiseen liittyviä keinoja.
Anthropic kertoo sulkeneensa asiaan liittyneet tilit ja hyödyntävänsä havaintoja turvallisuuskehyksensä kehittämisessä, jotta automaattiset suojaukset olisivat älykkäämpiä ja varovaisempia.
Anthropicin uhka-analytiikan johtaja Jacob Klein sanoi suoraan: 'Tämä ei ole sarjakuvamainen skenaario, jossa joku julistaa avoimesti haluavansa rakentaa biologisen aseen. Kyse on monimutkaisista, sekavista tapauksista, jotka vaativat harkintaa.' Anthropicin mukaan juuri tämä harkinta edellytti varovaisuutta.
Yhtiö kieltäytyi nimeämästä asiaan liittyneitä henkilöitä tai instituutioita vedoten biologisen tutkimuksen vivahteikkuuteen ja virheellisen kuvauksen riskiin. Tapaus herättää silti kiireellisiä kysymyksiä siitä, kenen vastuulla kaksikäyttötutkimuksen valvonta on, kun tehokkaat mallit ovat laajasti saatavilla. Kuka vetää rajan? Ja kuinka nopeasti turvallisuusjärjestelmät pystyvät pysymään mukana, kun tekniikat muuttuvat helpommin käytettäviksi?
Raportti ei tarjoa siistiä loppuratkaisua. Se on katsaus nopeasti kehittyvään ongelmaan: tekoälytyökaluihin, jotka nopeuttavat löytöjä ja voivat väärinkäytettyinä lyhentää matkaa ideasta vahinkoon. Nyt tehtävänä on terävöittää havaintokykyä, laajentaa valvontaa ja päättää, kuinka paljon varovaisuutta maailma on valmis hyväksymään ennen kuin nämä kyvyt päätyvät niitä mahdollisesti väärinkäyttävien tahojen käsiin.
"Olen digitaalisen markkinoinnin asiantuntija ja intohimoinen data-analytiikan seuraaja. Kirjoitan Diginissä siitä, miten teknologia vaikuttaa liiketoimintaan ja yhteiskuntaan."
Keskustelu
Jätä kommentti
Kommentit
Ei vielä kommentteja. Ole ensimmäinen.