Tekoäly voi ohjata vääriin verkkokauppoihin, suojaudu

Joku napsautti linkkiä, joka näytti viralliselta. Hinta oli liian hyvä ollakseen totta. Pakettia ei koskaan saapunut. Pankkitili tyhjennettiin. Tämä ei ole tekninen trilleri. Kyse on kuvioista, joita tietoturvatutkijat nyt havaitsevat, kun keskusteleva tekoäly kohtaa verkkopetokset.

Petostarkistuspalvelu Ask Silverin viimeaikaiset tutkimukset paljastivat, että ChatGPT voi tuoda esiin vakuuttavia mutta vääriä verkkokauppoja, kun käyttäjät kysyvät tuotteista tutuista brittiläisistä merkeistä kuten Russell & Bromley tai Dunelm. Houkuttelevia alennuksia. Uskottavia kauppasivuja. Linkkejä, jotka ohjaavat ostajia kloonatuille sivustoille, jotka on tehty varastamaan rahaa ja maksutietoja.

Kun koulutusdata muuttuu heikoksi lenkiksi

Hyökkääjät sijoittavat haitallisia sivuja ympäri verkkoa. Nämä sivut indeksoidaan, ja oikeaan aikaan ne päätyvät lähteiksi, jotka ruokkivat suuria kielimalleja. Lopputulosta asiantuntijat kutsuvat 'datamyrkytykseksi': malli oppii petollisilta sivuilta ja toistaa saman huonon neuvon tavallisille käyttäjille.

Anna Jones Ask Silveriltä sanoo, että rikolliset joskus hyödyntävät outoja hetkiä brändin elinkaaressa, kuten omistajan vaihdosta tai virallisen sivun ollessa poissa käytöstä, syöttääkseen tekoälylle vääriä viitteitä ja saadakseen sivunsa näyttämään laillisilta. Temppu on yksinkertainen. Luo uskottava sivu. Tee se näyttämään oikealta kaupalle. Sitten anna mallin poimia se ja suositella sitä.

Lewis Baxter, joka johtaa petosryhmää UK:n National Trading Standardsissa, varoittaa, että pelkkä verkkosivun esiintyminen tekoälyn vastauksessa ei ole aitouden takeena. Ihmiset kääntyvät chatbotien puoleen saadakseen nopeita ostovinkkejä. Huijarit ovat sopeutuneet yhtä nopeasti. Uskottavan linkin näkeminen chatbotin vastauksessa voi saada ostajan ohittamaan perusvarotoimet.

Raporteissa kuvatut väärennetyt kauppasivustot ovat usein hälyttävän viimeisteltyjä. Ne käyttävät aitoja merkkejä muistuttavia verkkotunnuksia, lisäämällä nimiin sanoja kuten onlineuk tai official, ja mainostavat jyrkkiä alennuksia, joskus jopa 80 prosenttia, saadakseen ostajat toimimaan ilman harkintaa. Monet näistä sivuista hyväksyvät vain pankkisiirrot, mikä on toinen varoitusmerkki.

Varmista myyjä aina suoraan: etsi kauppa nimeltä, tarkista virallinen sivusto, ja älä koskaan maksa pankkisiirrolla, ellei myyjä ole varmasti laillinen.

Mitä käyttäjät voivat tehdä juuri nyt? Hidasta. Lue URL huolellisesti. Tarkkaile ylimääräisiä sanoja, outoja päätteitä ja kirjoitusvirheitä. Suosi kortteja tai maksutapoja, jotka tarjoavat ostajansuojan. Jos sivusto vaatii pankkisiirtoa, pidä sitä vahvana merkkinä siitä, että kannattaa poistua. Aina kun mahdollista, kirjoita jälleenmyyjän nimi hakukoneeseen tai siirry sinne luotetun kirjanmerkin kautta sen sijaan, että klikkaisit chatbotin tarjoamaa linkkiä.

• Tarkista verkkotunnus huolellisesti ylimääräisten sanojen tai tuntemattomien päätteiden varalta.
• Etsi yhteystietoja ja todennettavissa olevaa sosiaalista näyttöä kuten arvosteluja.
• Vältä maksuvaihtoehtoja, jotka sallivat vain pankkisiirrot.
• Käytä luottokortteja tai maksupalveluita, jotka tarjoavat ostajansuojan.

OpenAI kertoo poistaneensa tunnistetut petossivustot mallin hakutuloksista ja tarjoavansa tavan raportoida ongelmallisia linkkejä. Hyvä. Tarpeellista. Mutta ei täydellinen ratkaisu. Mallit oppivat suurista osista verkkoa, ja hyökkääjien tarvitsee luoda vain muutama vakuuttava sivu aiheuttaakseen vahinkoa.

Lopulta vastuu on jaettu. Teknologia-tiimien on vahvistettava malliputkia ja havaittava datamyrkytys. Alustojen on parannettava linkkien tarkistusta. Ja ostajien on kohdeltava tekoälyn ehdotuksia lähtökohtina, ei suosituksina. Pidä uteliaisuus elossa. Pidä varovaisuus lähempänä.