Apple uhkasi osittain poistaa Grok-sovelluksen App Storesta

Applen kerrotaan olleen lähellä poistaa Grok App Storesta sen jälkeen kun xAI:n chatbot liitettiin aaltoon ei-suostumuksellista deepfake-pornoa, mukaan lukien kuvia, joissa esiintyi alaikäisiä. Muutaman karmean tammikuun päivän ajan seuraukset levisivät nopeasti X:ssä, ja Cupertinosta tullut hiljaisuus oli vaikea ohittaa.

CNBC-raportin mukaan, jota 9to5Mac siteeraa, Apple varoitti xAI:ta, että Grok voitaisiin poistaa, ellei sovelluksen deepfake-alastonkuvien generoinnin ongelmia saataisi hallintaan. Yhtiö oli jo hylännyt ainakin yhden päivityksen, tehden selväksi, että X oli korjannut osan laajemmasta moderaatiokaaoksesta, kun taas Grok-sovellus itsessään ei vieläkään noudattanut App Storen sääntöjä.

Applen kirje, joka julkaistiin tällä viikolla, jätti vähän tulkinnanvaraa. Uusia lähetyksiä tarkasteltuaan yhtiö totesi, että X oli "merkittävästi korjannut" rikkomuksiaan, mutta Grok oli edelleen sääntöjen vastainen. Viesti oli suoraviivainen: korjatkaa ongelma tai riskeeraatte poiston.

Varoituksella oli merkitystä. X:ssä Elon Musk oli jo säätänyt moderaatiopolitiikkaa sen jälkeen kun alusta oli tulvinut laittomalla tekoälyn tuottamalla seksuaalisella sisällöllä. Siitä huolimatta Grok-sovellus oli hitaampi muuttumaan, ja käyttäjät huomasivat nopeasti, että osa samasta väärinkäytöstä saattoi yhä livahtaa läpi.

Kun esto muuttuu haasteeksi

Muskin oma haaste ei auttanut. Kun hän haastoi ihmisiä yrittämään deepfake-alastokuvien luomista todellisista ihmisistä Grokilla, monet tekivät juuri niin. Siitä lähtien turvallisuussuodattimia on kiristetty, mutta ei tarpeeksi, jotta väärinkäyttö katoaisi kokonaan. Kehotteet saattavat olla vaikeampia nyt. Kiertoteitä on yhä olemassa.

Applen säännöt käyttäjien luomalle sisällölle eivät ole aina selkeyden malliesimerkki, mutta moderaatio ei ole valinnainen. Grokin tapauksessa yhtiö näyttää päättäneen, että jonkinlainen moderaatio on parempi kuin ei lainkaan, ja se saattoi riittää pitämään sovelluksen saatavilla.

Siinä kohtaa tarinasta tulee epämukava. Applessa on pitkä historia sovellusten poistamisesta sääntörikkomusten takia, jotka ovat paljon vähemmän huolestuttavia kuin tämä. Deepfake-pornoa tuottavat sovellukset on aiemmin hiljaisesti poistettu kaupasta, mukaan lukien ainakin 28 sovellusta, jotka poistettiin sen jälkeen, kun erillinen raportti paljasti ongelman. Mutta kun kyseinen sovellus kuuluu Elon Muskille, prosessi vaikuttaa muuttuvan paljon monimutkaisemmaksi.

Raha. Politiikka. Vaikutusvalta. Byrokratia. Valitse mieleisesi. Muskin kohdalla kaikki ovat mukana.

On myös sitkeä myytti, että X toimisi eräänlaisena koskemattomana sananvapauden linnakkeena. Näin ei ole. Ja Apple tietää eron. Silti yhtiö näyttää tällä kertaa valinneen pehmeämmän linjan, sallien Grokin pysyä saatavilla sen jälkeen, kun se kutsui päivitystä merkittävästi parantuneeksi.

Mikä tarkalleen muuttui ei ole selvää. Apple ei täsmentänyt asiaa, eikä xAI ole tarjonnut paljoa yksityiskohtia. Mutta lopputulos kertoo tarpeeksi selvästi: sovellus selvisi, vaikka sitä yhdistettiin yhteen vuoden ikävimmistä tekoälyturvallisuuden epäonnistumisista.

Tapaukset kuten tämä ovat syy siihen, miksi sääntelijät ympäri maailmaa jatkavat Applen App Store -käytäntöjen tarkastelua. Jotkut hallitukset ovat jo ajaneet mallia, jossa App Review toimii enemmän ulkoisena valvontaelimenä kuin portinvartijana, joka vastaa vain Applelle. Grok-jakson jälkeen ajatus kuulostaa vain houkuttelevammalta kriitikoille, joiden mielestä nykyinen järjestelmä taipuu liian helposti kun panokset kasvavat.