Metan johdon valta ja nuorten turvallisuus oikeudessa

Oaklandin oikeussalissa entinen Meta-insinööri maalasi karun kuvan siitä, miten päätöksiä tehdään sosiaalisen median jättiläisessä: ei laboratorioissa tai komiteoissa, vaan ylimmässä johdossa. Arturo Bejar kertoi valamiehistölle, että Mark Zuckerbergin prioriteetit muovasivat tuotevalintoja sekä Facebookissa että Instagramissa, ja nuorten käyttäjien turvallisuus jäi usein jälkeen sitoutumisen ja kasvun vuoksi.

Valta, tuotesuunnittelu ja seurauksia tuottava kulttuuri

Bejar, joka työskenteli Metalla vuosina 2009–2015 ja palasi urakoitsijana vuosina 2019–2021 tutkiakseen teini-ikäisten hyvinvointia Instagramissa, oli osavaltioiden päätodistaja korkean panoksen oikeudenkäynnissä, joka voisi pakottaa merkittäviä muutoksia alustoille. Osavaltion syyttäjien mukaan Meta rakensi sovelluksensa koukuttamaan nuorempia käyttäjiä, mikä myötävaikutti ahdistuksen, masennuksen ja jopa itsemurhien nousuun, samalla kun yhtiö peitteli tietojaan näistä haitoista.

Hän kuvaili ylhäältä alas tapahtuvaa johtamiskulttuuria, jossa yhden johtajan painotus saattoi väreillä läpi insinööritiimien: kun Zuckerberg keskittyi tiettyyn mittariin, tuotekehitys kiihtyi ja suunnittelumuutokset seurasivat nopeasti. „Jos Mark priorisoi jotain,” Bejar todisti, „vuoria voitiin siirtää kuukausissa.” Yksinkertainen lause. Suuri merkitys.

Tuon todistuksen myötä haastettiin suoraan Zuckerbergin julkisia vakuutuksia siitä, että yhtiö jatkuvasti hyödyntää tutkimusta tehdäkseen tuotteista turvallisempia. Bejar sanoi toistuvasti ilmaisseensa huolensa lasten turvallisuudesta sähköposteissa ylimmälle johdolle, ja hän kertoi valamiehistölle suorasanaisesti, että Zuckerbergiin luottaminen lasten asioissa oli väärin sijoitettua.

Oikeudenkäynti alkoi tällä viikolla ja sen odotetaan kestävän noin kuusi viikkoa. Valamiehistö antaa neuvoa-antavan näkemyksen, mutta lopullisen päätöksen Metan vastuusta sekä mahdollisista siviilirangaistuksista ja pakollisista tuotemuutoksista tekee tuomari Evan Gonzalez Rogers.

Kaikki todistusaineisto ei ollut abstraktia. Bejar kertoi auttaneensa teini-ikäistä tytärtään perustamaan Instagram-tilin. Hän oli tuolloin 16-vuotias. Ristikuulustelussa Bejar myönsi, ettei hän ennustanut kaikkia haittoja, joita tytär saattoi kohdata. Hän liittyi luodakseen tilan naisille keskustella autoista ja ajamisesta, mutta kohtasi misogynistisia kommentteja ja myrkyllisiä vuorovaikutuksia. „Hän sai seuraajia,” Bejar sanoi, „mutta hinnaksi tuli vahinkoa.” Tuo lause kolahti oikeussalissa.

Hän myönsi myös, että Meta työllistää satoja ihmisiä turvallisuustehtävissä ja että osa heistä on erittäin päteviä. Silti Bejar kertoi, että hänen toinen jaksonsa ulkopuolisena urakoitsijana rajoitti hänen pääsyään sisäisiin resursseihin ja Zuckerbergiin itseensä, mikä teki suunnittelumuutosten ajamisesta ulkopuolelta vaikeampaa.

Yksi kiistanaihe oli Metan niin kutsutut taukovälineet, joita yhtiö mainostaa todisteena siitä, että se auttaa käyttäjiä hallitsemaan aikaansa. Bejar väitti, että ominaisuudet oli asetettu epäonnistumaan. Ne eivät ole oletuksena päällä, ja niiden ilmoitukset on helppo sivuuttaa. Hänen näkökulmastaan työkalut toimivat enemmän markkinointikorjausten kuin systeemisten ratkaisujen tavoin.

Hän todisti myös, että Metalla oli teknologia tunnistaa miljoonia todennäköisiä alle 13-vuotiaita käyttäjiä, mutta yhtiö valitsi 'älä kysy, älä puhu' -lähestymistavan, koska tiukempi ikärajojen valvonta voisi kaventaa pitkäaikaista sitoutumista ja tuloja. Lyhyesti: yhtiö vaihtoi mahdollisia turvallisuustoimia laajemman käyttäjäkannan taloudelliseen hyötyyn.

Tallennettu todistus Metan tutkija Elena Davisilta, joka esitettiin valamiehistölle Bejarin jälkeen, korosti sisäistä kiistaa. Davis luki tutkimusta, joka ehdotti Facebookin uudelleensuunnittelua riippuvuutta aiheuttavien mekanismien vähentämiseksi ja käyttäjien auttamiseksi katkaisemaan ei-toivottuja käyttötapoja. Tutkimus kuvasi hyvin erilaista tuotekehityksen tiekarttaa kuin sen, jonka kriitikot sanovat yhtiön lopulta noudattaneen.

Metaa vastaan on nostettu tuhansia vastaavia kanteita ympäri maata. Bejar on ollut todistajana neljässä erillisessä oikeudenkäynnissä yhtiötä vastaan, ja New Mexicon aiempi tapaus johti tuomioon, joka vaati muutoksia ja myönsi korvauksia noin 876 miljoonan euron suuruisina rangaistuksina ja kustannuksina.

Mitä on pelissä? Todellisia uudistuksia siihen, miten alustat rakennetaan. Tai vaihtoehtoisesti pienempiä korjauksia, jotka jättävät ydinsitoutumisen mekanismit ennalleen. Valamiehistön neuvoa-antava kanta ja tuomari Gonzalez Rogersin lopullinen päätös vaikuttavat paitsi Metaan myös siihen, miten sääntelijät ja tuomioistuimet suhtautuvat yritysvastuuseen huomioekonomiassa.

Jos johto asettaa sitoutumisen turvallisuuden edelle, tuotesuunnittelu seuraa perässä tarkoituksella tai ei.