OpenAI lisää Luotettu yhteyshenkilö -turvan ChatGPT:hen

Jotkut käsittelevät ChatGPT:tä kuin hakukenttää. Toiset keskustelevat sen kanssa samalla tavalla kuin lähetettäisiin viesti ystävälle klo 2 yöllä, kun uni ei tule. Toinen käyttötapa on vienyt tekoälyn alueelle, joka on paljon raskaampaa kuin tuotenäytökset ja koodausapu, ja OpenAI vastaa nyt ominaisuudella, joka on suunnattu tilanteisiin, joissa keskustelu vaikuttaa muuttuvan vaaralliseksi.

Uusi työkalu, nimeltään Luotettu yhteyshenkilö, alkaa tulla saataville ChatGPT-asetuksiin aikuisille käyttäjille. Tarkoitus on paperilla yksinkertainen: antaa käyttäjän valita yksi henkilö, jota voidaan ilmoittaa, jos järjestelmä havaitsee vakavan itsetuhoisuuden riskin. Käytännössä OpenAI yrittää rakentaa turvaverkkoa ilman, että yksityisistä keskusteluista tulee automaattisia hälytyksiä.

Sen käyttöönotto on vapaaehtoista. Käyttäjä voi nimetä yhden luotetun henkilön, mutta tämän henkilön on täytettävä ikävaatimus: vähintään 18 vuotta useimmilla alueilla tai 19 vuotta Etelä-Koreassa. Kun henkilö on valittu, hän saa kutsun, jossa rooli selitetään, ja hänellä on seitsemän päivää aikaa hyväksyä. Jos hän kieltäytyy, käyttäjä voi valita toisen henkilön.

Mitä tapahtuu seuraavaksi, siinä OpenAI selvästi pyrkii välttämään liiallista puuttumista. Hälytyksiä ei lähetetä automaattisesti heti, kun järjestelmä havaitsee huolestuttavaa kieltä. Ensin ChatGPT ilmoittaa käyttäjälle, että hänen Luotettu yhteyshenkilönsä saatetaan ilmoittaa. Se kannustaa myös käyttäjää ottamaan yhteyttä suoraan ja tarjoaa ehdotuksia keskustelun aloittamiseen. Tämän jälkeen pieni joukko erityiskoulutettuja ihmistarkastajia tutkii tapauksen. Vasta jos he vahvistavat, että tilanne viittaa vakavaan itsetuhoisuuden riskiin, OpenAI lähettää ilmoituksen.

Ilmoitus voi saapua sähköpostitse, tekstiviestinä tai sovelluksen kautta. Siihen ei sisälly chat-lokeja, lainauksia tai yhteenvetoa keskustelusta. Sen sijaan se yksinkertaisesti kertoo luotetulle henkilölle, että itsetuho mainittiin huolestuttavassa yhteydessä, ja pyytää häntä ottamaan yhteyttä. OpenAI sanoo pyrkivänsä suorittamaan ihmistarkastuksen alle tunnissa.

Missä tämä sopii OpenAI:n laajempaan turvallisuustyöhön

Tämä ei tule esiin erillisenä ilmiönä. OpenAI on jo ottanut käyttöön turvallisuusominaisuuksia teinitileihin liittyen, mukaan lukien ilmoitukset vanhemmille, kun linkitetyissä tileissä näkyy ahdistuksen merkkejä. Luotettu yhteyshenkilö laajentaa tätä ajatusta aikuisille, mikä kertoo paljon siitä, miten yritys nyt näkee ChatGPT:n käytön. Chatbot ei ole enää vain tuottavuusavustaja. Monille käyttäjille siitä on tullut paikka syvästi henkilökohtaisille, tunnepitoisille keskusteluille.

OpenAI:n mukaan ominaisuutta on kehitetty kliinikkojen, tutkijoiden ja mielenterveysjärjestöjen, mukaan lukien American Psychological Association, kanssa. Ulkopuolinen osallistuminen on merkityksellistä. Mikä tahansa työkalu, joka koskettaa itsetuhoisuuden riskiä, yksityisyyttä ja krirespondontia, sijoittuu herkkään tilaan, jossa suunnittelupäätöksillä on todellisia seurauksia.

Rajoituksia on myös selkeästi olemassa. Luotettu yhteyshenkilö ei korvaa kriisipuhelinta, hätäkeskusta tai ammatillista mielenterveystukea. OpenAI sanoo, että ChatGPT ohjaa käyttäjiä edelleen näihin resursseihin tarvittaessa. Käyttäjä voi poistaa tai vaihtaa valittua yhteyshenkilöä milloin tahansa, ja yhteyshenkilö voi kieltäytyä osallistumisesta aina halutessaan.

Tässä käyttöönotossa on myös hiljaisempi viesti. OpenAI myöntää jotain, mitä teknologia-ala on kiertänyt: ihmiset tuovat jo haavoittuvimmat hetkensä tekoälychatbotien eteen. Sillä, tarkoittivatko yritykset sitä tai eivät, ei ole enää suurta merkitystä. Käyttäytyminen on muuttunut. Ominaisuudet kuten Luotettu yhteyshenkilö yrittävät vastata tähän todellisuuteen hieman enemmän varovaisuudella, inhimillisyyttä korostaen ja tunnustaen, että edes kehittyneimmän chatbotin ei pitäisi olla ainoa ääni huonojen hetkien keskellä.