Geðheilbrigðisforrit bjóða upp á stuðning í gegnum pallana sína Emanuel M. Schwermer
Frá því að þessi grein var fyrst birt hefur Rob Morris, stofnandi Koko, skýrt nokkrar upplýsingar um tilraunina. Við höfum uppfært greinina til að endurspegla þetta.
Geðheilbrigðisþjónusta sem gerir fólki kleift að fá uppörvandi stuðningsorð og ráðleggingar frá öðrum hefur hlotið gagnrýni eftir að hafa tilkynnt að hún prófaði gervigreind viðbrögð.
Rob Morris, stofnandi ókeypis geðheilbrigðisþjónustunnar Koko, lýsti því í röð af Twitter færslum hvernig fyrirtækið prófaði að nota spjallbot til að aðstoða við að veita um 4000 manns geðheilbrigðisstuðning. Spjallbotnarnir voru knúnir af GPT-3, gervigreind sem er aðgengileg almenningi smíðað af fyrirtækinu OpenAI í San Francisco.
Prófið gerði notendum Koko jafningjastuðningsnets á netinu kleift að fá aðstoð spjallbotna við að semja „vinsamleg orð“ sem svör við færslum annarra.
Morris lýsti Koko notendum sem meta gervigreindarskilaboð “talsvert hærra en þau sem menn skrifuðu á eigin spýtur”, en sagði einnig að “þegar fólk lærði að skilaboðin voru samsköpuð af vél, þá virkaði það ekki. Eftirlíking af samkennd er undarleg, tóm.
Einn þáttur tilraunarinnar sem hefur vakið gagnrýni var ferlið þar sem viðtakendur komust að því að skilaboð hefðu verið samin með hjálp spjallbotnsins. Upphaflega virtist sem það væri tímabil þar sem fólk var algjörlega ómeðvitað, þó Morris hafi síðan sagt að svo væri ekki og að þessi skilaboð innihéldu athugasemd sem sagði „skrifuð í samvinnu við Koko Bot“.
Tilraunin „vekur verulegar siðferðislegar og siðferðilegar áhyggjur,“ segir Sarah Myers West hjá AI Now Institute, rannsóknarmiðstöð í New York borg.
Margir rannsakendur, tækniframleiðendur og blaðamenn svöruðu á Twitter með því að lýsa sýnikennslunni sem siðlausri og vitnuðu í atriði í tengslum við upplýst samþykki og að ekki hafi tekist að keyra tilraunina fyrst af endurskoðunarnefnd stofnana (IRB) – hóps sem hefur það hlutverk að vernda velferð rannsóknaraðila. . Morris segir að tilraunin hafi verið undanþegin upplýstu samþykki.
Á vefsíðu sinni segir Koko að yfir 2 milljónir manna – flestir unglingar – hafi notað geðheilbrigðisþjónustu þess.
Mörg dæmi eru um að fólk hafi vísvitandi ráðfært sig við spjallbotna til að fá ráðgjöf og stuðning á netinu, þar á meðal fyrsta dæmið um ELIZA tölvunarfræðingsins Joseph Weizenbaum sem var þróuð árið 1964. En þessi tiltekna tilraun „verðskuldar alla þá nákvæmu skoðun sem hún er núna að fá“. segir Vestur.
