Fólk getur notað OpenAI ChatGPT til að búa til næstum hvaða texta sem það vill rafapress/Shutterstock
Vefverkfæri sem kallast GPTZero getur greint hvort ritgerð hafi verið búin til af gervigreindarspjallbotnum ChatGPT með mikilli nákvæmni. Þetta gæti hjálpað til við að bera kennsl á svindl í skólum og rangar upplýsingar, en aðeins ef OpenAI, fyrirtækið á bak við vinsæla spjallbotninn, heldur áfram að veita aðgang að undirliggjandi gervigreindarlíkönum.
Að sögn er OpenAI að vinna að að setja vatnsmerki í texta sem líkön þess búa til. En á þeim tíma síðan ChatGPT varð aðgengilegt almenningi í desember 2022, hafa milljónir manna reynt það og það hafa verið fregnir af því að nemendur notuðu tólið í skólum og háskólum við heimavinnuna sína.
Edward Tian við Princeton háskólann hefur þróað tól sem kallast GPTZero sem notar eigin arkitektúr ChatGPT til að gefa til kynna líkurnar á því að hluti af texta komi frá ChatGPT. „Aðferðirnar hér nota í grundvallaratriðum líkanið sjálft til að meta hvort [framleiðsla gervigreindar] sé ritstuldur,“ segir Tian.
Þegar einhver slær texta inn í GPTZero keyrir hann hann í gegnum eldri útgáfu af líkaninu á bakvið ChatGPT, metur síðan hversu líklegt er að textinn hafi verið framleiddur af gervigreindinni og hversu miklar líkur eru á því eftir lengd handritsins. Texti sem myndaður er af mönnum getur skipt á milli þess að virðast vera myndaður af gervigreind og ekki, en gervigreindartextar eru stöðugri, segir Tian.
GPTZero, sem var prófað á gagnasetti AI-skrifaðra greina byggt á fréttafyrirsögnum BBC, fékk svarið rétt um 98 prósent tilvika, með falskt jákvætt hlutfall sem var minna en 1 prósent.
Stundum geta verkfæri eins og GPTZero aðeins virkað svo lengi áður en fullkomnari gerðir læra hvernig á að sniðganga greiningartækni þeirra, en Tian telur að kerfið sé öflugt vegna þess að það notar eigin gervigreindarkerfi. „Svo lengi sem OpenAI gefur út líkön sín opinberlega, eða svo lengi sem þróunaraðilar tungumálalíkans eru gagnsæir með aðferðafræði sína og líkan, er uppgötvun alltaf skrefi á undan,“ segir Tian.
OpenAI svaraði ekki beiðni um athugasemd.
Verkfæri sem þessi eru ekki ný, segir Yulan He við King’s College í London. Svipað tól frá vísindamönnum við MIT, IBM og Harvard var gefið út árið 2019 til að greina einstök orð sem virðast gefa til kynna að textinn hafi verið tilbúinn, en velgengni ChatGPT hefur gert þau viðeigandi.
GPTZero treystir á að hafa aðgang að gervigreindarlíkani (GPT-2) sem er svipað því sem er á bak við spjallbotninn til að virka nákvæmlega, segir hún. En ef líkanið á bak við ChatGPT er uppfært til að verða öðruvísi, getur það leitt til ónákvæmra niðurstaðna, bætir hún við.
