Ráðgjafi páfans um gervigreind til að tryggja að reiknirit virðir mannlega reisn

PAOLO BENANTI vaknar snemma í klaustrinu í Róm þar sem hann býr til að byrja hvern dag í bæn. Svo langt, svo hefðbundið – fyrir munkur. En fyrir utan klaustrið er líf Benanti minna dæmigert. Hann lærði sem verkfræðingur og siðfræðing og eyðir nú tíma sínum við Páfagarðs Gregorian háskólann í nágrenninu, þar sem hann kennir siðfræði gervigreind. Hann gengur líka oft til að heimsækja sjálfan Frans páfa, sem hann hefur orðið traustur ráðgjafi um gervigreind.

Þetta er orðið mikilvægt umræðuefni fyrir páfann vegna þess að hann óttast að það gæti haft skaðleg áhrif á viðkvæmustu þjóðfélagsþegnana og aukið ójöfnuð í heiminum sem þegar er. Til að berjast gegn þessu hjálpaði Benanti við að leggja drög að Rómarkallinu , skuldbindingu, undirrituð í mars 2020 af alþjóðlegum tæknifyrirtækjum IBM og Microsoft, um að mannleg reisn verði alltaf í fyrirrúmi þar sem gervigreind er tekin upp um allan heim. Með stækkaðri útgáfu af sáttmálanum sem nú er í vinnslu, ræddi Visiris við Benanti um hlutverk trúarbragða í stjórn tækninnar, hvort gervigreindarheimild sé í spilunum og hvort reiknirit gæti einhvern tíma komið í stað Guðs.

Charlotte Lytton: Af hverju varðstu munkur?

Paolo Benanti: Þegar ég kláraði menntaskólann fór ég í verkfræðinám í háskóla. En á síðasta ári, áður en ég fékk gráðu mína, ákvað ég að breyta lífi mínu og gekk til liðs við [Franciska] regluna. Ég er forvitinn um mannlegt eðli, hvað það þýðir að vera manneskja, og ég var að leita að því að skilja raunveruleikann. Ég áttaði mig á því að verkfræði var góð leið til að nálgast raunveruleikann, en ég var farin að leita að einhverju meira. Á þeim tímapunkti hitti ég fransiskanasamfélagið og fékk á tilfinninguna að hér væri mér ætlað að vera. Það bauð mér líf í bræðralagi, tækifæri til að deila og hitta fólk og hæfileikann til að læra og leita að merkingu hlutanna sem höfðu lengi heillað mig.

Hvernig er meðaldagur hjá þér núna?

Ég bý í mjög gömlu klaustri með fjórum öðrum munkum. Við vöknum á morgnana, venjulega snemma, og biðjum saman í 45 mínútur eða klukkutíma. Síðan, klukkan 7:30, hefst eðlilegt líf. Allir hafa sína vinnu – mitt er að kenna í háskóla og læra. Við höfum sameiginlegan hádegis- og kvöldverð og það eru fimm bænastundir yfir daginn.

Hvenær kviknaði áhugi þinn á gervigreind?

Árið 2009, eftir að ég gekk til liðs við pöntunina, hóf ég sjö ára doktorsnám í tækni og siðfræði – hugmyndin var að sameina þessa tvo heima. Þegar ég byrjaði fannst mér vænlegasta tækniþróunin á næsta áratug eða svo vera í taugatækni og nanótækni. En eftir því sem tíminn leið fékk ég þá djúpu tilfinningu að gervigreind yrði næsta stóra hluturinn.

Hvernig kom það til að þú varst að ráðleggja Frans páfa og hversu mikið veit hann um gervigreind?

Þetta byrjaði allt þegar ég talaði á málstofu fyrir Roman Curia starfsmenn, deildina sem hjálpar páfanum að sinna daglegu starfi sínu. Ég get ekki sagt of mikið meira um ferlið.

Getur páfinn skilið í hvert skipti sem við tölum um vélanám eða reiknirit? Örugglega ekki. En það sem hann skilur mjög vel er ástand manna um allan heim. Ef þú segir honum að örlög farandans eða hælisleitanda verði eingöngu dæmd af vél, þá skilur hann hvað það þýðir. Hann er miklu virkari á gildishlið umræðunnar, öfugt við tækni og flókna stærðfræði.

Hvað óttast þú um hvernig gervigreind muni móta framtíð okkar?

Kannski halda einhverjir að þetta verði eins og heimsendir í Terminator myndunum. En við ættum í raun að vera hrædd við aðra heimsenda atburðarás: endalok millistéttarinnar. Það er miklu, miklu auðveldara að láta gervigreind starfa sem staðgengil fyrir endurskoðanda en fyrir verkamann eins og pípulagningamann eða byggingarmann. Þetta þýðir að við gætum átt framtíð þar sem meirihluti fólks mun hafa láglaunastörf, en afgangurinn er tekinn af vélum. Sá ójöfnuður gæti verið mjög hættulegur. Bilið sem skapast á milli fátækra og ríkra gæti leitt til almennra átaka, róttækar samfélagsbreytingar og aðrar óþekktar afleiðingar.

Hefurðu áhyggjur af því að framtíðin rætist?

Jæja, ég sé að það er mikil andstaða almennings við þá hugmynd. Til dæmis, árið 2021, setti Mennta-, vísinda- og menningarstofnun Sameinuðu þjóðanna (UNESCO) fram tilmæli sín um siðferði gervigreindar , undirrituð af aðildarríkjum sínum. Þetta tryggir að settar verði reglur til að búa til mannmiðaða gervigreind, þannig að ný tækni nýtist almenningi. Að meiriháttar stofnanir séu að vinna að reglugerðum sem þessum gerir mig svolítið viss um að við getum tekist á við áskorunina.

Segðu okkur frá Rómarkallinu og hvernig það varð til.

Ég hef setið á mörgum pallborðum, ekki aðeins með stjórnvöldum eða fræðimönnum, heldur einnig þar sem tæknifélagar voru til staðar. Ég byrjaði að ræða við fullt af fólki í mismunandi fyrirtækjum. Ég man eftir því þegar ég sat í kaffihléi í lok málþings og sagði: „Væri það ekki dásamlegt ef við gætum á skilvirkari hátt áttað okkur á sameiginlegri löngun til að vernda menn með alþjóðlegri ákalli til aðgerða?

Ég byrjaði að opna rás með tengiliðunum mínum á því svæði. IBM og Microsoft tóku fyrst þátt. Við gerðum drög að lista yfir meginreglur sem reyndu að lýsa því hvernig hægt væri að þróa gervigreind á ábyrgan hátt – á þann hátt sem myndi virða menn. Meginreglurnar voru gagnsæi, þátttöku, ábyrgð, hlutleysi, áreiðanleiki, öryggi og friðhelgi einkalífs. Þessar hugmyndir tengjast nýju orði sem páfi hefur notað nokkrum sinnum: reiknirit.

Fyrir hundrað árum skrifaði John Fletcher Moulton, stærðfræðingur, dómari og stjórnmálamaður, um „hlýðni við hið óframfylgjanlega“. Þetta eru óskrifuðu siðferðisstaðlarnir sem við höldum okkur við, eins og þegar Titanic var að sökkva og fólk hvatti konur og börn til að fara fyrst á báta. Slík siðfræði er hvergi skráð niður og það er ekki auðvelt að breyta þessum reglum í reiknirit. Mér finnst gaman að hugsa um þetta óskrifaða siðferði sem eiginleika hógværðar og ég held að vélar verði að hafa þennan eiginleika. Þess vegna reynum við, með Rómarkallinu, að hvetja fyrirtæki til að móta reiknirit þannig að þau séu mild í samskiptum manna og véla.

Hvað finnst páfanum um Rómarkallið?

Að það hafi verið mjög stórt atriði. Hann er mjög á bak við Páfagarð [ríkisstjórn kaþólsku kirkjunnar] til að aðstoða stjórnvöld, fyrirtæki og aðrar alþjóðlegar stofnanir við að finna samkomulag um siðferðileg varnarlist fyrir gervigreind. Fyrir hann er það mikilvægt að það skaði ekki ungu kynslóðina eða aldraða – sérstaklega í kjölfar heimsfaraldursins, þar sem mikilvægi stafræns lífs okkar hefur sprungið.

Hvernig getum við sagt hvort það virki?

Ég verð að segja að eitthvað er að virka. Mundu að Rómarkallið er einmitt það: það er ákall til aðgerða. Það þýðir að allir sem segja að það sé mikilvægt bera ábyrgð á sjálfum sér til að gera það framkvæmanlegt. Þetta var menningarstund og þetta var augnablik þar sem fólk með sama skynsemi um hversu hættulegt gervigreind gæti verið ef það er ekki í samræmi við mannleg gildi kom saman. Háskólar sem skrifuðu undir Rómarkallið eru að byrja að kenna siðfræði gervigreindar í verkfræðinámi sínu. Blaðamannastofnanir eru farnar að móta sig til að gera Rómarkallið áhrifaríkt. Tæknifyrirtæki eru að þróa ferla sem gera reiknirit skilvirka í framleiðsluferlum sínum.

Við erum með risastóran viðburð í október með mörgum eldri undirrituðum og þar munum við segja hvernig reiknirit gæti verið innifalið í mörgum nýjum hugbúnaðarframleiðsluferlum. Hversu hratt og árangursríkt það verður fer eftir því hversu margir eiga í hlut.

Getum við virkilega ætlast til þess að fyrirtæki hugsi um siðferði fram yfir hagnað?

Við getum ekki beðið fyrirtæki um að hugsa ekki um viðskipti. En ég hef séð á síðustu fimm árum að – hægt, hægt – þeir eru farnir að hugsa um tilgang sinn. Sumir þeirra leyfa starfsmönnum að taka að sér verkefni í félagslegum tilgangi. Ég þekki nokkra sem leyfa að 10 til 15 prósent af vinnutíma starfsmanna sé notaður í svona hluti, eins og stafræn tæki til að þekkja neteinelti eða myndir af misnotuðum börnum í klámi. Fyrirtæki færast smám saman úr því að vera hluthafar yfir í hagsmunaaðila. Frá mínu sjónarhorni er það gott merki.

Það hefur verið talað um útgáfu af Rómarkallinu sem einnig er studd af öðrum trúarbrögðum. Hvenær mun það taka gildi?

Við ætluðum að skrifa undir símtalið í maí í Abu Dhabi, með múslimum og gyðingum sem undirrituðu. En forseti Sameinuðu arabísku furstadæmanna, Sheikh Khalifa bin Zayed Al Nahyan, lést í maí. Til að leyfa þjóðinni sorgartíma höfum við þurft að tefja. Samningurinn er tilbúinn, við þurfum nú að finna framkvæmanlega dagsetningu fyrir undirritunina. Það er ekki auðvelt, með þremur mismunandi trúarbrögðum þar sem allir hafa sitt eigið dagatal.

Ríkisstjórnir eiga í erfiðleikum með að setja reglur um tækni. Eiga trúarstofnanir betri möguleika?

Meirihluti fólks í heiminum tilheyrir eingyðistrúarbrögðum, þannig að trúarsjónarmiðið er öflugt. Hlutverk trúfélaga er að aðstoða stjórnvöld. Trúarbrögð safna mannlegri visku og tímalausum gildum, sem, ef þeim er deilt í trúarlegu umhverfi, geta auðveldað samræður og félagslega vitund. Þetta er það sem Rómarkallið er að reyna að gera, til að fanga almenning um að tæknin eigi að nota siðferðilega.

Hvernig gæti gervigreind verið notuð til góðs?

Sumir doktorsnema minna eru að skoða þetta núna, rannsaka hvernig heilsugæslu gæti breyst með stafrænu byltingunni og hjálpað til við að lækna sjúkdóma. Stafræn verkfæri eins og gervigreind og skýið gætu verið notuð í þágu mannkyns á heimsvísu. Okkur tókst að fá bólusetningar snemma og á áhrifaríkan hátt þökk sé samantekt gagna sem deilt var í skýinu. Mikla von mín er sú að mannkynið geti fundið nýjar leiðir til að vernda aðra menn og nota gervigreind til hnattræns góðs.

Google verkfræðingur lýsti nýlega spjallbotni fyrirtækisins, sem hann hafði verið að prófa, sem skynsömum. Hvað fannst þér um það?

LaMDA 2.0 var vara hönnuð til að giska á hvað notandinn vildi heyra. Þetta öfluga reiknirit gat séð að maðurinn sem sat fyrir framan það vildi finna einhvern bak við skjáinn. Og svo það sem hann sá var loftskeyta í eyðimörkinni – öflugu verkfærin sem við höfum þróað gabbaðu einn af tæknimönnum okkar með gæðum svaranna. Fræðimenn eru alveg vissir um að það er engin skynjandi gervigreind.

Getur algrím nokkurn tíma komið í stað Guðs?

Það er blekking. Ef Guð er uppspretta lífsins, sá sem getur gefið okkur tilgang lífsins, þá er það eitthvað sem er handan okkar. Ef við byrjum að lofa eitthvað fyrir neðan okkur eða gert af okkur óþarflega mikið, þá hefur það, samkvæmt biblíuhefð, mjög skýrt nafn: skurðgoð.

Heimsæktu Future Stage á Visiris Live til að læra meira um nýjungarnar sem móta heim morgundagsins newscientistlive.com