Margföldun á tölum er grundvallarverkefni fyrir tölvur Dmytro Vikarchuk/Shutterstock
Gervigreind búin til af fyrirtækinu DeepMind hefur uppgötvað nýja leið til að margfalda tölur, fyrsta slíka framfarir í yfir 50 ár. Uppgötvunin gæti aukið nokkurn útreikningshraða um allt að 20 prósent, þar sem úrval hugbúnaðar byggir á því að framkvæma verkefnið í miklum mæli.
Fylkismargföldun – þar sem tvö tölunet eru margfölduð saman – er grundvallarverkefni sem notað er í nánast öllum hugbúnaði að einhverju marki, en sérstaklega í grafík, gervigreind og vísindahermi. Jafnvel lítil framför í skilvirkni þessara reiknirit gætu leitt til mikillar frammistöðuhagnaðar eða verulega orkusparnað.
Um aldir var talið að skilvirkasta leiðin til að margfalda fylki væri í réttu hlutfalli við fjölda frumefna sem margfaldað er, sem þýðir að verkefnið verður hlutfallslega erfiðara fyrir stærri og stærri fylki.
En stærðfræðingurinn Volker Strassen sannaði árið 1969 að margföldun fylki tveggja raðir af tveimur tölum með annarri af sömu stærð þarf ekki endilega að fela í sér átta margföldun og að með snjöllu bragði er hægt að minnka það í sjö. Þessi aðferð, sem kallast Strassen reiknirit , krefst einhverrar viðbótarsamlagningar, en þetta er ásættanlegt vegna þess að samlagning í tölvu tekur mun styttri tíma en margföldun.
Reikniritið hefur staðið sem skilvirkasta aðferðin við flestar fylkisstærðir í meira en 50 ár, þó nokkrar smávægilegar endurbætur sem ekki er auðvelt að laga að tölvukóða hafa fundist. En gervigreind DeepMind hefur nú uppgötvað hraðari tækni sem virkar fullkomlega á núverandi vélbúnaði. Nýja gervigreind fyrirtækisins, AlphaTensor, byrjaði með enga þekkingu á neinum lausnum og var kynnt fyrir því vandamáli að búa til virka reiknirit sem kláraði verkefnið með lágmarksfjölda skrefa.
Það fann reiknirit til að margfalda tvö fylki af fjórum raðir af fjórum tölum með því að nota aðeins 47 margföldun, sem er betri en 49 margföldun Strassen. Það þróaði einnig bætta tækni til að margfalda fylki af öðrum stærðum, 70 alls.
AlphaTensor uppgötvaði þúsundir virkra reiknirita fyrir hverja stærð fylkisins, þar á meðal 14.000 fyrir 4×4 fylki eingöngu. En aðeins lítill minnihluti var betri en tæknin. Rannsóknin byggir á AlphaZero, leikjamódel DeepMind, og hefur verið tvö ár í mótun.
Hussein Fawzi hjá DeepMind segir að niðurstöðurnar séu stærðfræðilega traustar, en langt frá því að vera leiðandi fyrir menn. „Við vitum í rauninni ekki hvers vegna kerfið kom upp með þetta, í meginatriðum,“ segir hann. „Af hverju er það besta leiðin til að margfalda fylki? Það er óljóst.”
„Einhvern veginn fá tauganetin innsæi um hvað lítur vel út og hvað lítur illa út. Ég get satt að segja ekki sagt þér nákvæmlega hvernig það virkar. Ég held að það sé einhver fræðileg vinna sem þarf að vinna þarna um hvernig nákvæmlega djúpnám tekst að gera svona hluti,“ segir Fawzi.
DeepMind komst að því að reikniritin gætu aukið útreikningshraða um á milli 10 og 20 prósent á ákveðnum vélbúnaði eins og Nvidia V100 grafíkvinnslueiningu (GPU) og Google tensor vinnslueiningu (TPU) v2, en það er engin trygging fyrir því að þessi hagnaður myndi einnig sést á algengum tækjum eins og snjallsíma eða fartölvu.
James Knight við háskólann í Sussex í Bretlandi segir að margs konar hugbúnaður sem keyrður er á ofurtölvum og öflugum vélbúnaði, eins og gervigreindarrannsóknir og veðuruppgerð, sé í raun stórfelld fylkisföldun. „Ef þessi tegund af nálgun væri í raun innleidd þar, þá gæti það verið eins konar alhliða hraðaupphlaup,“ segir hann. „Ef Nvidia innleiddi þetta í CUDA bókasafni sínu [tól sem gerir GPU-tækjum kleift að vinna saman], myndi það slá eitthvað prósent af mestu djúpnámi vinnuálagi, myndi ég segja.
Oded Lachish hjá Birkbeck, háskólanum í London, segir að nýju reikniritin gætu aukið skilvirkni margs konar hugbúnaðar, vegna þess að fylkismargföldun er svo algengt vandamál – og líklegt er að fleiri reiknirit muni fylgja í kjölfarið.
„Ég tel að við munum sjá gervigreindar niðurstöður fyrir önnur vandamál af svipuðum toga, þó sjaldan eitthvað eins miðlægt og fylkisföldun. Það er veruleg hvatning fyrir slíkri tækni, þar sem færri aðgerðir í reiknirit þýðir ekki bara hraðari niðurstöður, það þýðir líka minni orkunotkun,“ segir hann. Ef hægt er að klára verkefni örlítið skilvirkari, þá er hægt að keyra það á minna öflugum, minni orkufrekum vélbúnaði, eða á sama vélbúnaði á skemmri tíma, með minni orku.
En framfarir DeepMind þurfa ekki að þýða að mannakóðarar séu atvinnulausir. „Eiga forritarar að hafa áhyggjur? Kannski í fjarska. Sjálfvirk hagræðing hefur verið unnin í áratugi í smáflögahönnunariðnaðinum og þetta er bara enn eitt mikilvægt tækið í vopnabúr kóðara,“ segir Lachish.
Tímarittilvísun : Nature , DOI: 10.1038/s41586-022-05172-4
