Iskorištavanje buke u optičkom računarstvu za AI
Umjetna inteligencija (AI) i strojno učenje trenutno utječu na naše živote na mnoge male, ali upečatljive načine. Na primjer, AI i aplikacije za strojno učenje preporučuju zabavu u kojoj bismo mogli uživati putem streaming usluga kao što su Netflix i Spotify.
U bliskoj budućnosti predviđa se da će ove tehnologije imati još veći utjecaj na društvo kroz aktivnosti poput vožnje potpuno autonomnih vozila, omogućavanja složenih znanstvenih istraživanja i olakšavanja medicinskih otkrića.
Ali računala koja se koriste za AI i strojno učenje zahtijevaju puno energije. Trenutačno se potreba za računalnom snagom vezanom uz ove tehnologije udvostručuje otprilike svaka tri do četiri mjeseca. A podatkovni centri računalstva u oblaku koje koriste AI i aplikacije za strojno učenje diljem svijeta već troše više električne energije godišnje nego neke male zemlje. Lako je vidjeti da je ova razina potrošnje energije neodrživa.
Istraživački tim predvođen Sveučilištem Washington razvio je novi optički računalni hardver za AI i strojno učenje koji je brži i energetski učinkovitiji od konvencionalne elektronike. Istraživanje se također bavi još jednim izazovom - 'bukom' svojstvenom optičkom računalstvu koja može ometati preciznost računanja.
U novom članku tim demonstrira optički računalni sustav za umjetnu inteligenciju i strojno učenje koji ne samo da ublažava ovu buku, već i zapravo koristi neke od njih kao ulazne podatke kako bi poboljšao kreativni učinak umjetne neuronske mreže unutar sustava.
"Napravili smo optičko računalo koje je brže od konvencionalnog digitalnog računala", rekao je glavni autor Changming Wu, student doktorskog studija elektrotehnike i računalnog inženjerstva UW. "A također, ovo optičko računalo može stvarati nove stvari na temelju slučajnih ulaza generiranih iz optičkog šuma koji je većina istraživača pokušala izbjeći."
Buka optičkog računala u biti dolazi od zalutalih svjetlosnih čestica ili fotona koji potječu od rada lasera unutar uređaja i pozadinskog toplinskog zračenja. Kako bi ciljali na buku, znanstvenici su svoju optičku računsku jezgru povezali s posebnom vrstom mreže za strojno učenje, nazvanom Generative Adversarial Network. Tim je testirao nekoliko tehnika ublažavanja buke, uključujući korištenje dijela buke koju stvara optička računalna jezgra da služi kao nasumični ulaz za GAN.
Na primjer, tim je GAN-u dodijelio zadatak da nauči kako rukom pisati broj "7" kao što bi to učinila osoba. Optičko računalo nije moglo jednostavno ispisati broj prema propisanom fontu. Moralo je naučiti zadatak poput djeteta, gledajući vizualne uzorke rukopisa i vježbajući dok ne bude moglo ispravno napisati broj. Naravno, optičko računalo nije imalo ljudsku ruku za pisanje, pa je njegov oblik "rukopisa" bio generiranje digitalnih slika koje su imale stil sličan uzorcima koje je proučavalo, ali im nisu bili identični.
"Umjesto da treniramo mrežu da čita rukom ispisane brojeve, mi smo uvježbavali mrežu da nauči pisati brojeve, oponašajući vizualne uzorke rukopisa na kojima je bila obučena", rekao je stariji autor Mo Li, profesor elektrotehnike i računalnog inženjerstva na UW-u. "Mi smo, uz pomoć naših suradnika iz računalne znanosti na Sveučilištu Duke, također pokazali da GAN može ublažiti negativan utjecaj hardverskih buka optičkog računala korištenjem algoritma obuke koji je otporan na pogreške i šumove. Mreža zapravo koristi šumove kao nasumični ulaz koji je potreban za generiranje izlaznih instanci."
Nakon što je naučio iz rukom pisanih uzoraka broja sedam, koji su bili iz standardnog skupa slika za AI-trening, GAN je vježbao pisanje "7" sve dok to nije mogao uspješno učiniti. Usput je razvio svoj vlastiti stil pisanja i mogao je pisati brojeve od jedan do 10 u računalnim simulacijama.
Sljedeći koraci uključuju izgradnju ovog uređaja u većoj mjeri koristeći trenutnu tehnologiju proizvodnje poluvodiča. Dakle, umjesto konstruiranja sljedeće verzije uređaja u laboratoriju, tim planira upotrijebiti industrijsku ljevaonicu poluvodiča kako bi postigao tehnologiju veličine vafla. Uređaj većeg opsega dodatno će poboljšati performanse i omogućiti istraživačkom timu obavljanje složenijih zadataka izvan generiranja rukopisa, kao što je stvaranje umjetničkih djela, pa čak i videa.
"Ovaj optički sustav predstavlja arhitekturu računalnog hardvera koja može poboljšati kreativnost umjetnih neuronskih mreža koje se koriste u AI-u i strojnom učenju, ali što je još važnije, pokazuje održivost ovog sustava u velikim razmjerima gdje se buka i pogreške mogu ublažiti, pa čak i iskoristiti", rekao je Li. "Aplikacije AI rastu tako brzo da će u budućnosti njihova potrošnja energije biti neodrživa. Ova tehnologija ima potencijal pomoći u smanjenju te potrošnje energije, čineći AI i strojno učenje ekološki održivim — i vrlo brzim, postižući sveukupno veće performanse."
Izvor: Science Advances