Kunstig intelligens kræver stadig større datacentre og stadig mere strøm. Nu har forskere udviklet et kunstigt optisk neuron, der samler flere af hjernens vigtigste funktioner i én komponent. På sigt kan teknologien bane vej for mere energieffektiv AI og intelligente sensorer.
Træningen af de største AI-modeller kræver i dag enorme datacentre fyldt med processorer, der sluger strøm døgnet rundt. Nogle analyser forudser, at kunstig intelligens i de kommende år kan komme til at stå for en betydelig del af verdens voksende elforbrug.
Samtidig løser den menneskelige hjerne opgaver, som stadig udfordrer selv de mest avancerede AI-systemer, med et energiforbrug på blot omkring 20 watt – omtrent det samme som en LED-pære.
"De transistorer, vi bruger i dag, er faktisk ufatteligt energieffektive. Problemet er, at information hele tiden skal flyttes frem og tilbage mellem processorer og hukommelse. Det er transporten af information, der koster energi. Hjernen fungerer anderledes. Her foregår beregning, hukommelse og kommunikation i de samme netværk af forbindelser," siger professor Anders Mikkelsen, der har ledet det nye studie sammen med kolleger fra Lunds Universitet og Københavns Universitet.
Derfor leder forskere verden over efter nye måder at bygge kunstig intelligens på. For hvis AI-modellerne fortsætter med at vokse i samme tempo som i dag, kan energiforbruget blive en af de største begrænsninger for, hvor langt teknologien kan udvikle sig.
I et nyt studie har forskere fra Lunds Universitet og Københavns Universitet udviklet et kunstigt neuron, der samler flere af de funktioner, forskere længe har efterlyst i fotoniske neuroner.
Tidligere har mange fotoniske neuroner kun kunnet demonstrere enkelte biologiske funktioner ad gangen. Det nye neuron samler flere af dem i én komponent. Hvis teknologien kan skaleres til større netværk, kan den på sigt bidrage til en ny generation af energieffektiv AI-hardware. Men forskerne ser også en anden mulighed.
"Man kan næsten betragte den som en intelligent pixel, der både registrerer og bearbejder information," siger Joachim E. Sestoft, adjunkt ved Niels Bohr Institutet på Københavns Universitet og en af studiets førsteforfattere.
For Joachim E. Sestoft er neuronet også en byggesten.
"Vi har bygget Lego-klodsen. Det næste skridt er at sætte flere af dem sammen," siger han.
På længere sigt kan sådanne komponenter måske gøre det muligt at analysere information allerede dér, hvor data opstår, frem for først at sende alt videre til en separat computer.
AI er bygget som en lommeregner – ikke som en hjerne
Den moderne AI-revolution er bygget på en teknologi, der grundlæggende fungerer meget anderledes end den menneskelige hjerne.
Når en chatbot besvarer et spørgsmål eller et billedprogram genererer et fotografi, foregår beregningerne i enorme datacentre fyldt med avancerede computerchips. De er ekstremt hurtige, men de bruger også enorme mængder energi.
Problemet er ikke nødvendigvis selve beregningerne. En stor del af energiforbruget går til at flytte information frem og tilbage mellem forskellige dele af computeren.
Det har fået forskere til at genbesøge en idé, som har eksisteret i årtier: Måske skal fremtidens kunstige intelligens ikke bygges som traditionelle computere.
"Det, vi gør i dag, er i virkeligheden at forsøge at simulere en hjerne med en lommeregner," siger Anders Mikkelsen.
I en almindelig computer ligger hukommelse og logik adskilt, og data skal hele tiden flyttes mellem dem. I hjernen foregår hukommelse, signalbehandling og beslutningstagning derimod i de samme neuroner. Det er netop denne organisering, forskere forsøger at lære af i det forskningsfelt, der kaldes neuromorf computing.
Lys kan gøre det, elektroner har svært ved
En særlig lovende retning er fotoniske neurale netværk, hvor information transporteres af lys frem for elektroner.
"Elektroner står ofte i kø. Lys kan i langt højere grad passere gennem det samme system samtidigt. Det giver nogle muligheder, som almindelig elektronik har svært ved at matche," forklarer Anders Mikkelsen.
Men selv om fotoniske neuroner har været demonstreret tidligere, har de ofte manglet nogle af de egenskaber, der gør biologiske neuroner så interessante.
Et biologisk neuron skal både kunne modtage stimulerende og hæmmende signaler, summere information fra mange kilder, bevare spor af tidligere aktivitet og reagere ikke-lineært på verden omkring sig.
Særligt én funktion har været vanskelig at få med: inhibition.
Hjernen virker lige så meget ved at dæmpe som ved at aktivere
I hjernen findes både signaler, der fremmer aktivitet, og signaler, der dæmper den. Balancen mellem de to hjælper blandt andet med at fremhæve vigtige signaler, undertrykke støj og styre, hvilke neuroner der får lov til at reagere. Den er afgørende for alt fra læring til synsbehandling.
"Fra et biologisk perspektiv er inhibition enormt vigtigt. Men fra et hardwareperspektiv er det også noget af det sværeste at bygge," forklarer Joachim E. Sestoft.
Når vi ser verden, foregår der omfattende signalbehandling allerede i øjets nethinde. Her bruges hæmmende signaler blandt andet til at fremhæve kontraster, undertrykke baggrundsstøj og skærpe kanter, længe før informationen når hjernen.
"Noget af det mest fascinerende ved biologiske synssystemer er, at de ikke bare registrerer verden. De begynder at fortolke den med det samme," siger Anders Mikkelsen.
Derfor har forskere længe ledt efter en måde at samle så mange af hjernens centrale funktioner som muligt i én kompakt komponent.
Det er netop det problem, den nye undersøgelse forsøger at løse.
Tre nanotråde efterligner flere af hjernens vigtigste funktioner
For at løse problemet udviklede forskerne et kunstigt neuron, der består af blot tre nanotråde.
To af dem fungerer som lysfølsomme modtagere. Den tredje fungerer som selve beslutningstageren.
Sammen danner de en konstruktion, der kan efterligne flere af de funktioner, som normalt forbindes med biologiske neuroner.
"Vi bygger ikke en hjerne. Vi bygger en byggesten. Målet er at vise, at én komponent kan opføre sig som en biologisk nervecelle," siger Joachim E. Sestoft.
Det gælder evnen til både at modtage stimulerende og hæmmende signaler, kombinere information fra flere input, reagere ikke-lineært og bevare et kortvarigt spor af tidligere aktivitet.
Det gør ikke systemet til en kunstig hjerne. Men det bringer det et skridt nærmere den måde, biologiske neuroner arbejder på.
Neuronet bestod testen på flere fronter
Da forskerne begyndte at teste deres kunstige neuron, var målet ikke blot at vise, at det virkede.
Målet var at undersøge, hvor mange af hjernens centrale egenskaber der kunne samles i én og samme komponent.
"Vi ville ikke bare demonstrere én egenskab. Vi ville vise, at mange af de funktioner, man ønsker i et kunstigt neuron, kan eksistere i den samme komponent," siger Joachim E. Sestoft.
Et af de vigtigste resultater handlede om inhibition.
I forsøgene kunne forskerne vise, at lys rettet mod den ene nanotråd øgede neuronets aktivitet, mens lys rettet mod den anden reducerede den.
Dermed kunne systemet efterligne den balance mellem excitation og inhibition, som biologiske neuroner bruger konstant.
"To af nanotrådene fungerer i princippet som små solceller. Den ene skaber et positivt signal, den anden et negativt. På den måde kan vi både eksitere og inhibere neuronet," forklarer Joachim E. Sestoft.
Neuronet kunne også integrere flere signaler samtidigt.
Neuronet kunne huske et øjeblik tilbage i tiden
Når stimulerende og hæmmende input blev sendt ind på samme tid, blev resultatet bestemt af balancen mellem dem. Hvis de to signaler ophævede hinanden, vendte neuronet tilbage til sin hviletilstand.
Næste spørgsmål var, om komponenten kunne bevare et kortvarigt spor af tidligere aktivitet.
Efter en kort lyspuls vendte systemet ikke øjeblikkeligt tilbage til udgangspunktet. I stedet bevarede det et midlertidigt aftryk, som kunne vare fra omkring 100 millisekunder til næsten et sekund. Det betyder, at neuronet ikke kun reagerer på det seneste input, men også påvirkes af det, der skete lige før.
"Et neuron skal ikke bare reagere på det, der sker lige nu. Det skal også bære en smule information med sig fra det, der skete for et øjeblik siden," siger Anders Mikkelsen.
Forskellige farver af lys kan bære forskellige beskeder
I et andet forsøg sendte teamet lys med forskellige bølgelængder gennem systemet og viste, at neuronet kunne reagere selektivt på bestemte farver.
Det betyder, at forskellige neuroner i princippet kan kommunikere gennem forskellige optiske kanaler uden nødvendigvis at forstyrre hinanden. Lidt som flere radiokanaler kan sende samtidigt uden at blande signalerne sammen.
"Det er en af fordelene ved fotonik. Man kan lade mange signaler eksistere side om side uden nødvendigvis at blande dem sammen," forklarer Joachim E. Sestoft.
Men neuronet var ikke kun funktionelt.
Den aktive del af neuronet optager kun mellem 30 og 90 kvadratmikrometer. Ifølge forskerne er det mindst 100 gange mindre end tidligere fotoniske neuroner.
"Problemet med mange fotoniske neurale netværk er ikke hastigheden. Problemet er, at komponenterne er enorme," forklarer Joachim E. Sestoft. "Hvis man vil bygge store netværk, bliver chippen hurtigt gigantisk."
Småt nok til at skalere, effektivt nok til at være interessant
Forsøgene viste også, at neuronet kan fungere ved optiske effekter på picowatt-niveau – billiontedele af en watt. Forskerne estimerer energiforbruget til omkring 200 femtojoule pr. operation.
"Når man kommer ned på de her energiniveauer, begynder man at nærme sig den type effektivitet, der gør biologiske systemer så fascinerende," siger Anders Mikkelsen.
Resultaterne viste ikke blot et mindre fotonisk neuron.
De viste et system, som kombinerer flere af de funktioner, forskere længe har efterlyst i fotoniske neuroner, samtidig med at det er markant mindre og mere energieffektivt end tidligere løsninger.
"Det egentlige gennembrud er ikke én funktion. Det er, at vi kan samle flere af de funktioner, man ønsker i et kunstigt neuron, i den samme komponent," siger Joachim E. Sestoft.
AI kan måske flytte ud af datacentret
Forskerne er forsigtige med at tale om revolutioner.
Den nye komponent er trods alt stadig et enkelt neuron demonstreret i et laboratorium.
"Det her er ikke slutmålet. Det er en byggesten," siger Anders Mikkelsen.
Hvis teknologien skal få reel betydning, skal tusinder, millioner eller måske milliarder af kunstige neuroner kobles sammen i komplekse netværk.
Anders Mikkelsen peger på, at nutidens computere i høj grad er flade konstruktioner, mens hjernen er tredimensionel. Netop muligheden for at bygge tredimensionelle strukturer er ifølge ham en af de egenskaber, der gør lys interessant som byggemateriale for fremtidige neurale systemer.
Netop her mener forskerne, at deres design kan have en fordel.
Den svære del er ikke ét neuron – men millioner
Den ekstremt lille størrelse gør det muligt at pakke langt flere neuroner ind på den samme chip, mens lysbaseret kommunikation kan gøre det lettere at lade mange komponenter arbejde samtidigt.
"Det største problem er ikke nødvendigvis at lave ét godt neuron. Det er at lave mange nok af dem," siger Anders Mikkelsen.
Vejen dertil er stadig lang. Forskerne skal blandt andet udvikle metoder til masseproduktion, koble neuronerne sammen i store netværk og demonstrere praktiske beregninger, der kan konkurrere med eksisterende AI-hardware.
"En bi løser navigationsopgaver, som stadig er vanskelige for vores teknologi, men den gør det med et energiforbrug, der er mange størrelsesordener lavere," siger Anders Mikkelsen.
"Hvis et neuron bruger energi uden at bidrage til opgaven, bliver det sorteret fra. Naturen er ekstremt god til at fjerne det, der ikke er brug for."
Måske er den lige så meget en sensor som en computer
Måske er det mest interessante ved studiet, at teknologien ikke kun kan bruges til AI-hardware. Den kan også pege mod en ny måde at bygge sensorer på.
I dag fungerer sensorer, hukommelse og processorer typisk som separate komponenter.
Først registrerer sensoren et signal. Derefter sendes dataene videre til en processor, som analyserer informationen.
Biologiske systemer fungerer anderledes.
Et neuron registrerer information, lagrer den og bearbejder den samtidigt.
"Det spændende er, at den samme komponent både kan fungere som sensor og som computer," forklarer Anders Mikkelsen.
Inspireret af øjet kan beregningen begynde før dataene sendes videre
Analysen kan måske begynde allerede dér, hvor data opstår. Sensoren registrerer ikke blot information, men udfører også den første del af beregningen.
Når lys rammer øjet, sendes informationen eksempelvis ikke blot videre til hjernen i rå form. Allerede i nethinden forstærkes kontraster, baggrundsstøj dæmpes, og relevante mønstre fremhæves.
"Det er faktisk både en computer og en sensor bygget ind i den samme komponent," siger Joachim E. Sestoft.
Hvis lignende principper kan overføres til fremtidige sensorer, kan en del af den informationsbehandling, som i dag foregår i store datacentre, måske flyttes helt ud til det sted, hvor data opstår.
"Hvis vi kan lære nogle af de principper, der gør hjernen så effektiv, kan det måske ændre den måde, vi bygger fremtidens teknologi på," siger Anders Mikkelsen.
