Næste generation af AI-hardware: 3D fotonisk-elektronisk platform øger effektiviteten og båndbredden

Kunstig intelligens (AI) -systemer lover transformative fremskridt, men alligevel er deres vækst blevet begrænset af energi ineffektivitet og flaskehalse i dataoverførsel. Forskere ved Columbia Engineering har afsløret en banebrydende løsning: en 3D-fotonisk-elektronisk platform, der opnår hidtil uset energieffektivitet og båndbreddedensitet, der baner vejen for næste generations AI-hardware.

Undersøgelsen, “3D-fotonik for ultra-lav energi, høje båndbredde-densitetschip-datalink,” ledet af Keren Bergman, Charles Batchelor-professor i elektroteknik, udgives i Naturfotonik.

Forskningen beskriver en banebrydende metode, der integrerer fotonik med avanceret komplementærmetal-oxid-halvleder (CMOS) elektronik for at omdefinere energieffektiv, højbåndbredde datakommunikation. Denne innovation adresserer kritiske udfordringer i databevægelse, en vedvarende hindring for at realisere hurtigere og mere effektive AI -teknologier.

“I dette arbejde præsenterer vi en teknologi, der er i stand til at overføre store mængder data med en hidtil uset lavt energiforbrug,” sagde Bergman. “Denne innovation bryder gennem den langvarige energibarriere, der har begrænset databevægelse i traditionelle computer- og AI-systemer.”

Ny undersøgelse viser 3D -fotonik med rekordpræstation for AI

Gennembrud i datakommunikation

Columbia Engineering Team samarbejdede med Alyosha Christopher Molnar, Ilda og Charles Lee professor i ingeniørvidenskab ved Cornell University om at udvikle en 3D-integreret fotonisk elektronisk chip, der kan prale af en høj densitet på 80 fotoniske sendere og modtagere inden for en kompakt chip-fodaftryk.

Denne platform leverer høj båndbredde (800 GB/s) med enestående energieffektivitet og forbruger kun 120 femtojoules pr. Bit. Med en båndbredde -densitet på 5,3 tb/s/mm2denne innovation overstiger langt de eksisterende benchmarks.

Designet til lave omkostninger integrerer ChIP fotoniske enheder med CMOS elektroniske kredsløb og udnytter komponenter, der er fremstillet i kommercielle støberier, hvilket sætter scenen for udbredt industrioptagelse.

Revolutionering af AI -hardware

Holdets forskning omdefinerer, hvordan data overføres mellem beregningsknudepunkter, der adresserer de mangeårige flaskehalse i energieffektivitet og skalerbarhed.

Ved 3D -integration af fotoniske og elektroniske chips opnår denne teknologi uovertrufne energibesparelser og høj båndbreddedensitet og bryder fri fra traditionelle datalokalitetsbegrænsninger. Denne innovative platform gør det muligt for AI -systemer at effektivt overføre store mængder data, der understøtter distribuerede arkitekturer, der tidligere var upraktiske på grund af energi- og latenstidsbegrænsninger.

De resulterende fremskridt er klar til at låse hidtil uset ydeevne op, hvilket gør denne teknologi til en hjørnesten i fremtidige computersystemer på tværs af applikationer, fra store AI-modeller til realtid databehandling i autonome systemer.

Ud over AI har denne tilgang transformativt potentiale for højtydende computing, telekommunikation og opdelte hukommelsessystemer, hvilket signaliserer en ny æra med energieffektiv, højhastighedsberegningsinfrastruktur.

Samarbejdsforskningen omfattede bidrag fra Cornell University’s Molnar Lab, Air Force Research Laboratory og Dartmouth College.