Intel Labs stellte am Mittwoch seinen größten neuromorphen Computer vor, ein 1.15 Milliarden Neuronen umfassendes System, das in etwa dem Gehirn einer Eule ähnelt.

Aber keine Sorge, Intel hat Fallouts nicht nachgebildet Robobrain. Anstelle eines Netzwerks organischer Neuronen und Synapsen emuliert Intels Hala Point sie alle in Silizium.

Bei etwa 20 W ist unser Gehirn überraschend effizient bei der Verarbeitung der großen Informationsmengen, die zu jedem Zeitpunkt von jedem unserer Sinne einströmen. Das Gebiet der Neuromorphik, das Intel und IBM in den letzten Jahren erforscht haben, zielt darauf ab, das Netzwerk von Neuronen und Synapsen im Gehirn nachzuahmen, um Computer zu bauen, die Informationen effizienter verarbeiten können als herkömmliche Beschleuniger.

Wie effizient? Laut Intel kann sein neuestes System, eine 6U-Box von etwa der Größe einer Mikrowelle, die 2,600 W verbraucht, angeblich eine tiefe neuronale Netzwerkeffizienz von bis zu 15 TOPS/W bei 8-Bit-Präzision erreichen. Um das ins rechte Licht zu rücken: Nvidias leistungsstärkstes System, das Blackwell-basierte GB200 NVL72, das noch nicht einmal ausgeliefert wurde, Managed nur 6 TOPS/W bei INT8, während die aktuellen DGX H100-Systeme etwa 3.1 TOPS/W bewältigen können.

Diese Leistung wird durch 1,152 Loihi 2-Prozessoren von Intel erreicht, die in einem dreidimensionalen Raster zu insgesamt 1.15 Milliarden Neuronen, 128 Milliarden Synapsen, 140,544 Verarbeitungskernen und 2,300 eingebetteten x86-Kernen zusammengefügt sind, die die dafür notwendigen Zusatzberechnungen durchführen Lass das Ding weitermachen.

Um es klarzustellen: Das sind keine typischen x86-Kerne. „Es sind sehr, sehr einfache, kleine x86-Kerne. Sie ähneln nicht unseren neuesten Kernen oder Atom-Prozessoren“, sagte Mike Davies, Direktor für Neuromorphic Computing bei Intel Das Register.

Wenn es bei Loihi 2 klingelt, liegt das daran, dass der Chip da war herumklopfen seit einiger Zeit, nachdem es bereits 2021 sein Debüt als einer der ersten Chips gab, die mit der 7-nm-Prozesstechnologie von Intel hergestellt wurden.

Trotz ihres Alters sind die Loihi-basierten Systeme laut Intel in der Lage, bestimmte KI-Inferenz- und Optimierungsprobleme bis zu 50-mal schneller als herkömmliche CPU- und GPU-Architekturen zu lösen und dabei 100-mal weniger Strom zu verbrauchen. Diese Zahlen scheinen gewesen zu sein erreicht [PDF] durch die Kombination eines einzelnen Loihi 2-Chips mit dem winzigen Jetson Orin Nano von Nvidia und einer Core i9 i9-7920X-CPU.

Werfen Sie Ihre GPUs noch nicht weg

Auch wenn das beeindruckend klingen mag, gibt Davies zu, dass seine neuromorphen Beschleuniger noch nicht bereit sind, GPUs für jede Arbeitslast zu ersetzen. „Dies ist keineswegs ein Allzweck-KI-Beschleuniger“, sagte er.

Zum einen wird die wohl beliebteste KI-Anwendung, die Large Language Models (LLMs), die Apps wie ChatGPT unterstützen, nicht auf Hala Point laufen, zumindest noch nicht.

„Derzeit kartieren wir kein LLM nach Hala Point. Wir wissen nicht, wie das geht. Ehrlich gesagt gibt es im Bereich der neuromorphen Forschung keine neuromorphe Version des Transformators“, sagte Davies und wies darauf hin, dass es einige interessante Forschungsarbeiten darüber gebe, wie dies erreicht werden könnte.

Allerdings hat Davies‘ Team mit einigen Einschränkungen erfolgreich traditionelle tiefe neuronale Netze, ein mehrschichtiges Perzeptron, auf Hala Point betrieben.

„Wenn Sie die Netzwerkaktivität und die Leitfähigkeit in diesem Netzwerk reduzieren können, können Sie wirklich große Gewinne erzielen“, sagte er. „Das bedeutet, dass es ein kontinuierliches Eingangssignal verarbeiten muss … einen Videostream oder einen Audiostream, etwas, bei dem von Sample zu Sample eine gewisse Korrelation besteht.“

Intel Labs demonstrierte in einem Artikel das Potenzial von Loihi 2 für die Video- und Audioverarbeitung veröffentlicht [PDF] Ende letzten Jahres. Bei Tests stellten sie fest, dass der Chip im Vergleich zu herkömmlichen Architekturen erhebliche Zuwächse bei Energieeffizienz, Latenz und Durchsatz bei der Signalverarbeitung erzielte, die teilweise um mehr als drei Größenordnungen lagen. Allerdings gingen die größten Gewinne auf Kosten einer geringeren Genauigkeit.

Die Fähigkeit, Echtzeitdaten mit geringem Stromverbrauch und geringer Latenz zu verarbeiten, hat die Technologie für Anwendungen wie autonome Fahrzeuge, Drohnen und Robotik attraktiv gemacht.

Ein weiterer vielversprechender Anwendungsfall sind kombinatorische Optimierungsprobleme, etwa die Routenplanung für ein Lieferfahrzeug, das durch ein belebtes Stadtzentrum navigieren muss.

Die Lösung dieser Arbeitslasten ist äußerst komplex, da kleine Änderungen wie Fahrzeuggeschwindigkeit, Unfälle und Fahrbahnsperrungen im Handumdrehen berücksichtigt werden müssen. Herkömmliche Computerarchitekturen sind für diese Art exponentieller Komplexität nicht gut geeignet, weshalb wir so viele Anbieter von Quantencomputern gesehen haben Targeting Optimierungsprobleme.

Davies argumentiert jedoch, dass die neuromorphe Computerplattform von Intel „weitaus ausgereifter ist als diese anderen experimentellen Forschungsalternativen“.

Platz zum Wachsen

Laut Davies gibt es außerdem noch viel Luft nach oben. „Ich muss leider sagen, dass es aufgrund von Softwareeinschränkungen bis heute nicht vollständig ausgenutzt wird“, sagte er über die Loihi-2-Chips.

Das Erkennen von Hardware-Engpässen und Software-Optimierungen ist einer der Gründe, warum Intel Labs den Prototyp bei Sandia bereitgestellt hat.

„Das Verständnis der Einschränkungen, insbesondere auf Hardwareebene, ist ein sehr wichtiger Teil der Markteinführung dieser Systeme“, sagte Davies. „Wir können die Hardwareprobleme beheben, wir können sie verbessern, aber wir müssen wissen, in welche Richtung wir optimieren müssen.“

Dies wäre nicht das erste Mal, dass Sandia-Fans die neuromorphe Technologie von Intel in die Hände bekommen. In einem Papier veröffentlicht Anfang 2022 stellten Forscher fest, dass die Technologie Potenzial für HPC und KI hat. Bei diesen Experimenten wurden jedoch Intels Loihi-Chips der ersten Generation verwendet, die etwa ein Achtel der Neuronen (128,000 gegenüber 1 Million) ihres Nachfolgers haben. ®

• SEO-gestützte Content- und PR-Distribution. Holen Sie sich noch heute Verstärkung.
• PlatoData.Network Vertikale generative KI. Motiviere dich selbst. Hier zugreifen.
• PlatoAiStream. Web3-Intelligenz. Wissen verstärkt. Hier zugreifen.
• PlatoESG. Kohlenstoff, CleanTech, Energie, Umwelt, Solar, Abfallwirtschaft. Hier zugreifen.
• PlatoHealth. Informationen zu Biotechnologie und klinischen Studien. Hier zugreifen.
• Quelle: https://go.theregister.com/feed/www.theregister.com/2024/04/17/intel_hala_point_neuromorphic/