Der chinesische Hersteller Neogenint hat in Kooperation mit einem Forschungsinstitut den vergleichsweise kompakten Rechner BIE-1 für spezielle KI-Algorithmen entwickelt. Der BI Explorer-1 (BIE-1) ist für „Brain-like Intelligence“ ausgelegt. Er wurde bei einer Veranstaltung des Guangdong Institute of Intelligence Science and Technology (GDIIST) vorgestellt, die unter anderem mit Neogenint kooperiert.
Laut GDIIST und Neogenint liefert der BIE-1 sehr hohe KI-Rechenleistung besonders effizient. Durch seine kompakte Bauform passt er unter einen Schreibtisch, er soll mit einer gewöhnlichen Steckdose auskommen und ausreichend leise laufen für den Betrieb in Büroräumen.
Die Entwicklungspartner versprechen beim Inferencing eines LLM mit dem sogenannten Intuitive Neural Network (INN) auf der BIE-1 bis zu 12,6 Millionen Token/s. Dieses "gehirnähnliche" INN scheint eine Entwicklung des GDIIST zu sein, das auch an medizinischen KI-Systemen forscht.
Der KI-Rechner Neogenint BIE-1 besteht aus drei Einschüben mit je 384 CPU-Kernen und 1,5 TByte RAM.
(Bild: Shanghai Neogenint Intelligent Technology Co.,Ltd.)
Die BIE-1 besteht aus drei Einschüben, von denen jeder 384 Prozessorkerne enthält, sowie 1,5 TByte RAM, drei „GPUs“ mit je 24 GByte lokalem Speicher, eine M.2-SSD mit 4 TByte und drei 16-TByte-Festplatten. Die drei Module zusammen stellen 1152 CPU-Kerne, 4,5 Terabyte RAM, 12 TByte Flash-Speicher und 144 TByte auf Festplatten bereit.
Laut Neogenint liefert ein einzelnes Modul bei einem INN-Thread 7000 Tokens/s. Bei 600 Threads sollen es 4,2 Millionen Tokens/s sein (7000 × 600) und bei drei Modulen (und folglich 1800 Threads) dann eben die erwähnten 12,6 Millionen Tokens/s. Die Leistungsaufnahme der gesamten Kiste soll maximal 2000 Watt betragen.
Preise und Liefertermine nennt Neogenint derzeit nicht. Neogenint verrät auch nicht, wie viele physische Prozessoren welches Herstellers zum Einsatz kommen (2 × 192 Kerne oder 1 × 384 Kerne) und welcher Typ GPU-Beschleuniger. Das GDIIST kooperiert grundsätzlich auch mit dem chinesischen KI-Chipentwickler Cambricon.
Die Website der Firma Shanghai Neogenint Intelligent Technology verwendet keine verschlüsselte Verbindung, die Quelle daher hier nicht als Link: http://www.neogenint.com/bie
(ciw)
English (US) ·