Strategiczne partnerstwo spółek Cerebras i G42 już zaowocowało dostarczeniem 8 exaflopów wydajności superkomputerów AI dzięki uruchomieniu Condor Galaxy 1 i Condor Galaxy 2, należących do największych superkomputerów AI na świecie. Dzięki superkomputerowi Condor Galaxy 3, znajdującemu się w Dallas, w stanie Teksas, obecna łączna wydajność sieci Condor Galaxy wynosi 16 exaflopów.
„Z Condor Galaxy 3 kontynuujemy realizację naszej wspólnej wizji transformacji światowego inwentarza mocy obliczeniowej sztucznej inteligencji poprzez budowę największych i najszybszych superkomputerów AI na świecie - powiedział Kiril Evtimov, dyrektor ds. technologicznych grupy G42. - Dotychczasowa sieć Condor Galaxy była wykorzystywana do trenowania czołowych modeli open source w branży, z dziesiątkami tysięcy pobrań. Poprzez podwojenie wydajności do 16 exaflopów, oczekujemy na kolejną falę innowacji, którą mogą przynieść superkomputery Condor Galaxy”.
Sercem superkomputera Condor Galaxy 3 są 64 układy Cerebras CS-3. Każdy układ CS-3 zasilany jest nowym procesorem WSE-3 z 4 bilionami tranzystorów i 900 000 rdzeniami zoptymalizowanymi pod katem sztucznej inteligencji. Wyprodukowany w 5-nanometrowym procesie technologicznym matrycy krzemowej TSMC, WSE-3 zapewnia dwukrotnie większą wydajność przy tych samych parametrach poboru energii i w tej samej cenie, co procesory poprzednich generacji. Stworzony specjalnie z myślą o trenowaniu największych w branży modeli AI, WSE-3 zapewnia imponującą maksymalną wydajność na poziomie 125 petaflopów na jeden procesor.
Zobacz też: iPhone 15 niczym różdżka z Harry'ego Pottera! Siri rzuca czary „Lumos” i „Nox”
„Jesteśmy dumni, że nasze nowe układy CS-3 odegrają kluczową rolę w ramach tego pionierskiego strategicznego partnerstwa z G42 - powiedział Andrew Feldman, dyrektor generalny i współzałożyciel Cerebras. - Condor Galaxy 3 i kolejne superkomputery łącznie dostarczą dziesiątki exaflopów wydajności obliczeniowej AI. Jest to ważne osiągniecie w dziedzinie sztucznej inteligencji, ponieważ zapewnia niezrównaną moc obliczeniową i wydajność”.
Superkomputery Condor Galaxy brały udział w trenowaniu najnowocześniejszych modeli generatywnej sztucznej inteligencji, w tym Jais-30B, Med42, Crystal-Coder-7B oraz BTLM-3B-8K. Jais 13B i Jais30B są najlepszymi dwujęzycznymi arabskimi modelami na świecie. Są obecnie dostępne w Azure Cloud. BTLM-3B-8K jest czołowym modelem o 3 mld parametrów (3B - 3 billion) na HuggingFace, oferując wydajność porównywalną z modelami o 7 mld parametrów w lekkim modelu o 3 mld parametrów na potrzeby wnioskowania. Med42, opracowany z M42 i Core42, jest czołowym klinicznym dużym modelem językowym, wytrenowanym na Condor Galaxy 1 w jeden weekend i przewyższającym MedPaLM pod względem wydajności i precyzji. Superkomputer Condor Galaxy 3 będzie dostępny w drugim kwartale 2024 r.
