Cerebras Systems представила крупнейший в мире чип для задач искусственного интеллекта с размером кристалла 46 225 мм². ИИ-чип под названием WSE-3 в 57 раз больше NVIDIA H100, площадь которого составляет 826 мм2.
WSE-3 изготовлен по 5-нм техпроцессу, включает 4 триллиона транзисторов, 900 000 ядер, 125 петафлопс пиковой производительности искусственного интеллекта и 44 ГБ встроенной SRAM. Напомним, NVIDIA H100 имеет 16 896 ядер и 528 тензорных ядер, WSE-3 также имеет 1,5 ТБ, 12 ТБ или 1,2 ПБ внешней памяти (да, 1,2 петабайта памяти). Пропускная способность памяти достигает 21 петабайт в секунду, что в 7000 раз больше, чем у H100, с пропускной способностью структуры 214 петабит в секунду (в 3715 раз быстрее, чем у H100).
Генеральный директор и соучредитель Cerebras Эндрю Фельдман заявил, что его компьютер CS-3 с чипом WSE-3 может обрабатывать теоретическую большую языковую модель с 24 триллионами параметров, что на порядок больше, чем у лучших инструментов генеративного искусственного интеллекта, таких как GPT-4 от OpenAI, который по слухам, имеет 1 триллион параметров.
