Cerebras ha lanzado su nuevo acelerador de IA, el CS-4, que promete ser el sistema más rápido del sector, según su CEO, Andrew Feldman. Este producto se presenta como una solución de escala en rack, integrando unidades de computación, energía y refrigeración en un único gabinete para centros de datos.
El CS-4 utiliza el chip WSE-3 de 5nm, pero mejora el rendimiento del modelo anterior, el CS-3, al duplicar la velocidad de reloj gracias a un suministro de energía optimizado y un sistema de refrigeración mejorado. Ahora, cada rack alberga tres obleas en lugar de dos, ofreciendo hasta 4,400 tokens por segundo por usuario, lo que lo hace hasta 30 veces más rápido que configuraciones basadas en GPUs de Nvidia.
A pesar de mantener la misma capacidad de memoria de 44 GB por oblea, Cerebras ha implementado un diseño modular denominado "Backpack" para una ensamblaje más eficiente y una inferencia disgregada a través de socios como AMD y AWS Trainium. Se anticipan más detalles durante la conferencia Hot Chips.