Cerebras CS-4: suy luận nhanh gấp 30 lần GPU, 1.000 token/giây

Ngày 18/8/2026, Cerebras công bố CS-4, thế hệ thứ tư của dòng máy suy luận AI dùng chip kích thước wafer. Tuyên bố của họ đủ lớn để gây chú ý: sinh token nhanh gấp 30 lần hệ thống GPU.

Cuộc đua AI đang dịch chuyển từ huấn luyện sang suy luận. Khi agent và ứng dụng tương tác thời gian thực lên ngôi, tốc độ sinh token quyết định cả trải nghiệm người dùng lẫn kinh tế của datacenter. Cerebras đặt cược vào một ý tưởng: nút thắt không phải sức tính toán, mà là băng thông bộ nhớ.

CS-4: ba con chip wafer trong một rack

CS-4 ghép từ ba bộ xử lý WSE-3 Turbo (WSE-3T), mỗi con là một chip wafer-scale với 900.000 nhân và 44 GB SRAM đặt trên tấm silicon. Tổng cộng một hệ CS-4 đạt 750 PFLOPS sức tính toán AI, 7,2 Tb/s băng thông I/O, và 129,6 PB/s băng thông bộ nhớ.

Con số 129,6 PB/s mới là điểm mấu chốt. SRAM on-wafer nhanh hơn DRAM ngoài hàng trăm lần, và Cerebras dồn 44 GB SRAM vào chính con chip thay vì để model phải truy cập qua bộ nhớ ngoài chậm chạp. Đây chính là lời giải cho bài toán băng thông bộ nhớ đang bóp nghẹt tốc độ sinh token trên GPU.

Vì sao băng thông bộ nhớ là nút thắt

Khi sinh từng token, model không cần nhiều phép tính như giai đoạn xử lý prompt. Thứ nó cần là đọc toàn bộ trọng số qua bộ nhớ liên tục. Với model hàng trăm tỷ tham số, trọng số không vừa cache, nên mỗi token buộc phải quét lại từ DRAM.

GPU có sức tính toán rất lớn nhưng băng thông DRAM lại giới hạn. Kết quả: phần lớn thời gian sinh token là chờ đọc bộ nhớ, không phải tính toán. Cerebras phá vỡ điều này bằng cách đưa trọng số vào SRAM on-wafer, nơi băng thông đo bằng petabyte/giây.

Hệ quả thực tế: CS-4 sinh hơn 1.000 token/giây trên model vượt 10 nghìn tỷ tham số, với độ trễ giao tiếp wafer-to-wafer thấp tới 2 micro giây. Theo Cerebras, throughput trên mỗi watt cũng gấp 10 lần thế hệ CS-3.

Cần lưu ý: "nhanh gấp 30 lần" là tuyên bố của Cerebras dựa trên benchmark nội bộ và dữ liệu Artificial Analysis. Không có nghĩa mọi workload đều nhanh 30 lần. Con số này áp cho tập model mà họ công bố, và thiên về workload suy luận bị giới hạn bởi băng thông.

Disaggregated inference: prefill và decode tách rời

Một phần quan trọng trong chiến lược của CS-4 là hỗ trợ disaggregated inference, tức tách hai pha của suy luận LLM.

Pha prefill xử lý prompt đầu vào và chuẩn bị trạng thái model, cần nhiều compute. Pha decode sinh từng token, cần băng thông. Thay vì ép một nền tảng làm cả hai, Cerebras để GPU/ASIC (như AMD Helios, AWS Trainium) lo prefill, còn CS-4 chuyên lo decode tốc độ cao.

Điều này có nghĩa CS-4 không nhất thiết thay thế GPU. Nó đóng vai trò một phần trong hạ tầng không đồng nhất, nơi mỗi nền tảng làm đúng việc nó giỏi.

Nexus: rack thiết kế lại từ đầu

CS-4 là hệ thống đầu tiên chạy trên nền tảng Nexus mới. Thay vì coi rack là một mớ linh kiện ghép chặt, Nexus biến nó thành các module tính toán, nguồn và I/O độc lập.

Compute được đóng trong Wafer-Scale Backpack gắn phía sau, tách khỏi nguồn điện. Kết quả là ít hơn 50% linh kiện, tự động hóa sản xuất tăng 60%, và thời gian triển khai rút từ vài ngày xuống vài giờ. Khối chuyển đổi điện năng đặt gần bộ xử lý hơn 100 lần so với board GPU thường, gần như loại bỏ tổn thất điện năng ở board, cho phép cấp gấp đôi điện cho WSE-3T.

Đây là phần ít hào nhoáng hơn con số "30 lần", nhưng với nhà vận hành datacenter, khả năng mở rộng nhanh ở quy mô gigawatt mới là thứ quyết định có dám đặt hàng hay không.

Ảnh hưởng tới developer

Không phải ai cũng mua CS-4, nhưng xu hướng phía sau nó tác động trực tiếp tới developer.

Thứ nhất, tốc độ suy luận đang tách khỏi compute thuần. Ứng dụng agent cần phản hồi nhanh, và khi token/giây tăng, những trường hợp dùng từng "chờ được" giờ thành thời gian thực. Thứ hai, disaggregated inference đang thành chuẩn. API và hệ thống sẽ ngày càng tách bạch prefill với decode, và developer cần hiểu điều này để tối ưu chi phí lẫn độ trễ. Thứ ba, kinh tế token thay đổi: nếu một watt sinh được nhiều token hơn, giá suy luận có thể tiếp tục giảm.

Điều cần biết

• "30x" là tuyên bố của Cerebras trên tập model công bố, không phải mọi workload. Đối chiếu với benchmark độc lập trước khi tin.
• Sinh token bị giới hạn bởi băng thông bộ nhớ, không phải compute. Đây là nhận định cốt lõi đằng sau kiến trúc wafer-scale.
• 1.000 token/giây trên model 10 nghìn tỷ tham số mở đường cho ứng dụng agent thời gian thực.
• Disaggregated inference đang thành chuẩn: prefill trên GPU/ASIC, decode trên phần cứng chuyên dụng.
• Không thay thế GPU, mà bổ sung: CS-4 nhắm đúng tầng decode, nơi GPU kém hiệu quả nhất.

---

Cerebras từ lâu đã theo một hướng khác biệt: đặt cược vào wafer-scale thay vì đóng gói nhiều chip nhỏ. CS-4 là lần họ mạnh dạn nhất trong cược đó, đưa băng thông bộ nhớ lên thành tiêu chí số một. Dù tuyên bố "30 lần" cần kiểm chứng độc lập, hướng đi thì rõ ràng: tương lai của suy luận AI nằm ở việc rút ngắn khoảng cách giữa trọng số và bộ nhớ, chứ không chỉ thêm phép tính.

---

Bài viết được hỗ trợ bởi AI (Amy 🌸). Nội dung đã được kiểm duyệt bởi tác giả.