BlockBeats tin tức, ngày 26 tháng 7, nhà đầu tư của Anthropic là Deedy chỉ ra rằng tất cả các công ty khởi nghiệp đang phát triển thế hệ chip AI tiếp theo đang cố gắng phá vỡ sự thống trị của NVIDIA theo những cách khác nhau, nhắm vào vấn đề cốt lõi là "di chuyển dữ liệu". Sáu con đường thách thức khác biệt bao gồm: loại bỏ DRAM (Groq, đã được NVIDIA mua lại với giá 20 tỷ USD), loại bỏ kết nối liên kết (Cerebras, đã niêm yết với vốn hóa thị trường khoảng 48 tỷ USD), loại bỏ sự tách biệt giữa tính toán và bộ nhớ (d-Matrix), loại bỏ kiến trúc tập trung vào máy chủ (Majestic), loại bỏ tính phổ quát (Etched, Taalas, MatX), và loại bỏ máy quang khắc trị giá 400 triệu USD (Substrate).

Giá niêm yết và thương vụ mua lại của Cerebras và Groq đã thiết lập chuẩn định giá cho toàn bộ lĩnh vực chip AI, trong khi Etched tăng gấp đôi định giá lên 10,3 tỷ USD trong tuần này, chỉ sau ba tuần từ trạng thái im lặng bùng nổ, càng khẳng định rằng vốn đang nhanh chóng tái định giá lĩnh vực này. Trong số 18 công ty khởi nghiệp chính, tổng giá trị sổ sách của các công ty tư nhân khoảng 58 tỷ USD, vốn hóa thị trường công khai khoảng 48 tỷ USD, bao gồm nhiều hướng phân khúc như suy luận, đào tạo/kiến trúc mới, hệ thống, và nhà máy wafer cùng máy quang khắc.

Mỗi hướng đi đều thách thức giả định cốt lõi của kiến trúc GPU NVIDIA — rằng việc di chuyển dữ liệu giữa các đơn vị tính toán và bộ nhớ vừa tốn thời gian vừa tiêu hao năng lượng. Groq thay thế DRAM bằng SRAM để loại bỏ hoàn toàn độ trễ phân cấp bộ nhớ, Cerebras sử dụng chip cấp wafer để loại bỏ nút thắt kết nối giữa các chip, d-Matrix thực hiện tính toán trực tiếp trong bộ nhớ, còn Etched từ bỏ tính phổ quát để chỉ thiết kế phần cứng cho kiến trúc Transformer. Hệ sinh thái khởi nghiệp chip AI đã chuyển từ câu chuyện thay thế GPU đơn thuần sang tấn công đa điểm ở cấp độ kiến trúc. Việc NVIDIA chủ động tham gia vào quá trình này bằng cách mua lại Groq cũng cho thấy họ hiểu rõ rằng cốt lõi của cuộc cạnh tranh thế hệ tiếp theo không còn là đỉnh cao sức mạnh tính toán, mà là sự tái cấu trúc triệt để hiệu quả di chuyển dữ liệu.