Google đang đàm phán với Marvell Technology để cùng phát triển hai chip mới phục vụ cho việc chạy các mô hình trí tuệ nhân tạo, theo thông tin từ The Information dẫn lời hai nguồn thạo tin trực tiếp liên quan đến các cuộc thảo luận này.
Hai chip, hai nhiệm vụ hoàn toàn khác nhau
Chip thứ nhất là một bộ xử lý bộ nhớ chuyên dụng (MPU), được thiết kế để hoạt động song song cùng TPU, bộ xử lý tensor vốn là chip AI chủ lực của Google. Thay vì nhồi nhét toàn bộ tác vụ vào TPU, chip MPU này đảm nhận riêng phần xử lý bộ nhớ, giảm áp lực cho chip chính và tăng tốc độ truy xuất dữ liệu khi chạy các mô hình AI quy mô lớn.

Chip thứ hai là một thế hệ TPU hoàn toàn mới, được tối ưu hóa riêng cho tác vụ suy luận, giai đoạn mô hình đã huấn luyện xong và đang được triển khai để xử lý yêu cầu thực tế của người dùng. Đây là khâu tiêu tốn nhiều tài nguyên tính toán nhất trong các hệ thống AI hiện nay và cũng là điểm nghẽn lớn nhất khi mở rộng quy mô.
Nền tảng hiện tại: TPU v7 Ironwood
Dòng TPU mới nhất của Google hiện nay là TPU v7, mang tên Ironwood. Chip này được trang bị bộ nhớ HBM dung lượng 192 GB và hiệu năng tính toán ở mức rất cao. Trong các cụm máy chủ AI lớn mà Google gọi là Superpod, hãng ghép tới 9.216 chip Ironwood lại với nhau để vận hành các mô hình AI ở quy mô lớn nhất. Nhu cầu sử dụng Ironwood đang tăng mạnh, nhưng nguồn cung là bài toán nan giải khi toàn bộ các nhà máy bán dẫn lớn trên thế giới đều đang chạy hết công suất.

Xu hướng chung: chip phụ trợ chuyên biệt
Hướng đi mà Google đang theo đuổi với chip MPU có điểm tương đồng với chiến lược của NVIDIA, khi hãng này phát triển LPU Groq 3 LPX, một bộ xử lý ngôn ngữ chuyên dụng với bộ nhớ SRAM tốc độ cực cao, được tối ưu cho các ứng dụng AI tự động hóa trên nền tảng Vera Rubin sắp ra mắt. Xu hướng chung của ngành là dùng các chip phụ trợ chuyên biệt để "giải phóng" chip chính khỏi những tác vụ ngốn bộ nhớ, từ đó tăng hiệu quả toàn hệ thống mà không cần thiết kế lại chip từ đầu.
Thế hệ TPU tiếp theo của Google kết hợp cùng MPU sẽ tạo ra hạ tầng AI nhanh hơn đáng kể, đặc biệt ở khâu suy luận, vốn là điểm mấu chốt khi triển khai AI cho hàng triệu người dùng đồng thời.
Max