Hạ tầng AI chuẩn quốc tế tại Việt Nam
Tại Trung tâm Dữ liệu Hoà Lạc 2, Tập đoàn Viettel đang sở hữu hạ tầng gồm 1000+ GPU NVIDIA H200, nền tảng cho bộ giải pháp Viettel Cloud AI-Native phục vụ huấn luyện, suy luận AI quy mô lớn. Đây là trung tâm dữ liệu đầu tiên tại khu vực châu Á – Thái Bình Dương tích lợp loại chip tối tân của NVIDIA, được tổ chức Uptime Institute cấp chứng nhận TCCF Uptime Tier III - tiêu chuẩn quốc tế về độ tin cậy và tính liên tục của trung tâm dữ liệu, đảm bảo hệ thống vận hành ổn định ngay cả khi bảo trì hay xảy ra sự cố kỹ thuật.
Đại diện Viettel cho biết, nền tảng này cho phép chạy các mô hình ngôn ngữ lớn 70 tỷ tham số trở lên mà không cần chia nhỏ mô hình. Kết hợp với hệ sinh thái dịch vụ AI tích hợp hoàn chỉnh từ Mạng kết nối tốc độ cao InfiniBand NDR400 đến Bộ phần mềm AI NVIDIA AI Enterprise (NVAIE)…, Viettel Cloud AI-Native đáp ứng các chuẩn quốc tế về hiệu năng, khả năng mở rộng và độ tin cậy, giúp doanh nghiệp triển khai các mô hình và ứng dụng AI ngay chính tại Việt Nam.
Hoàn toàn do người Viettel làm chủ, từ thiết kế và triển khai cụm GPU HGX H200, xây dựng hệ thống phân bổ tài nguyên, bảo mật dữ liệu, đến vận hành 24/7, Viettel Cloud AI-Native đặc biệt thân thiện với nhu cầu của khách hàng Việt.
Trong đó, đội ngũ kỹ thuật Viettel đã giải quyết được bài toán vận hành GPU quy mô lớn giữa hai trường phái phổ biến – Slurm Native truyền thống và Slurm on Kubernetes (Slinky) hiện đại– vốn thường buộc phải đánh đổi hiệu năng để lấy sự linh hoạt. Trên thực tế, hai mô hình đạt hiệu năng gần như tương đương nhau (chênh lệch tốc độ huấn luyện dưới 0,1%), giúp Viettel mang đến cho khách hàng giải pháp tối ưu và phù hợp chi phí. Khách hàng cũng có thể chủ động lựa chọn hoặc kết hợp linh hoạt giữa các mô hình mà không cần đánh đổi hiệu năng.
"Hầu hết các nhà cung cấp hạ tầng AI buộc doanh nghiệp phải chọn một trong hai chế độ sử dụng GPU – để huấn luyện mô hình (Training) hoặc triển khai ứng dụng (Inference) – hoặc phải đầu tư hai hệ thống riêng biệt. Viettel Cloud AI-Native hỗ trợ đồng thời cả hai chế độ trên cùng một cụm GPU, cho phép doanh nghiệp chủ động phân bổ tài nguyên theo nhu cầu thực tế từng thời điểm, không lãng phí và không phải đầu tư nhiều", đại diện Viettel chia sẻ.
Ngoài ra, việc tích hợp sẵn NVIDIA AI Enterprise cũng đồng nghĩa với việc khách hàng có ngay đầy đủ công cụ để tự triển khai toàn bộ vòng đời AI chính hãng, được thiết kế - từ huấn luyện, tinh chỉnh đến inference — trên hạ tầng do người Việt Nam làm chủ. Bộ công cụ này bảo đảm tính tương thích với hạ tầng GPU, được cập nhật và hỗ trợ kỹ thuật chính thức, giúp doanh nghiệp rút ngắn thời gian triển khai và giảm rủi ro trong quá trình vận hành.
"Giáp sắt" đa lớp bảo vệ dữ liệu tổ chức, doanh nghiệp
Bên cạnh những lợi thế từ hạ tầng và công nghệ, Viettel Cloud AI-Native còn ghi điểm nhờ năng lực đảm bảo an ninh, an toàn dữ liệu vượt trội. Trong kỷ nguyên chuyển đổi số, dữ liệu được ví như "mỏ vàng" mới, là tài nguyên quý giá để vận hành các mô hình Trí tuệ nhân tạo (AI). Bằng năng lực tự chủ công nghệ, từ thiết kế, triển khai đến vận hành bởi đội ngũ kỹ sư trong nước, máy chủ đặt tại Việt Nam, Viettel Cloud AI-Native giảm thiểu tối đa nguy cơ bị can thiệp từ bên ngoài trên một hạ tầng đẳng cấp quốc tế.
Với mục tiêu đảm bảo an toàn dữ liệu ở mức cao nhất, đặc biệt là dữ liệu nhạy cảm từ các Cơ quan chính phủ, ngân hàng hoặc các tổ chức tài chính…, Viettel Cloud AI-Native còn được trang bị kiến trúc multi-tenant với 3 lớp cô lập hoàn toàn.
Lớp giáp đầu tiên là cô lập tài nguyên tính toán. Mỗi tổ chức được gán cứng vào phần cứng riêng biệt. Các khối lượng công việc (workload) hoàn toàn độc lập, đảm bảo không có hiện tượng dữ liệu "chạy sang" hệ thống của tổ chức khác.
Lớp giáp thứ hai là cô lập dữ liệu lưu trữ. Mỗi khách hàng có phân vùng lưu trữ độc lập với hệ thống phân quyền chặt chẽ; ngay cả khi có được đường dẫn, các đối tượng lạ cũng không thể truy cập trái phép vào dữ liệu của tổ chức.
Lớp giáp thứ ba là cô lập mạng nội bộ. Dù chạy trên cùng một cụm máy chủ (cluster), hệ thống của các tổ chức khác nhau không thể giao tiếp qua lại, loại bỏ nguy cơ tấn công chéo trong môi trường mạng.
Quan trọng hơn, toàn bộ hạ tầng được đặt tại Việt Nam và vận hành bởi đội ngũ kỹ sư Viettel — dữ liệu không đi qua bất kỳ máy chủ nước ngoài nào, đáp ứng đầy đủ yêu cầu của Luật An ninh mạng và quy định của Ngân hàng Nhà nước về lưu trữ và xử lý dữ liệu trong nước.
Với ưu thế về hạ tầng cùng năng lực vượt trội trong lĩnh vực bảo mật, hệ sinh thái Viettel Cloud AI-Native không chỉ mang tới cho doanh nghiệp cơ hội tiếp cận năng lực tính toán AI chuẩn thế giới với chi phí phải chăng ngay tại Việt Nam mà còn đảm bảo chủ quyền dữ liệu trong kỷ nguyên số.
"Nói cách khác, Viettel cung cấp ‘sân chơi’ đủ mạnh và đủ chuẩn để mọi tổ chức, doanh nghiệp Việt Nam có thể tự phát triển năng lực AI của mình mà không cần phụ thuộc vào nước ngoài", đại diện Viettel khẳng định về năng lực của Viettel Cloud AI-Native.
Ánh Dương