Hạ tầng tính toán AI, máy chủ NVIDIA HGX/DGX H100, H200, Blackwell GB200, vGPU, CUDA Cluster.







Sora AI của OpenAI không chỉ là một bước tiến về mô hình khuếch tán video (Diffusion Transformer - DiT) mà còn là một "cỗ máy ngốn tài nguyên" kinh khủng nhất mà giới kỹ thuật hạ tầng từng đối mặt. tôi khẳng định rằng vi...

Khi các dòng vi xử lý tích hợp NPU (Neural Processing Unit) thế hệ thứ 3 bắt đầu phổ biến trên các dòng máy trạm di động, khái niệm "AI PC" không còn là thuật ngữ marketing mà đã trở thành bài toán quản trị hạ tầng phần...

Tại VietITPro.vn, chúng tôi không chỉ nhìn Google Cloud Next 2024 dưới góc độ là một sự kiện truyền thông, mà là sự thay đổi hoàn toàn về hạ tầng tính toán (compute infrastructure) mà bất kỳ kỹ sư hệ thống nào cũng phải...

Kiến trúc Blackwell của NVIDIA vừa mới bắt đầu phủ sóng các trung tâm dữ liệu toàn cầu, nhưng giới kỹ thuật tại VietITPro đã bắt đầu mổ xẻ những thông số kỹ thuật rò rỉ và lộ trình của kiến trúc Rubin – nền tảng được dự...

Khi bạn quyết định triển khai các mô hình ngôn ngữ lớn (LLM) hoặc chạy Deep Learning trên máy cá nhân, hiệu năng không nằm ở xung nhịp CPU hay dung lượng RAM hệ thống. Tại VietITPro, tôi thường xuyên tiếp nhận những dàn...