Build PC chạy AI local cần CPU, RAM, VGA bao nhiêu là đủ?

Chạy AI ngay trên chiếc máy của riêng mình – từ chatbot LLM, tạo ảnh đến xử lý dữ liệu – đang dần trở thành lựa chọn quen thuộc của nhiều người. Không tốn phí dịch vụ hằng tháng, dữ liệu luôn nằm trong tầm kiểm soát, và phản hồi gần như tức thì. Tin vui là việc này không đòi hỏi một cỗ máy đắt đỏ như nhiều người vẫn nghĩ – chỉ cần chọn đúng trọng tâm.

Và trọng tâm đó chính là VRAM của card đồ họa (VGA), chứ không phải CPU. Phần còn lại – CPU, RAM, SSD – đóng vai trò hỗ trợ. Bài viết này sẽ giải thích vì sao, kèm 3 cấu hình mẫu theo từng mức nhu cầu để bạn dễ hình dung và lựa chọn.

VRAM quyết định bạn chạy được model nào

Khác với chơi game (nơi CPU và VGA chia việc cho nhau), AI local nạp gần như toàn bộ model vào VRAM của card đồ họa. Vì vậy, VRAM còn dư thì mọi thứ chạy mượt mà; VRAM thiếu thì model hoặc báo lỗi tràn bộ nhớ, hoặc chậm đi khoảng 10 lần do phải đẩy dữ liệu sang RAM hệ thống. Chọn đủ VRAM ngay từ đầu sẽ giúp bạn tránh được gần như toàn bộ phiền toái về sau.

Có hai khái niệm nắm được là mọi thứ trở nên dễ hiểu:

• Số tham số model (7B, 13B, 70B…): model càng lớn càng “thông minh”, và cũng cần nhiều VRAM hơn.
• Quantization (Q4, Q5, Q8, FP16): kỹ thuật nén model để giảm dung lượng VRAM. Q5 có thể đưa một model 7B từ 14 GB xuống còn khoảng 4,4 GB mà chỉ mất chừng 5% chất lượng. Nhờ vậy, ngay cả card phổ thông cũng chạy được những model khá lớn.

Một quy tắc đơn giản để ước lượng: khoảng 2 GB VRAM cho mỗi 1 tỷ tham số ở định dạng FP16; Q8 giảm còn một nửa và Q4 giảm còn một phần tư. Một lưu ý nhỏ khi tính toán: các con số này mới chỉ là trọng số model – nên cộng thêm 25-40% cho phần ngữ cảnh, xử lý theo lô và hao phí vận hành của hệ thống là an toàn.

VRAM bao nhiêu cho từng nhu cầu

Chạy LLM local (chatbot, trợ lý code, Ollama, LM Studio)

Tham chiếu chung cho năm 2026: model nhỏ (1-3B) chỉ cần 4-6 GB VRAM; model tầm trung (7-13B) cần 8-12 GB; model lớn (30-70B) cần 16-24 GB với quantization 4-bit.

Một tin vui cho người mới: các model 7-9B thế hệ gần đây đã thông minh hơn rất nhiều, đủ dùng tốt cho phần lớn công việc hằng ngày mà không cần đuổi theo model khổng lồ. Còn nếu bạn thực sự cần chạy model 70B, có vài hướng để cân nhắc: hai card 24 GB (tổng 48 GB), một card chuyên dụng 48 GB, hoặc san bớt một phần sang RAM – chấp nhận tốc độ chậm hơn đôi chút để đổi lấy chi phí dễ chịu hơn.

Tạo ảnh AI (Stable Diffusion, SDXL, Flux)

Tạo ảnh có bài toán VRAM hơi khác LLM một chút, vì ngoài trọng số model còn có vòng lặp khử nhiễu, bộ giải mã hình ảnh và bộ mã hóa văn bản chạy đồng thời.

Yêu cầu VRAM theo từng dòng model cũng khá dễ chịu: SD 1.5 chỉ cần khoảng 4 GB, SDXL khoảng 6 GB, SD 3.5 khoảng 6 GB, và Flux khuyến nghị từ 12 GB. Riêng Flux – dòng model cho chất lượng ảnh đẹp nhất hiện nay – đòi hỏi cao hơn: ở FP16, Flux.1 Dev cần khoảng 23,8 GB, vừa khít một card 24 GB. Điểm sáng là quantization FP8 đã giúp Flux chạy tốt trên card 16 GB mà gần như không mất chất lượng – một lựa chọn rất đáng cân nhắc.

Cân bằng cả LLM lẫn tạo ảnh

Nếu bạn muốn làm cả hai, chỉ cần lấy nhu cầu nặng hơn làm chuẩn. Mốc 16 GB VRAM là điểm cân bằng rất đẹp: chạy thoải mái LLM tầm 13-32B, SDXL/SD 3.5 ở chất lượng đầy đủ, và Flux ở FP8. Còn nếu muốn dư dả cho model 70B và Flux FP16, mốc 24 GB trở lên sẽ cho bạn sự an tâm lâu dài.

CPU, RAM và SSD: những người hỗ trợ thầm lặng

VRAM giữ vai chính, nhưng một dàn máy cân đối sẽ giúp mọi thứ vận hành trơn tru hơn.

• CPU: không cần chạy đua CPU đắt nhất – một CPU 8 nhân hiện đại là đã đáp ứng tốt. CPU chủ yếu lo việc nạp model và xử lý dữ liệu đầu vào, nên khoản tiết kiệm ở đây có thể dồn cho VGA.
• RAM hệ thống: 16 GB là mức tối thiểu, 32 GB là mức an toàn và thoải mái cho đa số. Nếu định san bớt một phần model lớn sang RAM thì càng nhiều càng tốt.
• SSD: file model khá nặng (một model có thể vài chục GB), nên một ổ NVMe SSD sẽ giúp nạp model nhanh chóng. Chừa sẵn 200-500 GB là dư dả nếu bạn thích sưu tầm nhiều model.

3 cấu hình mẫu để dễ hình dung

Phổ thông – Khởi đầu nhẹ nhàng với AI local

VGA 8-12 GB VRAM, CPU 8 nhân, RAM 32 GB, NVMe SSD. Chạy tốt LLM 7-8B, SDXL, SD 3.5 Medium với tốc độ khoảng 10-20 từ/giây. Rất phù hợp cho người mới bắt đầu, dự án cá nhân và hỗ trợ code nhẹ – một điểm khởi đầu vừa túi tiền mà vẫn trải nghiệm trọn vẹn.

Cân bằng – Lựa chọn vừa vặn cho hầu hết người dùng

VGA 16 GB VRAM, CPU 8 nhân hiệu năng cao, RAM 48 GB, NVMe SSD. Chạy được model 13-70B với quantization, tốc độ khoảng 15-35 từ/giây, đồng thời xử lý Flux ở FP8 ổn định. Đây là mức đầu tư hợp lý cho người làm chuyên nghiệp, người sáng tạo nội dung và doanh nghiệp nhỏ muốn tự động hóa.

Chuyên sâu – Sẵn sàng cho mọi dự án lớn

VGA 24-32 GB VRAM, CPU cao cấp, RAM 64 GB, NVMe SSD dung lượng lớn. Chạy mượt LLM 70B, Flux FP16, tinh chỉnh model trên tập dữ liệu nhỏ và xử lý nhiều tác vụ AI cùng lúc. Lựa chọn dành cho người xem AI là một phần cốt lõi trong công việc.

Kết luận

Bí quyết build PC chạy AI local thật ra rất gọn: bắt đầu từ câu hỏi “bạn muốn chạy model nào, cho công việc gì”, từ đó suy ra mức VRAM cần thiết, rồi cân CPU, RAM, SSD cho hài hòa. Đi đúng trình tự này, bạn sẽ có một dàn máy vừa vặn ngân sách mà vẫn chạy mượt những gì mình cần.

Tất nhiên, việc cân chỉnh chính xác giữa nhu cầu, ngân sách và khả năng nâng cấp về sau sẽ nhẹ nhàng hơn nhiều khi có người đồng hành am hiểu.

Mời bạn tham khảo dòng PC AI tại Nguyễn Thuận Computer – được cấu hình chuẩn cho từng nhu cầu chạy AI local, từ LLM, tạo ảnh đến tinh chỉnh model. Đội ngũ kỹ thuật sẽ tư vấn cấu hình tối ưu theo đúng model bạn định chạy và ngân sách của bạn, hỗ trợ cả Build PC theo nhu cầu và giao lắp tận nơi.

Thông tin liên hệ:

• Chi Nhánh HCM: 201 Bông Sao , Phường Bình Đông , TP.HCM (Phường 5, Quận 8 cũ)
• Chi Nhánh Vũng Tàu: 197 Đường 30/4, Phường Rạch Dừa, TP.HCM (TP. Vũng Tàu cũ)
• Website: www.thuancomputer.com
• Hotline: 0937.801.009
• E-mail: cskh@thuancomputer.com