Mạng lưới Gonka đã tích hợp hơn 12,000 GPU tương đương H100, với phần lớn là các mô hình H100 và H200, tạo nên sức mạnh tính toán gần bằng các trung tâm AI quy mô lớn. Việc hỗ trợ gần 40 mô hình GPU từ cấp dữ liệu đến card đồ họa tiêu dùng giúp giảm đáng kể rào cản tham gia cho các nút MLNode.
Với hơn 3,000 người dùng hàng ngày trên năm mô hình suy diễn AI chính, hệ thống đang phục vụ nhu cầu ngày càng cao trong việc suy diễn và đào tạo AI phân quyền. Các mô hình như Qwen3-235B-A22B-Instruct-FP8 cho thấy xu hướng sử dụng ổn định, vượt khỏi giai đoạn thử nghiệm để tiến vào sản xuất thực tế.
Để lại một bình luận
Bạn phải đăng nhập để gửi bình luận.