TIN BÀI KHÁC

Nvidia được cho là đang trong cuộc chạy đua duy trì khả năng tương thích tác vụ AI trên những con chip trên laptop, trong khi Microsoft đẩy mạnh chuyển mô hình AI sang các NPU.

Giới quan sát nhận định Nvidia đang tập trung xây dựng thương hiệu “máy tính xách tay RTX AI”, trong đó lưu ý GPU của hãng có khả năng xử lý tác vụ AI nặng hơn NPU.

Hiện các NPU đang đạt mức hiệu suất khoảng 40 nghìn tỷ phép tính mỗi giây (TOPS), trong khi GPU PC của Nvidia có thể xử lý hơn 1.000 TOPS. Do đó, NPU thường được sử dụng cho các mẫu thiết bị nhỏ như laptop nhằm cân bằng hiệu suất và thời lượng pin, còn GPU sẽ được sử dụng trên PC - những cỗ máy không cần quan tâm tới vấn đề pin.

Trong tháng này, Nvidia dự kiến ra mắt Bộ RTX AI gồm các công cụ và bộ phát triển phần mềm (SDK) phục vụ cho việc tuỳ chỉnh, tối ưu hoá và triển khai các mô hình. Các công cụ này sẽ sử dụng Llama 2 của Meta làm nền tảng tối ưu hoá với yêu cầu VRAM ít hơn và hiệu suất cao hơn.

Nvidia cũng đang cộng tác với Microsoft nhầm nâng cao hiệu suất các mô hình AI cơ bản tích hợp trong Windows 11. 

(Theo TheVerge)