Nhận định, soi kèo Esteghlal vs Esteghlal Khuzestan, 20h30 ngày 30/1: Cơ hội cho chủ nhà
本文地址:http://casino.tour-time.com/news/93f198880.html
版权声明
本文仅代表作者观点,不代表本站立场。
本文系作者授权发表,未经许可,不得转载。
本文仅代表作者观点,不代表本站立场。
本文系作者授权发表,未经许可,不得转载。
Nhận định, soi kèo Dewa United vs Semen Padang, 20h30 ngày 5/3: Out trình
Chi phí đào tạo và “suy luận” các mô hình ngôn ngữ lớn khác biệt so với công nghệ điện toán trước đây. Ngay cả khi đã phát triển hay đào tạo phần mềm, vẫn cần lượng lớn năng lực điện toán để vận hành các mô hình ngôn ngữ lớn vì chúng thực hiện hàng tỷ tính toán mỗi lần trả lời một truy vấn. Trong khi đó, cung cấp ứng dụng hay trang web nhẹ nhàng hơn nhiều.
Các phép tính cũng cần phần cứng chuyên biệt. Dù chip máy tính truyền thống vẫn có thể chạy mô hình máy học, tốc độ lại rất chậm. Hầu hết việc đào tạo và can thiệp đều diễn ra trên GPU – vốn dành cho game 3D – nhưng nay đã thành tiêu chuẩn cho ứng dụng AI vì chúng có thể thực hiện nhiều phép tính đơn giản đồng thời.
Nvidia sản xuất hầu hết GPU cho ngành công nghiệp AI. Con chip data center của hãng lên tới 10.000 USD.
Đào tạo và suy luận
Các nhà phân tích và chuyên gia công nghệ ước tính quy trình đào tạo mô hình ngôn ngữ lớn như GPT-3 của OpenAI mất hơn 4 triệu USD. Các công cụ hiện đại hơn sẽ tốn kém hơn. Chẳng hạn, mô hình LlaMA của Meta công bố tháng trước sử dụng 2.048 GPU Nvidia A100 để đào tạo 1,4 nghìn tỷ token (750 từ tương đương 1.000 token) trong khoảng 21 ngày.
Clement Denlangue, CEO startup HuggingFace, cho biết quy trình đào tạo mô hình ngôn ngữ lớn Bloom của họ mất hơn 2,5 tháng, cần đến siêu máy tính tương đương 500 GPU. Những tổ chức phát triển mô hình ngôn ngữ lớn phải thận trọng khi đào tạo lại phần mềm vì rất đắt đỏ.
Ông chia sẻ, không phải lúc nào các mô hình này cũng được đào tạo. Chính vì vậy một số mô hình như ChatGPT lại không có kiến thức về các sự kiện gần đây, mà dừng lại ở năm 2021.
Nếu sử dụng mô hình máy học đã được đào tạo để dự đoán hay tạo văn bản, kỹ sư dùng đến mô hình “suy luận”, còn đắt hơn cả đào tạo. Với một sản phẩm phổ biến như ChatGPT (100 triệu người dùng vào tháng 1), ước tính OpenAI phải bỏ ra 40 triệu USD để xử lý hàng triệu truy vấn mà mọi người nạp vào trong tháng đó.
Chi phí sẽ đội lên nhiều lần khi các công cụ này được dùng hàng tỷ lần mỗi ngày. Theo các chuyên gia tài chính, chatbot Bing AI của Microsoft – sử dụng mô hình ChatGPT – cần ít nhất 4 tỷ USD hạ tầng để phản hồi người dùng.
Trong trường hợp của Latitude, dù không mất tiền đào tạo mô hình ngôn ngữ, chi phí suy luận vào khoảng nửa cent/lần cho hàng triệu yêu cầu mỗi ngày.
Để gieo mầm cho AI, các nhà đầu tư mạo hiểm và Big Tech đã đầu tư hàng tỷ USD vào các startup chuyên về AI tạo sinh. Microsoft rót khoảng 10 tỷ USD cho OpenAI. Salesforce Ventures gần đây ra mắt quỹ 250 triệu USD dành riêng cho các startup trong lĩnh vực này.
Trông chờ vào thay đổi
Không rõ phát triển AI có còn tốn kém không khi ngành công nghiệp tiến xa hơn. Các công ty làm mô hình ngôn ngữ, nhà sản xuất bán dẫn và startup đều nhìn thấy cơ hội khi chi phí vận hành phần mềm AI giảm.
Nvidia – hãng nắm 95% thị phần chip AI – tiếp tục phát triển những phiên bản mạnh mẽ hơn cho máy học. CEO Jensen Huang tin rằng trong 10 năm tới, AI sẽ hiệu quả hơn “một triệu lần” không chỉ nhờ vào cải tiến của chip, mà còn do phần mềm và linh kiện máy tính khác.
Một số startup tập trung giải quyết chi phí khi vận hành AI, chẳng hạn D-Matrix. Startup này xây dựng hệ thống nhằm tiết kiệm chi phí suy luận bằng cách xử lý nhiều hơn trong bộ nhớ máy tính thay vì chỉ trên GPU. Theo nhà sáng lập D-Matrix, vấn đề là mọi người sử dụng GPU để thực hiện gần như mọi suy luận và mua các hệ thống đắt tiền từ Nvidia. Tuy nhiên, khối lượng công việc tăng rất nhanh và không có cách nào mà GPU theo kịp được vì nó không được làm ra cho điều đó. Nó được làm ra để đào tạo, tăng tốc đồ họa.
Delangue, CEO HuggingFace, tin rằng nhiều công ty sẽ được phục vụ tốt hơn nếu tập trung vào mô hình nhỏ, riêng biệt có chi phí đào tạo và vận hành thấp hơn, thay vì dùng mô hình ngôn ngữ lớn. Trong khi đó, tháng trước, OpenAI thông báo sẽ giảm giá truy cập mô hình GPT cho các doanh nghiệp, chỉ còn 1/5 cent cho mỗi 750 từ. Thay đổi lớn này mang đến cơ hội cho những hãng như Latitude hướng tới phục vụ người dùng tốt nhất.
(Theo CNBC)
Phát triển ChatGPT tốn kém ra sao?
![]() |
Màn biểu diễn của Rihanna tại Super Bowl. Ảnh: TMZ. |
Ở Utah, một người xem bình luận: "Màn biểu diễn giữa hiệp năm nay khiếm nhã đến mức tôi phải tắt TV vì nội dung khiêu dâm".
Trên sân khấu Super Bowl ngày 12/2, Rihanna đang mang thai nên không thể hiện vũ đạo nhiều. Dù chỉ thực hiện một vài động tác, nữ ca sĩ sinh năm 1988 vẫn bị chỉ trích phản cảm.
Cảm xúc tức giận của khán giả cũng nhắm đến các vũ công phụ họa. Các dancer này bị chỉ trích thực hiện những cử chỉ xúc phạm và hoàn toàn không phù hợp với trẻ em.
Theo TMZ, phần biểu diễn của Rihanna chưa phải tiết mục bị lên án nhiều nhất tại Super Bowl. Trước đó, sự cố trang phục hớ hênh của Justin Timberlake và Janet Jackson tại Super Bowl 2004 nhận tới 540.000 khiếu nại.
(Theo Zing)
">Màn biểu diễn của Rihanna bị chê vì gợi dục
Ngắm búp bê giống hệt bé sơ sinh
Nhận định, soi kèo Ajax vs Eintracht Frankfurt, 3h00 ngày 7/3: Lợi thế sân nhà
Diệu Thu
'Hoa hậu chuyển giới đẹp nhất Thái Lan' khóc trong lễ cưới với chồng doanh nhân
![]() |
Ông Nikhil Anand, giám đốc quốc gia Miss Grand India và Hoa hậu Rachel Gupta. Ảnh: @nikhilanand. |
Giám đốc quốc gia của Hoa hậu Hòa bình Ấn Độ tiếp tục: "Một số người quen của tôi muốn mua lại bản quyền Hoa hậu Hòa bình Ấn Độ. Tôi từng dự định sẽ bán lại bản quyền trong vài năm nữa. Nhưng điều này xảy ra sớm đến khó tin, đặc biệt là sau khi chúng tôi vừa chọn ra một người chiến thắng tại Hoa hậu Hòa bình Quốc tế là Rachel Gupta".
Thậm chí, ông Nikhil Anand còn nói thêm phía Hoa hậu Hòa bình Quốc tế nên học hỏi sự trung thành và cách tạo nên giá trị như tổ chức Miss Universe.
Trước đó, ngày 17/11, phía Miss Grand India thông báo về việc chấm dứt làm việc, hợp tác với ban tổ chức Miss Grand International.
"Sau khi cân nhắc kỹ lưỡng, chúng tôi đã quyết định ngừng làm việc với MGI. Quyết định này xuất phát từ việc nhận ra tầm nhìn và mục tiêu của hai bên khác nhau", đại diện Miss Grand India cho biết.
Sau đó, đến sáng 21/11, Miss Grand International đưa ra thông báo chính thức về lý do ngừng làm việc với Hoa hậu Hòa bình Ấn Độ.
Ban tổ chức MGI nói phía Miss Grand India không chuyên nghiệp khi liên tục chậm trễ trong việc thanh toán giấy phép và thiếu sự hỗ trợ, quảng bá cho cuộc thi cũng như Hoa hậu Rachel Gupta.
Rachel Gupta, sinh năm 2004, vừa đăng quang Hoa hậu Hòa bình Quốc. Tân hoa hậu đến từ Ấn Độ, cao 1,78 m, số đo ba vòng 81-61-91 cm, gương mặt đẹp sắc sảo. Ngoài công việc người mẫu, Gupta còn là CEO của học viện và salon làm đẹp.
Chuyên mục Giải trí giới thiệu loạt sách về thời trang: Thanh lịch kiểu Pháp là một trong ba tác phẩm đình đám về chủ đề phong cách Pháp - Parisian Chic. Quỷ cái vận đồ Prada mang lại cái nhìn cận cảnh vào thế giới của tạp chí và thời trang. Dress Code đưa ra những cách kết hợp thường ngày cho những bộ trang phục bình dị.
">Ông Nawat lại gây ồn ào
TIN BÀI KHÁC:
Dân Nepal đổ xô đi học thiền sau thảm họa">TQ phẫn nộ trước cảnh bé 2 tuổi bị hành hung dã man
友情链接