Khả năng tính toán trở thành mô hình kinh doanh mới, nhà cung cấp cần chuẩn bị trước.
Cơn sốt đào tạo mô hình lớn đang thúc đẩy khả năng tính toán trở thành một mô hình kinh doanh mới. Tuy nhiên, sự thiếu hụt GPU cao cấp và chi phí khả năng tính toán cao cũng đã mang lại thách thức cho ngành.
Theo thống kê, Trung Quốc đã có hơn 100 mô hình lớn với quy mô 10 tỷ tham số. Nhưng việc đào tạo những mô hình này cần một khoản đầu tư khả năng tính toán khổng lồ. Lấy một mô hình lớn dọc theo lĩnh vực khí tượng làm ví dụ, chỉ riêng chi phí đào tạo có thể vượt quá 2 triệu nhân dân tệ. Trong khi đó, chi phí đào tạo mô hình lớn tổng quát có thể cao tới hàng chục tỷ nhân dân tệ.
Đối mặt với tình trạng khó khăn trong việc tìm kiếm GPU cao cấp, các chuyên gia trong ngành đang tích cực tìm kiếm giải pháp. Một số phương pháp bao gồm: sử dụng dữ liệu chất lượng cao hơn để nâng cao hiệu quả đào tạo; nâng cao khả năng cơ sở hạ tầng để đảm bảo hoạt động ổn định; tối ưu hóa việc phân bổ tài nguyên khả năng tính toán; chuyển từ kiến trúc điện toán đám mây sang kiến trúc siêu máy tính; sử dụng nền tảng nội địa thay thế cho GPU của Nvidia.
Khả năng tính toán đã trở thành một mô hình dịch vụ mới. Ngành công nghiệp dịch vụ khả năng tính toán cung cấp tài nguyên cơ bản ở thượng nguồn, các doanh nghiệp ở trung nguồn chịu trách nhiệm sản xuất và cung cấp khả năng tính toán, còn hạ nguồn là những người dùng ngành công nghiệp dựa vào dịch vụ khả năng tính toán để gia tăng giá trị.
Hiện nay, các mô hình tính phí dịch vụ khả năng tính toán chủ yếu bao gồm tính phí theo lượng sử dụng và gói năm gói tháng. Người dùng có thể lựa chọn các phiên bản GPU cụ thể hoặc sử dụng nền tảng MaaS để đào tạo mô hình. Ngành công nghiệp cũng đang thúc đẩy "tích hợp khả năng tính toán và mạng", hỗ trợ điều phối linh hoạt giữa các kiến trúc và khu vực.
Với nhu cầu mô hình lớn trở thành bình thường, khả năng tính toán dịch vụ đang phát triển nhanh chóng thành một ngành công nghiệp độc đáo. Nhưng về lâu dài, tình trạng thiếu chip cuối cùng sẽ được cải thiện. Các nhà cung cấp dịch vụ khả năng tính toán cần chuẩn bị trước cho sự chuyển đổi sau khi thị trường trở lại sự hợp lý.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
21 thích
Phần thưởng
21
4
Chia sẻ
Bình luận
0/400
ContractTester
· 07-08 17:15
Card đồ họa tăng lên điên cuồng rồi, sắp chết đói rồi.
Xem bản gốcTrả lời0
GasFeeCrybaby
· 07-07 16:58
thua lỗ rồi, giá card đồ họa vẫn đang xanh
Xem bản gốcTrả lời0
0xSleepDeprived
· 07-06 00:11
Không có tiền để đào thẻ đồ họa thì đừng khoe khoang.
Khả năng tính toán dịch vụ trở thành mô hình kinh doanh mới Chi phí đào tạo mô hình lớn cao
Khả năng tính toán trở thành mô hình kinh doanh mới, nhà cung cấp cần chuẩn bị trước.
Cơn sốt đào tạo mô hình lớn đang thúc đẩy khả năng tính toán trở thành một mô hình kinh doanh mới. Tuy nhiên, sự thiếu hụt GPU cao cấp và chi phí khả năng tính toán cao cũng đã mang lại thách thức cho ngành.
Theo thống kê, Trung Quốc đã có hơn 100 mô hình lớn với quy mô 10 tỷ tham số. Nhưng việc đào tạo những mô hình này cần một khoản đầu tư khả năng tính toán khổng lồ. Lấy một mô hình lớn dọc theo lĩnh vực khí tượng làm ví dụ, chỉ riêng chi phí đào tạo có thể vượt quá 2 triệu nhân dân tệ. Trong khi đó, chi phí đào tạo mô hình lớn tổng quát có thể cao tới hàng chục tỷ nhân dân tệ.
Đối mặt với tình trạng khó khăn trong việc tìm kiếm GPU cao cấp, các chuyên gia trong ngành đang tích cực tìm kiếm giải pháp. Một số phương pháp bao gồm: sử dụng dữ liệu chất lượng cao hơn để nâng cao hiệu quả đào tạo; nâng cao khả năng cơ sở hạ tầng để đảm bảo hoạt động ổn định; tối ưu hóa việc phân bổ tài nguyên khả năng tính toán; chuyển từ kiến trúc điện toán đám mây sang kiến trúc siêu máy tính; sử dụng nền tảng nội địa thay thế cho GPU của Nvidia.
Khả năng tính toán đã trở thành một mô hình dịch vụ mới. Ngành công nghiệp dịch vụ khả năng tính toán cung cấp tài nguyên cơ bản ở thượng nguồn, các doanh nghiệp ở trung nguồn chịu trách nhiệm sản xuất và cung cấp khả năng tính toán, còn hạ nguồn là những người dùng ngành công nghiệp dựa vào dịch vụ khả năng tính toán để gia tăng giá trị.
Hiện nay, các mô hình tính phí dịch vụ khả năng tính toán chủ yếu bao gồm tính phí theo lượng sử dụng và gói năm gói tháng. Người dùng có thể lựa chọn các phiên bản GPU cụ thể hoặc sử dụng nền tảng MaaS để đào tạo mô hình. Ngành công nghiệp cũng đang thúc đẩy "tích hợp khả năng tính toán và mạng", hỗ trợ điều phối linh hoạt giữa các kiến trúc và khu vực.
Với nhu cầu mô hình lớn trở thành bình thường, khả năng tính toán dịch vụ đang phát triển nhanh chóng thành một ngành công nghiệp độc đáo. Nhưng về lâu dài, tình trạng thiếu chip cuối cùng sẽ được cải thiện. Các nhà cung cấp dịch vụ khả năng tính toán cần chuẩn bị trước cho sự chuyển đổi sau khi thị trường trở lại sự hợp lý.