Cuộc chiến của mô hình lớn trong bối cảnh thiếu hụt khả năng tính toán

Sự bùng nổ của các mô hình lớn đã khiến khả năng tính toán trở thành một mô hình kinh doanh mới. Tuy nhiên, ngành công nghiệp đang đối mặt với thách thức thiếu hụt GPU cao cấp và chi phí cao. Mặc dù cơn sốt này cuối cùng sẽ qua đi, các nhà cung cấp dịch vụ khả năng tính toán cần chuẩn bị trước, kịp thời chuyển đổi.

Khả năng tính toán thiếu hụt có bao nhiêu lớn?

Nhu cầu về GPU cao cấp vượt quá cung đã trở thành vấn đề được ngành công nhận. Vào thời điểm cao điểm, giá của một chiếc Nvidia A100 đã được đẩy lên 200.000 - 300.000 nhân dân tệ, tiền thuê một máy chủ A100 trong một tháng cũng lên tới 50.000 - 70.000 nhân dân tệ. Dù vậy, đôi khi vẫn khó để có được chip. Một số nhà cung cấp khả năng tính toán thậm chí đã gặp phải tình huống nhà cung cấp không thực hiện hợp đồng.

Giám đốc điều hành ngành điện toán đám mây Chu Lập Quân cho biết, mặc dù nhu cầu của khách hàng đối với tài nguyên GPU cao cấp rất lớn, nhưng hiện tại nguồn cung vẫn không thể hoàn toàn đáp ứng nhu cầu của thị trường.

Các chuyên gia trong ngành ước tính, tổng số GPU trên thị trường hiện khoảng 100.000 chiếc, các công ty đang tranh nhau tích trữ "hàng hóa" để xác định thị phần. Có tin cho rằng, một công ty có thể giữ lại khoảng 40.000 chiếc vào cuối năm, chiếm 20% thị phần.

Chi phí để huấn luyện mô hình lớn rất cao. Lấy mô hình khí tượng Pangu làm ví dụ, chỉ riêng chi phí huấn luyện đã vượt quá 2 triệu nhân dân tệ. Đối với các mô hình lớn hơn với nhiều tham số hơn, chi phí có thể gấp 10-100 lần con số này. Phó chủ tịch Tập đoàn Tencent, ông Khâu Nhược Bằng, tiết lộ rằng nếu không có hàng tỷ vốn đầu tư, rất khó để phát triển liên tục các mô hình lớn.

Doanh nghiệp nên ứng phó như thế nào?

Đối mặt với sự thiếu hụt khả năng tính toán, các doanh nghiệp áp dụng nhiều chiến lược khác nhau:

1. Sử dụng dữ liệu chất lượng cao để nâng cao hiệu suất đào tạo
2. Tối ưu hóa cơ sở hạ tầng, đạt được hoạt động ổn định ở cấp độ nghìn calo
3. Cải thiện khả năng tính toán, nâng cao tỷ lệ sử dụng tài nguyên
4. Chuyển từ điện toán đám mây sang kiến trúc siêu máy tính giúp giảm chi phí
5. Sử dụng nền tảng nội địa thay thế GPU của Nvidia

Các doanh nghiệp vừa và nhỏ khó khăn trong việc tự xây dựng trung tâm dữ liệu, thường chọn các nhà cung cấp dịch vụ khả năng tính toán chuyên nghiệp. Cụm GPU cấp ngàn calo mới có hiệu ứng quy mô, việc chọn nhà cung cấp dịch vụ có thể giảm chi phí biên.

Khả năng tính toán dịch vụ mô hình mới

Khả năng tính toán dịch vụ trở thành ngành công nghiệp mới, bao gồm khả năng tính toán chung, khả năng tính toán thông minh và khả năng tính toán siêu. Nó không chỉ cung cấp khả năng tính toán, mà còn tích hợp lưu trữ, mạng và các tài nguyên khác, để cung cấp dịch vụ dưới dạng API.

Khả năng tính toán ngành công nghiệp được chia thành ba lớp:

• Thượng nguồn: nhà cung cấp tài nguyên cơ bản ( như Nvidia )
• Trung gian: Nhà cung cấp dịch vụ đám mây, nhà cung cấp dịch vụ khả năng tính toán
• Hạ nguồn: người dùng trong ngành

Các công ty mô hình lớn chủ yếu sử dụng khả năng tính toán theo ba cách: gọi API, tự xây dựng mô hình nhỏ, hợp tác với nhà cung cấp đám mây.

Sự tiến hóa của mô hình kinh doanh

Hiện tại, các mô hình tính phí phổ biến bao gồm tính phí theo khối lượng và gói theo năm hoặc theo tháng. Người dùng có thể chọn các phiên bản GPU hoặc dịch vụ nền tảng MaaS.

Ngành đang thúc đẩy "tích hợp tính toán và mạng", đạt được điều phối tài nguyên giữa các kiến trúc, khu vực và nhà cung cấp dịch vụ khác nhau. Các nhà cung cấp dịch vụ đám mây cũng sẽ xem dịch vụ khả năng tính toán như một sản phẩm độc đáo.

Năm 2022, tổng quy mô khả năng tính toán của Trung Quốc đạt 180EFLOPS, quy mô ngành đạt 1.8 triệu tỷ nhân dân tệ. Mô hình lớn đã thúc đẩy sự phát triển của ngành khả năng tính toán.

Có quan điểm cho rằng, dịch vụ khả năng tính toán hiện tại tương tự như mô hình "bán điện" mới, nhưng có thể cần cung cấp thêm nhiều dịch vụ tối ưu hệ thống và vận hành.

Với nhu cầu trở thành bình thường, dịch vụ khả năng tính toán đã hình thành chuỗi ngành và mô hình kinh doanh độc đáo. Hiện tại, điểm cạnh tranh chính nằm ở việc có được khả năng GPU từ chuỗi cung ứng. Tuy nhiên, các nhà nghiên cứu lâu dài thường chọn cách chờ đợi, chủ yếu là do các công ty khởi nghiệp đang tranh giành tài nguyên.

Tương lai của dịch vụ khả năng tính toán có xu hướng rõ ràng, nhà cung cấp cần chuẩn bị sẵn sàng cho những thay đổi của thị trường.