الموقع الحاسم للشبكة في عصر نماذج الذكاء الاصطناعي الكبيرة
لقد بدأ عصر النماذج الكبيرة في إظهار الطلب المتزايد على أجهزة الشبكة. ستتناول هذه المقالة لماذا أصبحت الشبكة هي الحلقة الأساسية في عصر الذكاء الاصطناعي، وستناقش الابتكارات وفرص الاستثمار المستقبلية في جانب الشبكة.
مصدر الطلب على الشبكة
دخلنا عصر النماذج الكبيرة، حيث تتسع الفجوة بسرعة بين حجم النموذج وحدود بطاقة الرسومات الواحدة، مما يجعل تجمعات الخوادم المتعددة هي الحل لمشاكل التدريب. لم تعد الشبكة تستخدم فقط لنقل البيانات، بل أصبحت تستخدم بشكل أكبر لمزامنة معلمات النموذج بين بطاقات الرسومات، مما يتطلب متطلبات أعلى من حيث كثافة الشبكة وسعتها.
حجم النموذج الضخم يعني:
وقت التدريب = حجم بيانات التدريب × عدد معلمات النموذج / معدل الحساب
معدل الحساب = معدل الحساب لكل设备 × عدد设备 × كفاءة التوازي المتعدد للأجهزة
في سعيها لتحقيق بيانات ومعلمات أكبر، أصبحت زيادة كفاءة الحساب المفتاح لتقليل زمن التدريب. بينما يحدد توسيع "عدد الأجهزة" وزيادة "كفاءة التوازي" مباشرة القدرة الحسابية.
التواصل المعقد لمزامنة بطاقات متعددة
أثناء تدريب النموذج الكبير، بعد تقسيم النموذج إلى بطاقة واحدة، يجب إجراء المحاذاة بعد كل عملية حسابية. عمليات مثل All-to-All شائعة نسبيًا، مما يضع متطلبات أعلى على نقل الشبكة والتبادل.
تكاليف الأعطال المكلفة
تدريب النماذج الكبيرة غالبًا ما يستمر لعدة أشهر، وقد يتطلب التوقف العودة إلى نقطة انقطاع قبل عدة أيام لإعادة التدريب. يمكن أن يتسبب خلل أو تأخير عالٍ في أحد حلقات الشبكة في حدوث توقف، مما يؤدي إلى تأخر في التقدم وتكاليف باهظة. أصبحت الشبكات الحديثة للذكاء الاصطناعي تجسيدًا لقدرة الهندسة النظامية البشرية.
اتجاه الابتكار في الشبكات
تتحرك الأجهزة وفقًا للطلب، وقد بلغ حجم الاستثمار العالمي في قوة الحوسبة عدة مئات من مليارات الدولارات. ستظل "خفض التكاليف" و"الانفتاح" وتوازن حجم قوة الحوسبة الموضوعات الرئيسية للابتكار في الشبكات.
تغيير وسائط الاتصال
الضوء والنحاس والسيليكون هي الوسائط الثلاثة الرئيسية للنقل. تسعى وحدات الضوء إلى تحقيق سرعات أعلى بينما بدأت أيضًا في طرق خفض التكاليف مثل LPO وLRO والضوء السيليكوني. يحتل كابل النحاس مكانه في الاتصالات داخل الخزانات بفضل نسبة التكلفة إلى الأداء. تسرع تقنيات جديدة مثل Chiplet وWafer-scaling من استكشاف الحدود القصوى للاتصالات القائمة على السيليكون.
تنافس بروتوكولات الشبكة
بروتوكول الاتصال بين الشرائح مرتبط ارتباطًا وثيقًا بوحدات معالجة الرسوميات، مثل NV-LINK من إنفيديا وInfinity Fabric من AMD، مما يحدد الحد الأقصى لقدرات العقد الفردية. المنافسة بين IB وEthernet هي السمة الرئيسية لتواصل العقد.
تغيرات بنية الشبكة
يتم استخدام هيكل الورقة الشجرية بشكل شائع حاليًا، ولكن مع زيادة عدد العقد، فإن هيكل الورقة الشجرية يكون أكثر تكلفة في التجمعات الكبيرة جدًا. من المتوقع أن تصبح هياكل مثل هيكل التنين وهياكل السكك الحديدية فقط اتجاهات تطورية للتجمعات الكبيرة جدًا من الجيل التالي.
نصائح استثمارية
الرابط الأساسي لنظام الاتصالات: Zhongji Innolight ، Xin Yisheng ، Tianfu Communication ، Industrial Fortune Union ، Invic ، Shanghai Electric Co.، Ltd.
ابتكارات نظام الاتصالات: تشانغفي للألياف الضوئية، تاي تشينغ غوانغ، يوان جيه تكنولوجي، شينغ كيه للاتصالات، هان وو جي، دي كولي.
تنبيه المخاطر: الطلب على الذكاء الاصطناعي أقل من المتوقع، فشل قانون التوسع، تنافسية الصناعة تتصاعد
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
تسجيلات الإعجاب 15
أعجبني
15
7
مشاركة
تعليق
0/400
BtcDailyResearcher
· 07-11 16:33
الكتلة هي الجوهر الحقيقي
شاهد النسخة الأصليةرد0
FortuneTeller42
· 07-10 20:33
الإنترنت هو الأساس
شاهد النسخة الأصليةرد0
HashBrownies
· 07-10 16:53
كيف يمكن حل مشكلة التخزين
شاهد النسخة الأصليةرد0
Layer3Dreamer
· 07-09 14:22
من الناحية النظرية، فإن عنق الزجاجة في توسيع الشبكة يعكس تحديات تزامن حالة L2. تمامًا كما تتطلب الاتصالات عبر الروول أب بروتوكولات جسر محسّنة، فإن تدريب نماذج الذكاء الاصطناعي يتطلب تزامن معلمات متطور عبر مجموعات GPU. هذا التوازي يقترح احتمال التقارب بين حلول التشغيل البيني للبلوك تشين وهندسة شبكة الذكاء الاصطناعي.
عصر نماذج الذكاء الاصطناعي الكبيرة: تحليل انفجار الطلب على أجهزة الشبكة وفرص الاستثمار
الموقع الحاسم للشبكة في عصر نماذج الذكاء الاصطناعي الكبيرة
لقد بدأ عصر النماذج الكبيرة في إظهار الطلب المتزايد على أجهزة الشبكة. ستتناول هذه المقالة لماذا أصبحت الشبكة هي الحلقة الأساسية في عصر الذكاء الاصطناعي، وستناقش الابتكارات وفرص الاستثمار المستقبلية في جانب الشبكة.
مصدر الطلب على الشبكة
دخلنا عصر النماذج الكبيرة، حيث تتسع الفجوة بسرعة بين حجم النموذج وحدود بطاقة الرسومات الواحدة، مما يجعل تجمعات الخوادم المتعددة هي الحل لمشاكل التدريب. لم تعد الشبكة تستخدم فقط لنقل البيانات، بل أصبحت تستخدم بشكل أكبر لمزامنة معلمات النموذج بين بطاقات الرسومات، مما يتطلب متطلبات أعلى من حيث كثافة الشبكة وسعتها.
حجم النموذج الضخم يعني:
في سعيها لتحقيق بيانات ومعلمات أكبر، أصبحت زيادة كفاءة الحساب المفتاح لتقليل زمن التدريب. بينما يحدد توسيع "عدد الأجهزة" وزيادة "كفاءة التوازي" مباشرة القدرة الحسابية.
التواصل المعقد لمزامنة بطاقات متعددة
أثناء تدريب النموذج الكبير، بعد تقسيم النموذج إلى بطاقة واحدة، يجب إجراء المحاذاة بعد كل عملية حسابية. عمليات مثل All-to-All شائعة نسبيًا، مما يضع متطلبات أعلى على نقل الشبكة والتبادل.
تكاليف الأعطال المكلفة
تدريب النماذج الكبيرة غالبًا ما يستمر لعدة أشهر، وقد يتطلب التوقف العودة إلى نقطة انقطاع قبل عدة أيام لإعادة التدريب. يمكن أن يتسبب خلل أو تأخير عالٍ في أحد حلقات الشبكة في حدوث توقف، مما يؤدي إلى تأخر في التقدم وتكاليف باهظة. أصبحت الشبكات الحديثة للذكاء الاصطناعي تجسيدًا لقدرة الهندسة النظامية البشرية.
اتجاه الابتكار في الشبكات
تتحرك الأجهزة وفقًا للطلب، وقد بلغ حجم الاستثمار العالمي في قوة الحوسبة عدة مئات من مليارات الدولارات. ستظل "خفض التكاليف" و"الانفتاح" وتوازن حجم قوة الحوسبة الموضوعات الرئيسية للابتكار في الشبكات.
تغيير وسائط الاتصال
الضوء والنحاس والسيليكون هي الوسائط الثلاثة الرئيسية للنقل. تسعى وحدات الضوء إلى تحقيق سرعات أعلى بينما بدأت أيضًا في طرق خفض التكاليف مثل LPO وLRO والضوء السيليكوني. يحتل كابل النحاس مكانه في الاتصالات داخل الخزانات بفضل نسبة التكلفة إلى الأداء. تسرع تقنيات جديدة مثل Chiplet وWafer-scaling من استكشاف الحدود القصوى للاتصالات القائمة على السيليكون.
تنافس بروتوكولات الشبكة
بروتوكول الاتصال بين الشرائح مرتبط ارتباطًا وثيقًا بوحدات معالجة الرسوميات، مثل NV-LINK من إنفيديا وInfinity Fabric من AMD، مما يحدد الحد الأقصى لقدرات العقد الفردية. المنافسة بين IB وEthernet هي السمة الرئيسية لتواصل العقد.
تغيرات بنية الشبكة
يتم استخدام هيكل الورقة الشجرية بشكل شائع حاليًا، ولكن مع زيادة عدد العقد، فإن هيكل الورقة الشجرية يكون أكثر تكلفة في التجمعات الكبيرة جدًا. من المتوقع أن تصبح هياكل مثل هيكل التنين وهياكل السكك الحديدية فقط اتجاهات تطورية للتجمعات الكبيرة جدًا من الجيل التالي.
نصائح استثمارية
الرابط الأساسي لنظام الاتصالات: Zhongji Innolight ، Xin Yisheng ، Tianfu Communication ، Industrial Fortune Union ، Invic ، Shanghai Electric Co.، Ltd.
ابتكارات نظام الاتصالات: تشانغفي للألياف الضوئية، تاي تشينغ غوانغ، يوان جيه تكنولوجي، شينغ كيه للاتصالات، هان وو جي، دي كولي.
تنبيه المخاطر: الطلب على الذكاء الاصطناعي أقل من المتوقع، فشل قانون التوسع، تنافسية الصناعة تتصاعد