AI大型モデルの時代:トランスフォーマーの台頭と100モデルの戦い

先月、AI界では「動物戦争」が勃発しました。一方はMetaのLlama（ラマ）、もう一方はFalcon（ファルコン）という名前の大規模モデルです。この二つのモデルはオープンソースLLMランキングで競い合い、交互にトップに立っています。

興味深いことに、Falconの開発者はテクノロジーの巨人ではなく、アラブ首長国連邦の研究所です。同国の官僚は、彼らがAI競争に参加する理由は「コアプレイヤーを覆すため」であると述べています。現在、十分な財力さえあれば、ほぼすべての国と企業が自分たちの大規模言語モデルを構築しています。

この"百模大戦"の背後には、2017年にGoogleが発表したTransformerアルゴリズムがあります。これは、機械が長文を理解するという問題を解決し、大規模モデルを理論研究から工学の問題に変えました。現在、GPTを含む他のモデルも、Transformerの基礎の上に構築されています。

Transformerの登場により、AI研究開発のハードルが大幅に低下しました。十分な計算能力とデータさえあれば、どの企業でも大規模モデルを訓練できるようになりました。このため、現在の百花繚乱の状況が生まれています - 統計によると、中国の大規模モデルの数はアメリカを超えて130個に達しました。

しかし、AI時代に巨頭になることができるかどうかは、単にパラメータを積み上げることにはありません。MetaのLlamaが成功したのは、その活発な開発者コミュニティのおかげです。そして、GPT-4が遥かに先行しているのは、OpenAIの強力な研究力によるものです。

現在、大規模モデル業界が直面している最大の課題は、利益の問題です。高騰する計算能力のコストにより、多くの企業がAIで深刻な損失を被っています。推定によれば、業界全体で年間のインフラへの投資は収入の1250億ドルを超える可能性があります。

したがって、将来の競争はおそらく、誰のモデルパラメータがより多いかではなく、誰が適切なビジネスモデルを見つけ、実際にAIを生産力に変えることができるかにかかっています。iPhone 4の成功がプロセッサーではなく、豊富なアプリエコシステムにあるように、AI業界の将来の勝者も、実用的なソリューションを提供できる企業である可能性が高いです。