公開:2025年4月6日 /更新:2025年4月6日 - 著者: Konrad Wolfenstein
ラマ4:メタからの新世代のオープンAIシステム
Llama4が明らかにした:次のAI時代のメタキー
Metaは、2025年4月5日に彼のAIモデルの最新世代であるLlama 4を発表しました。これらの新しいモデルは、オープンAIシステムの開発における大きな進歩を表し、パフォーマンスと効率を大幅に向上させる画期的な機能をいくつか持っています。 Llama 4シリーズはさまざまなモデルで構成されており、そのうち2つはすでに公開されていますが、最も強力なモデルはまだトレーニングフェーズにあります。
に適し:
ラマ4モデルファミリー
Metaは、Llama 4シリーズで3つの異なるモデルを開発しており、それぞれがさまざまなアプリケーションに最適化されています。
ラマ4スカウト
Llama 4 Scoutは、印象的な技術仕様を備えたコンパクトモデルです。
- 16人の専門家がいる170億のアクティブパラメーター(合計1000億パラメーター)
- INT4量子化を備えた単一のNVIDIA H100 GPUで操作できます
- 1000万トークンの非常に大きなコンテキストウィンドウがあり、この容量を持つ最初のオープンモデルの1つになります
Metaによると、ScoutはGemini 3、Gemini 2.0 Flash-Lite、Mistral 3.1などのクラスの他のモデルを超えています。これは、長いドキュメントの要約、ユーザーデータに基づくパーソナライズ、大量の知識に関する複雑な結論などのタスクに特に適しています。
ラマ4マーベリック
Llama 4 Maverickは、利用可能な2つのモデルの中でより強力です。
- 128人の専門家がいる170億のアクティブパラメーター(合計4,000億パラメーター)
- 実験的なチャットバージョンは、LmarenaでELO 1417に到達しました
- 多数のベンチマークでGPT-4OやGemini 2.0フラッシュなどのモデルを超えています
このモデルは、創造的なライティングなどの一般的な支援やチャットアプリケーションに特に適しており、推論およびコーディングタスクでDeepSeek V3に匹敵する結果を示していますが、パラメーターの半分があります。
llama 4 Behemoth
Llama 4 BehemothはMetasの最も強力なモデルであり、まだ公開されていません。
- 16人の専門家がいる288億のアクティブパラメーター(合計2兆パラメーター)
- Metaによると、いくつかのSTEMベンチマークのGPT-4.5、Claude Sonnet 3.7、およびGemini 2.0 Proを超えています
- より小さなllama4モデルの「教師モデル」として機能します
Behemothは現在、まだトレーニングフェーズにあり、後日公開されます。
技術的な革新
Llama 4モデルシリーズは、パフォーマンスと効率を向上させるいくつかの重要な技術革新を紹介します。
専門家(MOE)建築の混合
Llama 4の最も重要な革新の1つは、エキスパート(MOE)アーキテクチャの混合物です。これには、すべてのトークンに対してモデルパラメーターの一部のみがアクティブになります。
- これにより、高性能が保存されている間、計算の取り組みと遅延が大幅に削減されます
- Llama 4 Maverickでは、各トークンは共通の専門家と128人のGerized Expertsの1人によって処理されます
- このアーキテクチャにより、推論コストを増やすことなく、モデルの合計パラメーターを増やすことができます
早期融合を伴うネイティブのマルチモダリティ
Llama 4は、初期の融合によるネイティブマルチモダリティを備えた最初のオープンモデルです。
- テキストと画像トークンは、均一なモデルアーキテクチャに統合されています
- これにより、大量のテキスト、画像、ビデオデータを使用した共同予備トレーニングが可能になります
- テキストと画像に個別のパラメーターを使用したLlama 3.2とは対照的に、Llama 4は同じパラメーターの両方のモダリティを理解しています
非常に長いコンテキストウィンドウ
ラマ4スカウトの非常に長いコンテキストウィンドウは特に印象的です。
- 1,000万個のトークンを使用すると、利用可能なモデルのほとんどを明らかに超えています
- これにより、非常に長いドキュメント、コードベース全体、または広範な会話の処理が可能になります
- これを可能にします
新しいトレーニング方法
メタは、ラマ4のトレーニングにいくつかの革新的な方法を使用しています。
- メタップ:クリティカルモデルハイパーアメーターの堅牢な調整のための手法
- FP8精度:効率的なトレーニングのために8ビットスライドメイドの数字を使用する
- 共蒸留:小さなモデルの教師モデルとしてのLlama4 Behemothの使用
- 強化を備えた完全に非同期のオンライン学習:大規模な学習のための新しいインフラストラクチャ
可用性と統合
Llama 4モデルは、さまざまなプラットフォームやサービスを介して利用できます。
ダウンロードとクラウドプロバイダー
- モデルのスカウトとマーベリックは、メタから直接、または抱きしめて顔を介してダウンロードできます
- また、さまざまなクラウドプラットフォームを介して利用できます。
- CloudFlareワーカーAI
- Azure AI Foundry and Azure Databricks
- Google CloudのVertex AI
- 他のパートナーは今後数日で続きます
メタ製品への統合
Metaは、Llama 4のさまざまなプラットフォームでAIアシスタントをすでに更新しています。
- WhatsApp、Messenger、Instagramは40か国で直接直接
- Meta.ai Webサイト
- ただし、マルチモーダル関数は現在、英語の英語ユーザーが米国でのみ利用できます。
に適し:
ライセンスと論争
メタラマ4は「オープンソース」を指しますが、ライセンスには論争を引き起こしたいくつかの制限があります。
ライセンス制限
Llama 4コミュニティライセンスには、いくつかの制限が含まれています。
- 毎月7億人以上のアクティブユーザーがいる企業は、メタから特別なライセンスを必要としています
- おそらく規制要件のために、モデルは明らかにEUからユーザーや企業を使用または配布することは許可されていません
- 派生モデルの命名と帰属に関する要件があります
「オープンソース」についての議論
Llama 4を実際に「オープンソース」と呼ぶべきかどうかについて議論があります。
- 2023年にラマライセンスの制限が「「オープンソース」から」カテゴリを取り出すことがわかったオープンソースイニシアチブ
- 批評家は、それが実際のオープンソースソフトウェアよりも「ソースオープン」または「オープンウェイトを使用して」モデルのようなものであると主張しています
- ライセンスの制限は、独自の法務部門のない中小企業にとって問題がある可能性があります
将来の計画
メタはすでに、ラマ4以降の将来の計画についていくつかの洞察を与えています。
ラマコンとその他の発表
- メタは2025年4月29日に最初のラマコン会議を開催し、AIモデルと製品計画の詳細を発表する予定です
- 同社はまた、第2四半期にメタチャットボットの専用アプリケーションを公開する予定です
言語スキルの拡大
- メタは、より自然な会話を可能にするために、ラマ4の言語スキルの向上に取り組んでいます
- 目的は、ユーザーがAIモデルを中断できる、より流動的な両面ダイアログを可能にすることです
- Metaの最高製品責任者であるChris Coxは、今後のLlama 4をテキストに翻訳する代わりに母国語を可能にする「Omniモデル」と説明しました。
エージェントAIと拡張スキル
- Mark Zuckerbergは、Llama 4が新しいアプリケーションを可能にする「エージェントスキル」を持つことを発表しました
- メタは、「一般的な行動を実行し、もちろん人々とコミュニケーションを取り、挑戦的な問題を解決する」というAIモデルを開発することを目指しています。
- 同社は、予約やビデオ制作などのエージェント目的でAIアシスタントのためにプレミアムサブスクリプションを提供することを検討しています
なぜllama4がAIの風景のターニングポイントであるのか
Llama 4の出版は、非常に競争力のある分野の生成AIの主要な分野になるためのMETAS戦略の重要なステップを表しています。専門家の建築、ネイティブのマルチモダリティ、印象的な長いコンテキストウィンドウの導入により、メタはオープンモデルが大規模なテクノロジー企業の独自モデルに追いつくことができることを示しています。
ライセンスについての論争と、ラマ4が実際に「オープンソース」と呼ばれるべきかどうかという問題にもかかわらず、技術的な進歩は重要なマイルストーンです。モデルがテキストと画像の両方を処理する能力は、開発者と企業に新しい機会を開きます。
傑出したLlama 4 Behemothと発表された言語およびエージェントスキルの拡大計画により、MetaがAIへの投資をさらに強化することは明らかです。今後数か月は、これらの新しいモデルがAIの風景をどのように変えるか、そしてマーク・ザッカーバーグによって予測されたように、実際に人工知能の分野でAIモデルを開いているのに役立つかどうかを示します。
に適し:
あなたのグローバルマーケティングおよびビジネス開発パートナー
☑️ 私たちのビジネス言語は英語またはドイツ語です
☑️ NEW: 母国語での通信!
喜んで個人アドバイザーとしてあなたと私のチームにお役に立ちたいと思っています。
お問い合わせフォームにご記入 +49 89 89 674 804 (ミュンヘン)までお電話ください。私のメールアドレスは: wolfenstein ∂ xpert.digital
私たちの共同プロジェクトを楽しみにしています。