Meta telah mengumumkan Llama 4, koleksi model AI terbarunya yang kini mendukung asisten Meta AI di web dan WhatsApp, Messenger, dan Instagram. Dua model baru, yang juga tersedia untuk diunduh dari Meta atau Hugging Face, adalah Llama 4 Scout, sebuah model kecil yang mampu dipasang dalam satu GPU Nvidia H100 dan Llama 4 Maverick, yang lebih mirip dengan GPT-4o dan Gemini 2.0 Flash. Meta mengatakan bahwa mereka masih dalam proses melatih Llama 4 Behemoth, yang menurut CEO Meta, Mark Zuckerberg, merupakan “model dasar dengan performa tertinggi di dunia.”
Menurut Meta, Llama 4 Scout memiliki 10 juta jendela konteks memori kerja model AI dan mengalahkan model Gemma 3 dan Gemini 2.0 Flash-Lite dari Google, serta Mistral 3.1 yang merupakan sumber terbuka, di berbagai macam tolok ukur yang dilaporkan secara luas, namun masih muat dalam satu GPU Nvidia H100. Meta membuat klaim serupa mengenai performa model Maverick yang lebih besar dibandingkan dengan GPT-4o dari OpenAI dan Gemini 2.0 Flash dari Google, dan mengatakan bahwa hasilnya sebanding dengan DeepSeek-V3 dalam hal pengkodean dan penalaran dengan menggunakan kurang dari separuh parameter aktif.
Sementara itu, Llama 4 Behemoth memiliki 288 miliar parameter aktif dengan total 2 triliun parameter. Meskipun belum dirilis, Meta mengatakan bahwa Behemoth dapat mengungguli para pesaingnya (dalam hal ini GPT-4.5 dan Claude Sonnet 3.7) pada beberapa benchmark STEM.
Menurut theverge.com, untuk Llama 4, Meta mengatakan bahwa mereka beralih ke arsitektur campuran para ahli (MoE), sebuah pendekatan yang menghemat sumber daya dengan hanya menggunakan bagian-bagian model yang diperlukan untuk tugas tertentu. Perusahaan berencana untuk mendiskusikan rencana masa depan untuk model dan produk AI pada konferensi LlamaCon, yang akan berlangsung pada tanggal 29 April.
Seperti model-model sebelumnya, Meta menyebut koleksi Llama 4 sebagai sumber terbuka, meskipun Llama telah dikritik karena pembatasan lisensinya. Sebagai contoh, lisensi Llama 4 mengharuskan entitas komersial dengan lebih dari 700 juta pengguna aktif bulanan untuk meminta izin dari Meta sebelum menggunakan modelnya, yang menurut Open Source Initiative pada tahun 2023 mengeluarkannya dari kategori ‘Open Source.