Meta Gandeng Qualcomm Sediakan Llama 2 di Smartphone dan PC

MENLO PARK - Setelah mengumumkan dan meluncurkan Llama 2, Meta langsung menjalin kerja sama dengan Qualcomm menjalankan aplikasi dan layanan berbasis model bahasa besar atau large language model (LLM) di smartphone dan PC. Qualcomm berencana mulai mendukung layanan AI berbasis Llama 2 pada perangkat yang menggunakan chip Snapdragon sekitar tahun 2024.

Llama 2 adalah model bahasa besar (LLM) generasi kedua buatan Meta dan Microsoft untuk aplikasi dan layanan AI generatif. Meta mengatakan bahwa Llama 2 telah dilatih dengan data 40% lebih banyak daripada Llama LLM generasi pertama.

Meta sudah mengumumkan kemitraan dengan Microsoft untuk membuat Llama 2 tersedia secara gratis untuk pengguna komersial dan penelitian di layanan Azure-nya. Termasuk dengan cara mengunduh dan menjalankan LLM secara lokal di PC Windows.

Baca juga; Microsoft dan Meta Luncurkan Model Bahasa Besar Llama 2 Bertenaga AI

Qualcomm mengatakan, tujuan menyediakan layanan Llama 2 di smartphone dan PC tanpa perlu terhubung ke layanan berbasis cloud seperti yang digunakan produk AI generatif lainnya ChatGPT dan Bing Obrolan.

Qualcomm mengatakan kemampuan menjalankan model bahasa besar seperti Llama 2 pada perangkat memiliki sejumlah keunggulan. Itu bisa lebih hemat biaya dibandingkan menggunakan LLM berbasis cloud dan menawarkan kinerja yang lebih baik, karena tidak harus terhubung ke layanan online.


Pada saat yang sama, LLM pada perangkat dapat menawarkan lebih banyak personalisasi layanan AI. Itu juga bisa lebih aman dan pribadi dibandingkan dengan menghubungkan ke server cloud.