Meta Gandeng Qualcomm Sediakan Llama 2 di Smartphone dan PC

MENLO PARK - Setelah mengumumkan dan meluncurkan Llama 2, Meta langsung menjalin kerja sama dengan Qualcomm menjalankan aplikasi dan layanan berbasis model bahasa besar atau large language model (LLM) di smartphone dan PC. Qualcomm berencana mulai mendukung layanan AI berbasis Llama 2 pada perangkat yang menggunakan chip Snapdragon sekitar tahun 2024.

Llama 2 adalah model bahasa besar (LLM) generasi kedua buatan Meta dan Microsoft untuk aplikasi dan layanan AI generatif. Meta mengatakan bahwa Llama 2 telah dilatih dengan data 40% lebih banyak daripada Llama LLM generasi pertama.

Meta sudah mengumumkan kemitraan dengan Microsoft untuk membuat Llama 2 tersedia secara gratis untuk pengguna komersial dan penelitian di layanan Azure-nya. Termasuk dengan cara mengunduh dan menjalankan LLM secara lokal di PC Windows.



Qualcomm mengatakan, tujuan menyediakan layanan Llama 2 di smartphone dan PC tanpa perlu terhubung ke layanan berbasis cloud seperti yang digunakan produk AI generatif lainnya ChatGPT dan Bing Obrolan.

Qualcomm mengatakan kemampuan menjalankan model bahasa besar seperti Llama 2 pada perangkat memiliki sejumlah keunggulan. Itu bisa lebih hemat biaya dibandingkan menggunakan LLM berbasis cloud dan menawarkan kinerja yang lebih baik, karena tidak harus terhubung ke layanan online.


Pada saat yang sama, LLM pada perangkat dapat menawarkan lebih banyak personalisasi layanan AI. Itu juga bisa lebih aman dan pribadi dibandingkan dengan menghubungkan ke server cloud.

“Kemampuan menjalankan model AI generatif seperti Llama 2 pada perangkat seperti smartphone, PC, dan headset VR/AR, memungkinkan pengembang menghemat biaya cloud. Tentu ini memberikan pengalaman pribadi, lebih andal, dan personal kepada pengguna,” keterangan Qualcomm dalam laman resminya dikutip SINDOnews dari Neowin, Rabu (19/7/2023).



Qualcomm dijadwalkan untuk menyediakan implementasi AI berbasis Llama 2 pada smartphone dan PC andalan mulai tahun 2024. Selanjutnya memungkinkan pengembang menghadirkan aplikasi AI generatif yang baru dan menarik menggunakan kemampuan AI dari platform Snapdragon.

“Ini akan memungkinkan pelanggan, mitra, dan pengembang untuk membangun kasus penggunaan, seperti asisten virtual cerdas, aplikasi produktivitas, alat pembuatan konten, hiburan, dan lainnya. Pengalaman AI on-device baru ini, ditenagai oleh Snapdragon, dapat bekerja di area tanpa konektivitas atau bahkan dalam mode pesawat," kata Qualcomm.

Saat ini prosesor Qualcomm Snapdragon 8 Gen 2 menggerakkan seri Samsung Galaxy S23, serta prosesor Qualcomm berada di dalam beberapa merek ponsel dan komputer lainnya. Sekarang ada lebih dari 100.000 permintaan akses ke Llama 1 sejak diluncurkan pada Februari 2023.