Apple baru-baru ini mengumumkan LLM (Model Bahasa Besar) sumber terbuka baharu yang dikenali sebagai OpenELM (Model Bahasa Cekap Sumber Terbuka).
Pendek kata
- Apple telah mengeluarkan LLM sumber terbuka baharu yang dikenali sebagai OpenELM.
- OpenELM akan berjalan secara setempat pada peranti, meningkatkan kelajuan pemprosesan dengan privasi yang dipertingkatkan.
- OpenELM dijangka menyokong pelbagai ciri AI pada peranti, termasuk versi Siri yang lebih berkuasa dan aplikasi berkuasa AI yang lain.
LLM Apple akan dijalankan secara tempatan pada peranti, membuat perubahan hebat daripada pemprosesan berasaskan awan yang mahal kepada pemprosesan pada peranti. Fokus utama Apple untuk LLM ini adalah untuk meningkatkan kelajuan pemprosesan dengan privasi yang dipertingkatkan.
Model OpenELM menggunakan teknik penskalaan mengikut lapisan, yang memperuntukkan parameter dengan berkesan dengan setiap lapisan model pengubah untuk meningkatkan ketepatan. Sebagai contoh, dengan belanjawan sekitar satu bilion parameter, OpenELM mencapai keuntungan 2.36% dalam ketepatan berbanding model pendahulunya, OLMo tetapi menggunakan separuh daripada jumlah token pralatihan.
Kaedah ini bukan sahaja meningkatkan kelajuan tetapi juga mengurangkan beban pengiraan pada peranti, yang penting untuk menjalankan aplikasi AI secara langsung pada perkakasan pengguna.
Ciri-ciri dan Keupayaan
Projek OpenELM mempunyai beberapa elemen utama yang membezakannya daripada model AI terdahulu:
- Ketersediaan sumber terbuka: Apple telah menjadikan OpenELM tersedia pada Hugging Face Hub, membenarkan pembangun dan penyelidik mengakses dan mengambil bahagian dalam pembangunannya.
- Rangka Kerja Latihan Komprehensif: Tidak seperti model tradisional, yang hanya membekalkan berat model dan kod inferens, keluaran OpenELM mengandungi keseluruhan infrastruktur untuk latihan dan menilai set data yang tersedia untuk umum. Ini menampilkan rekod latihan, banyak pencapaian dan persediaan pra-latihan.
- Privasi dan kelajuan dipertingkatkan: Oleh kerana OpenELM berjalan pada peranti, tidak perlu menghantar data ke pelayan awan, yang meningkatkan privasi pengguna. Selain itu, pemprosesan tempatan meminimumkan kependaman, menghasilkan masa tindak balas yang lebih cepat untuk ciri berkuasa AI pada peranti .
Integrasi dengan iOS
Apple berhasrat untuk memasukkan OpenELM dalam versi iOS 18 akan datang, yang berkemungkinan akan menyertakan beberapa ciri AI baharu. Penyepaduan OpenELM dijangka menyokong pelbagai ciri AI pada peranti, termasuk versi Siri yang lebih berkuasa dan aplikasi berkuasa AI yang lain.