Apple yakın zamanda açıkladı OpenELM (Açık Kaynak Verimli Dil Modelleri) olarak bilinen yeni bir açık kaynaklı LLM (Büyük Dil Modelleri).
Kısacası
- Apple, OpenELM olarak bilinen yeni bir açık kaynaklı LLM'yi piyasaya sürdü.
- OpenELM, cihazlarda yerel olarak çalışacak ve gelişmiş gizlilikle işlem hızını artıracak.
- OpenELM'in, Siri'nin daha güçlü sürümleri ve diğer yapay zeka destekli uygulamalar da dahil olmak üzere çeşitli cihaz içi yapay zeka özelliklerini desteklemesi bekleniyor.
Apple'ın LLM'si cihazlarda yerel olarak çalışacak ve maliyetli bulut tabanlı işlemlerden cihaz içi işlemlere büyük bir geçiş yapacak. Apple'ın bu LLM için ana odağı, gelişmiş gizlilikle işlem hızını artırmaktır.
OpenELM modelleri, doğruluğu artırmak için parametreleri transformatör modelinin her katmanına etkili bir şekilde tahsis eden, katman bazında ölçeklendirme tekniği kullanır. Örneğin, yaklaşık bir milyar parametrelik bir bütçeyle OpenELM, önceki modeli olan OLMo'ya göre doğrulukta %2.36'lık bir artış elde etti, ancak bunun yarısı kadar ön eğitim tokenı kullandı.
Bu yöntem yalnızca hızı artırmakla kalmıyor, aynı zamanda yapay zeka uygulamalarını doğrudan tüketici donanımında çalıştırmak için kritik olan cihazlar üzerindeki hesaplama yükünü de azaltıyor.
Özellikler ve Yetenekler
OpenELM projesini geçmiş yapay zeka modellerinden ayıran birkaç önemli unsur var:
- Açık kaynak kullanılabilirliği: Apple, OpenELM'i Hugging Face Hub'da kullanıma sunarak geliştiricilerin ve araştırmacıların geliştirme sürecine erişmesine ve katılmasına olanak tanıdı.
- Kapsamlı Eğitim Çerçevesi: Basitçe model ağırlıkları ve çıkarım kodu sağlayan geleneksel modellerin aksine OpenELM sürümü, halka açık veri kümelerinin eğitimi ve değerlendirilmesi için tüm altyapıyı içerir. Bu, eğitim kayıtlarını, birçok kilometre taşını ve eğitim öncesi kurulumları içerir.
- Gelişmiş gizlilik ve hız: OpenELM cihaz üzerinde çalıştığı için bulut sunucularına veri göndermeye gerek yoktur, bu da kullanıcı gizliliğini artırır. Ayrıca yerel işleme, gecikmeyi en aza indirerek cihazdaki yapay zeka destekli özellikler için daha hızlı tepki süreleri sağlar .
iOS ile entegrasyon
Apple, muhtemelen birkaç yeni AI özelliği içerecek olan gelecekteki iOS 18 sürümüne OpenELM'yi dahil etmeyi planlıyor. OpenELM entegrasyonunun, Siri'nin daha güçlü sürümleri ve diğer yapay zeka destekli uygulamalar da dahil olmak üzere çeşitli cihaz içi yapay zeka özelliklerini desteklemesi bekleniyor.