Microsoft, OpenAI ile ortaklaşa olarak, ürün ve hizmetlerinde yapay zeka yeteneklerini istikrarlı bir şekilde kullanıyor. Orca’nın odak noktası, diğer modelleri anlamak olarak belirlendi.
Microsoft, OpenAI ile işbirliği yaparak, ürün ve hizmetlerinde yapay zeka yeteneklerini istikrarlı bir şekilde kullanmaya devam ediyor. Şirket, daha küçük senaryolar için bile özel bir model geliştiriyor gibi görünüyor. Microsoft Research, Orca adlı yeni bir yapay zeka modelini tanıtarak büyük dil modellerini taklit ederek öğrenmeyi amaçlıyor. Araştırma raporuna göre, Orca, GPT-4 gibi büyük temel modellerin akıl yürütme süreçlerini taklit ederek daha küçük modellerin sınırlamalarını aşmayı hedefliyor.
Microsoft Orca Tamamen Büyüleyici
Orca gibi dil modelleri, belirli görevlere optimize edilebilir ve GPT-4 gibi büyük dil modelleri kullanılarak eğitilebilir. Orca’nın daha küçük boyutu, çalıştırma ve işletme için daha az bilgi işlem kaynağı gerektirme avantajı sağlar. Araştırmacılar, modellerini kendi ihtiyaçlarına göre optimize edebilir ve büyük bir veri merkezine bağımlı olmadan bağımsız olarak çalıştırabilirler.
Araştırma makalesine göre, 13 milyar parametreyle çalışan bir yapay zeka modeli olan Orca, GPT-4 gibi büyük dil modellerini taklit edip onlardan öğrenebiliyor. Orca, bir trilyondan fazla parametreye sahip olduğu söylenen GPT-4’ün yardımıyla açıklamaları, adım adım düşünce süreçlerini ve diğer karmaşık talimatları öğrenebiliyor.
Küçük dil mdoelleri gibi modeller sözel tarzı taklit etmede başarılı olsalar da, olgusal doğruluk ve karmaşık düşünme konusunda sıklıkla yetersiz kalıyorlardı. Ancak Orca, daha büyük modellerin akıl yürütme sürecini taklit etmeyi öğrenen 13 milyar parametreli bir model geliştirerek bu açığı kapatıyor. Orca, çok sayıda kıyaslama ve testte diğer açık kaynaklı modelleri büyük bir farkla geride bıraktı ve düşünme yeteneği testinde GPT 4 ile eşleşti. Orca, daha küçük bir model olmasına rağmen Big-Bench Hard (BBH) gibi karmaşık muhakeme ölçütlerinde ChatGPT ile aynı seviyede bulunuyor. Ayrıca, GPT-4’ün gerisinde kalmasına rağmen SAT, LSAT, GRE ve GMAT gibi akademik sınavlarda rekabetçi bir performans sergiliyor. Orca gibi yapay zeka modelleri daha az boyutla daha büyük işler yaptıkça bu tip araçlar daha özel kullanımlara doğru kayacaktır. Esasında Orca, kullandığımız telefonlarda yerel olarak çalışan yapay zekalar için atılmış önemli bir adım.
