Nous Research, Batılı Değerlerle Qwen Modelini Yeniden Eğiterek Arete-27B'yi Tanıttı

Nous Research, yapay zeka araştırma laboratuvarı, Çin menşeli büyük dil modeli Qwen'i batı odaklı veri setleriyle yeniden eğiterek yeni bir sürümünü duyurdu. Modelin adı Arete-27B ve 27 milyar parametreye sahip. Bu adım, Asya‑Amerika işbirliğinin bir örneği olarak öne çıkıyor ve büyük dil modellerinin kültürel önyargılarını dengelemeyi hedefliyor.

Modelin Teknik Özellikleri

• Parametre Sayısı: 27 bilyon – Qwen serisinin orta ölçekli bir üyesi.
• Eğitim Verisi: Batı kaynaklı metinler, akademik yayınlar, teknik dokümantasyon ve açık lisanslı veri setleri. Veri çeşitliliği, modelin çokdilli ve çokkültürlü performansını artırmak için seçildi.
• Mimari: Transformer tabanlı, 48 katmanlı bir yapı. Önceki Qwen sürümlerinde kullanılan bazı optimizasyonlar korunurken, yeni katmanlarda Sparse Attention ve Mixture‑of‑Experts teknikleri eklendi.
• Çıktı Kalitesi: Webrazzi’nin test sonuçlarına göre, Arete‑27B, aynı parametre büyüklüğündeki diğer modellerle kıyaslandığında %12 daha düşük toksin üretimi ve %8 daha yüksek tutarlılık sağlıyor.

Neden Batı‑Odaklı Veri?

Yapay zeka modelleri, eğitim verilerinin demografik ve kültürel dağılımına bağlı olarak önyargılar geliştirebilir. Nous Research, Qwen’in orijinal sürümünün Asya‑merkezli veri setleriyle eğitildiğini ve bu durumun bazı batı‑dilli uygulamalarda istenmeyen yanıtlar üretebileceğini belirtti. Bu sorunu aşmak için model, OpenWebText, Common Crawl ve Wikipedia gibi geniş çaplı batı veri kaynaklarıyla yeniden eğitildi.

Potansiyel Kullanım Alanları

• İçerik Üretimi: Blog yazıları, teknik dokümantasyon ve pazarlama metinleri.
• Kod Yardımı: Python, JavaScript ve diğer popüler dillerde kod önerileri.
• Çokdilli Çeviri: İngilizce‑Türkçe, İngilizce‑Almanca gibi çift yönlü çevirilerde daha tutarlı sonuçlar.
• Araştırma Asistanı: Akademik makalelerden özet çıkarma ve literatür taraması.

Endüstri Tepkileri

Yapay zeka topluluğu, bu adımı hem teknik hem de etik açıdan önemli buluyor. Eleştirmenler, veri çeşitliliğinin sadece coğrafi değil, aynı zamanda toplumsal cinsiyet, etnik köken ve sosyo‑ekonomik faktörleri de kapsaması gerektiğini vurguluyor. Destekçiler ise, modelin batı‑odaklı eğitiminin küresel uygulamalarda daha dengeli bir performans sunacağını savunuyor.

Gelecek Planları

Nous Research, Arete‑27B’nin açık kaynaklı bir sürümünü GitHub üzerinden paylaşmayı planlıyor. Ayrıca, modelin API hizmeti aracılığıyla bulut platformlarında kullanılabilir olacağı duyuruldu. Şirket, önümüzdeki yıl içinde 50 bilyon parametreli bir Arete‑50B modeli geliştirmeyi hedefliyor.

“Yapay zekanın evrensel bir araç olması için, eğitim verisinin de evrensel olması gerekir.” – Dr. Lina Zhou, Nous Research Baş Bilim İnsanı.

Bu gelişme, büyük dil modellerinin sadece teknik bir yarış olmadığını, aynı zamanda kültürel sorumluluklar taşıdığını bir kez daha gözler önüne seriyor. Arete‑27B, bu sorumluluğu dengelemeye çalışan ilk adımlardan biri olarak sektördeki tartışmaları alevlendirecek gibi görünüyor.

---

Bu haber Webrazzi’den alınan bilgiler ışığında hazırlanmıştır.