Yardımlı İnce Ayar

Geçtiğimiz Kasım ayında DevDay'de, açıkladı Özel bir OpenAI araştırmacı grubuyla ortaklaşa, belirli bir alana yönelik modelleri eğitmek ve optimize etmek için tasarlanmış bir Özel Model programı. O zamandan bu yana, özel model ihtiyaçlarını değerlendirmek için düzinelerce müşteriyle görüştük ve performansımızı daha da en üst düzeye çıkarmak için programımızı geliştirdik.

Bugün, Özel Model programının bir parçası olarak destekli ince ayar teklifimizi resmi olarak duyuruyoruz. Yardımlı ince ayar, ek hiper parametreler ve çeşitli parametre verimli ince ayar (PEFT) yöntemleri gibi ince ayar API'sinin ötesindeki tekniklerden daha büyük ölçekte yararlanmak için teknik ekiplerimizle ortak bir çabadır. Kullanım durumları veya görevleri için model performansını en üst düzeye çıkarmak amacıyla verimli eğitim veri hatları, değerlendirme sistemleri ve özel parametreler ve yöntemler kurma konusunda desteğe ihtiyaç duyan kuruluşlar için özellikle yararlıdır.

Örneğin, SK TelecomGüney Kore'de 30 milyondan fazla aboneye hizmet veren telekomünikasyon operatörü, başlangıçta müşteri hizmetlerine odaklanarak telekomünikasyon alanında uzman olmak için bir model özelleştirmek istiyordu. Kore dilinde telekomla ilgili konuşmalardaki performansını artırmak amacıyla GPT-4'e ince ayar yapmak için OpenAI ile birlikte çalıştılar. Birkaç hafta boyunca SKT ve OpenAI, telekomünikasyon müşteri hizmetleri görevlerinde anlamlı performans artışı sağladı; konuşma özetleme kalitesinde %35 artış, amaç tanıma doğruluğunda %33 artış ve memnuniyet puanlarında 3.6'dan 4.5'e artış (daha fazla) / 5) ince ayarlı modeli GPT-4 ile karşılaştırırken. 

Özel Eğitimli Model

Bazı durumlarda kuruluşların kendi işlerini, sektörlerini veya alanlarını anlayan amaca yönelik oluşturulmuş bir modeli sıfırdan eğitmeleri gerekir. Tamamen özel olarak eğitilmiş modeller, yeni eğitim ortası ve eğitim sonrası teknikleri kullanarak model eğitim sürecinin temel adımlarını değiştirerek belirli bir alandan yeni bilgiler aktarır. Başarıyı tamamen özel olarak eğitilmiş bir modelle gören kuruluşlar, genellikle modele yeni bilgiler veya son derece spesifik kullanım durumları için karmaşık, benzersiz davranışlar öğretmek için kullanmak istedikleri büyük miktarlarda özel verilere (milyonlarca örnek veya milyarlarca belirteç) sahiptir. 

Örneğin, HarveyAvukatlara yönelik yapay zeka tabanlı bir yasal araç olan OpenAI ile ortaklık kurdu. içtihat hukuku için özel olarak eğitilmiş geniş bir dil modeli oluşturun. Vakıf modelleri muhakeme konusunda güçlü olsa da, hukuki dava geçmişine ilişkin kapsamlı bilgiden ve hukuki çalışma için gereken diğer bilgilerden yoksundu. Hızlı mühendislik, RAG ve ince ayarları test ettikten sonra Harvey, modele gereken bağlam derinliğini (10 milyar jeton değerinde veriye eşdeğer) eklemek için ekibimizle birlikte çalıştı. Ekibimiz, alana özel eğitim ortasından eğitim sonrası süreçlerin özelleştirilmesine ve uzman avukat geri bildirimlerinin dahil edilmesine kadar model eğitim sürecinin her adımını değiştirdi. Ortaya çıkan model, gerçek yanıtlarda %83'lük bir artış elde etti ve avukatlar, özelleştirilmiş modelin çıktılarını %97 oranında GPT-4'e tercih etti.