1931 Öncesi Metinlerle Eğitilen Talkie Yapay Zekâ Modeli Tanıtıldı
Araştırmacılar, 1931 öncesi İngilizce metinlerle eğitilen 13 milyar parametreli Talkie adlı yapay zekâ modelini tanıttı. İnternet ve sosyal medyayı bilmeyen model, yapay zekânın bilgiyi nasıl öğrendiğini anlamak amacıyla geliştirildi.
Talkie adlı yeni yapay zekâ modeli, Nick Levine, David Duvenaud ve Alec Radford tarafından tanıtıldı. 13 milyar parametreli bu model, 1931 öncesine ait İngilizce metinlerle eğitilmiş. Model teorik olarak interneti, iPhone'u, YouTube'u veya sosyal medyayı bilmiyor.
Talkie'nin eğitiminde kitaplar, gazeteler, dergiler, bilimsel yayınlar, patentler ve hukuk metinleri kullanıldı. Toplam eğitim verisinin 260 milyar token olduğu açıklandı. Araştırmacılar özellikle 1931 yılını seçti çünkü bu dönemden önceki birçok İngilizce eser kamu malı kapsamına giriyor. Böylece model, günümüz web siteleriyle değil; eski dünyanın dili, bilgisi ve bakış açısıyla eğitilmiş oluyor.
Araştırmanın Asıl Amacı
İlk bakışta bu proje eğlenceli bir deney gibi görünse de, asıl amaç daha ciddi. Araştırmacılar Talkie ile yapay zekâ modellerinin bilgiyi nasıl öğrendiğini, nasıl genelleme yaptığını ve eğitim verisindeki sızıntılardan nasıl etkilendiğini incelemek istiyor. Model, kontrollü biçimde geçmişte bırakılması nedeniyle değerli.
İki Farklı Sürüm
Talkie-1930-13b-base adıyla yayımlanan temel sürüm, 1931 öncesi metinlerle eğitilen ana model olarak işlev görüyor. Bir de kullanıcılarla daha doğal sohbet edebilmesi için hazırlanan talkie-1930-13b-it sürümü bulunuyor. Sohbet odaklı sürüm, eski görgü kuralları kitapları, ansiklopediler, mektup yazma kılavuzları ve benzeri kaynaklardan çıkarılan örneklerle eğitildi. Böylece model sadece tarihî bilgiye sahip olmakla kalmıyor, sorulara daha anlaşılır yanıtlar da verebiliyor.