uzman
Active member
- Katılım
- 25 Eyl 2020
- Mesajlar
- 52,598
- Puanları
- 36
OpenAI, Perşembe günü GPT-4'ün kod oluşturmadaki hatalarını tespit edebilen yeni bir yapay zeka (AI) modeli hakkında bir çalışma yayınladı. Yapay zeka şirketi, yeni sohbet robotunun İnsan Geri Bildiriminden Takviyeli Öğrenme (RLHF) çerçevesi kullanılarak eğitildiğini ve GPT-4 modellerinden biri tarafından desteklendiğini söyledi. Geliştirilmekte olan sohbet robotu, kullanıcıların başlıca dil modellerinden aldığı yapay zeka tarafından oluşturulan kodun kalitesini artırmak için tasarlandı. Şu anda model kullanıcılar veya test uzmanları için mevcut değildir. OpenAI ayrıca modelin bazı sınırlamalarına da dikkat çekti.
OpenAI, CriticGPT ile ilgili ayrıntıları duyurdu
Yapay zeka şirketi, yeni CriticGPT modelinin ayrıntılarını bir blog yazısında paylaşarak, modelin GPT-4'ü temel aldığını ve ChatGPT tarafından oluşturulan koddaki hataları tanımlamak için tasarlandığını söyledi. Şirket, “ChatGPT kodunu incelemek için CriticGPT'den yardım alan kişilerin, yardım almayan kişilere göre yüzde 60 oranında daha iyi performans gösterdiğini gördük” dedi. Model, RLHF çerçevesi kullanılarak geliştirildi ve sonuçlar bir makalede yayınlandı.
RLHF, yapay zeka sistemlerini eğitmek için makine performansını insanların performansıyla birleştiren bir makine öğrenme tekniğidir. Böyle bir sistemde, insan değerlendiriciler yapay zekanın performansı hakkında geri bildirim sağlar. Bu, modelin davranışını özelleştirmek ve geliştirmek için kullanılır. Yapay zekaya geri bildirim veren kişilere yapay zeka eğitmenleri adı veriliyor.
CriticGPT büyük miktarda hatalı kod verisi üzerinde eğitildi. Yapay zeka modeline bu hataları bulma ve kodu eleştirme görevi verildi. Bunun için yapay zeka eğitmenlerinden, doğal olarak oluşan hataların üzerine koddaki hataları yazmaları ve ardından bu hataları keşfetmiş gibi örnek geri bildirimler yazmaları istendi.
CriticGPT, eleştirisinin farklı varyasyonlarını paylaştıktan sonra eğitmenlerden, doğal olarak oluşan hataların yanı sıra ekledikleri hataların yapay zeka tarafından tespit edilip edilmediğini belirlemeleri istendi. OpenAI araştırmasında CriticGPT'nin hataları tespit etmede ChatGPT'den yüzde 63 daha iyi performans gösterdiğini buldu.
Ancak modelin hala bazı sınırlamaları var. CriticGPT, OpenAI tarafından oluşturulan kısa kod dizileri kullanılarak eğitildi. Modelin hâlâ uzun ve karmaşık görev kümeleri üzerinde eğitilmesi gerekiyor. Yapay zeka şirketi ayrıca yeni chatbot'un halüsinasyon görmeye (yanlış gerçek cevaplar üretmeye) devam ettiğini keşfetti. Ayrıca model, kod boyunca birden fazla hatanın dağıldığı senaryolarda test edilmemiştir.
OpenAI'nin daha kaliteli sonuçlar üretebilecek eğitim tekniklerini daha iyi anlamasına yardımcı olmayı amaçladığı için bu modelin kamuya açıklanması pek olası değildir. CriticGPT halka açıklandığında muhtemelen ChatGPT'ye entegre edilecektir.
En son teknoloji haberleri ve incelemeleri için Gadgets 360'ı takip edin XFacebook, WhatsApp, Konular ve Google Haberler. Gadget'lar ve teknolojiyle ilgili en son Haberlar için YouTube kanalımıza abone olun. En etkili kişiler hakkında her şeyi öğrenmek istiyorsanız Instagram ve YouTube'da kendi Who'sThat360'ımızı takip edin.
Bolivya Bitcoin yasağını kaldırdı ve bankalar için kripto işlemlerini yasallaştırdı
OpenAI, CriticGPT ile ilgili ayrıntıları duyurdu
Yapay zeka şirketi, yeni CriticGPT modelinin ayrıntılarını bir blog yazısında paylaşarak, modelin GPT-4'ü temel aldığını ve ChatGPT tarafından oluşturulan koddaki hataları tanımlamak için tasarlandığını söyledi. Şirket, “ChatGPT kodunu incelemek için CriticGPT'den yardım alan kişilerin, yardım almayan kişilere göre yüzde 60 oranında daha iyi performans gösterdiğini gördük” dedi. Model, RLHF çerçevesi kullanılarak geliştirildi ve sonuçlar bir makalede yayınlandı.
RLHF, yapay zeka sistemlerini eğitmek için makine performansını insanların performansıyla birleştiren bir makine öğrenme tekniğidir. Böyle bir sistemde, insan değerlendiriciler yapay zekanın performansı hakkında geri bildirim sağlar. Bu, modelin davranışını özelleştirmek ve geliştirmek için kullanılır. Yapay zekaya geri bildirim veren kişilere yapay zeka eğitmenleri adı veriliyor.
CriticGPT büyük miktarda hatalı kod verisi üzerinde eğitildi. Yapay zeka modeline bu hataları bulma ve kodu eleştirme görevi verildi. Bunun için yapay zeka eğitmenlerinden, doğal olarak oluşan hataların üzerine koddaki hataları yazmaları ve ardından bu hataları keşfetmiş gibi örnek geri bildirimler yazmaları istendi.
CriticGPT, eleştirisinin farklı varyasyonlarını paylaştıktan sonra eğitmenlerden, doğal olarak oluşan hataların yanı sıra ekledikleri hataların yapay zeka tarafından tespit edilip edilmediğini belirlemeleri istendi. OpenAI araştırmasında CriticGPT'nin hataları tespit etmede ChatGPT'den yüzde 63 daha iyi performans gösterdiğini buldu.
Ancak modelin hala bazı sınırlamaları var. CriticGPT, OpenAI tarafından oluşturulan kısa kod dizileri kullanılarak eğitildi. Modelin hâlâ uzun ve karmaşık görev kümeleri üzerinde eğitilmesi gerekiyor. Yapay zeka şirketi ayrıca yeni chatbot'un halüsinasyon görmeye (yanlış gerçek cevaplar üretmeye) devam ettiğini keşfetti. Ayrıca model, kod boyunca birden fazla hatanın dağıldığı senaryolarda test edilmemiştir.
OpenAI'nin daha kaliteli sonuçlar üretebilecek eğitim tekniklerini daha iyi anlamasına yardımcı olmayı amaçladığı için bu modelin kamuya açıklanması pek olası değildir. CriticGPT halka açıklandığında muhtemelen ChatGPT'ye entegre edilecektir.
En son teknoloji haberleri ve incelemeleri için Gadgets 360'ı takip edin XFacebook, WhatsApp, Konular ve Google Haberler. Gadget'lar ve teknolojiyle ilgili en son Haberlar için YouTube kanalımıza abone olun. En etkili kişiler hakkında her şeyi öğrenmek istiyorsanız Instagram ve YouTube'da kendi Who'sThat360'ımızı takip edin.
Bolivya Bitcoin yasağını kaldırdı ve bankalar için kripto işlemlerini yasallaştırdı