OpenAI, kod yazmak için ChatGPT‘yi kullanan kullanıcıların kod çıktısındaki hataları görebilmelerine yardımcı olan GPT-4 tarafından desteklenen CriticGPT isimli yeni bir yapay zeka modeli geliştirdi.
Geliştiricilerin ChatGPT’den istedikleri kodları analiz eden CriticGPT, yapay zeka modeli tarafından üretilen kodu inceleyerek bulunması zor olan hataları belirtiyor. CriticGPT, koddaki yanlışlıkları kullanıcılara açıklayarak geliştiricilerin performansını %60’a kadar artırır.
GPT-4 serisi modeller, “İnsan Geri Bildirimi ile Pekiştirmeli Öğrenme” (RLHF) aracılığıyla, yapay zeka eğitmenleri olarak adlandırılan kişilerin ChatGPT yanıtlarını derecelendirmesi ve karşılaştırmasını barındırıyor. Yapay zeka modellerinin gelişmesiyle birlikte, insan eğitmenler bu modellerin yaptıkları hataları tespit etmekte zorlanabilir.
Bu zorluğun üstesinden gelmek ve yapay zekasına daha fazla muhakeme yeteneği kazandırmak isteyen OpenAI, CriticGPT ile insan eğitmenlerin modelden bağımsız olarak daha kapsamlı eleştiriler yazabilmesini sağlar.
Yapay zeka devi, giderek daha karmaşık hale gelen yapay zeka sistemlerini uyumlu hale getirmek için daha iyi araçlar geliştirmeyi amaçlar. RLHF’yi GPT-4’e uygulamanın, insanların daha iyi veriler üretmesine yardımcı olduğuna inanır.