Microsoft, yapay zeka hatalarını düzeltmek için “Correction” özelliğini tanıttı. Azure kullanıcıları, hatalı içerikleri otomatik tespit edip düzeltebilecek.
Düzeltme özelliği, güvenlik açıklarını tespit etmek, yapay zeka halüsinasyonlarını bulmak ve kötü amaçlı istemleri engellemek amacıyla Azure AI Studio’nun bir parçası olarak sunuldu. Özellik etkinleştirildiğinde, düzeltme sistemi yapay zeka çıktılarını kullanıcıların kaynak materyaliyle karşılaştırarak hataları tarayacak.
Yanlışlıkları tespit ettikten sonra hatayı vurgulayacak, neden yanlış olduğunu açıklayacak ve içeriği yeniden yazacak. Tüm bu süreç, kullanıcıların hataları görmeden önce gerçekleşecek. Düzeltme özelliği, yapay zeka hatalarını düzeltmede etkili bir yöntem olarak öne çıkıyor. Özellik, yapay zeka hatalarını düzeltmede etkili bir yöntem olarak görünse de, tamamen güvenilir bir çözüm olmayabilir.
Google’ın AI geliştiren şirketler için sunduğu bulut platformu Vertex AI, yapay zeka modellerinin çıktılarını Google Arama, şirketin verileri ve yakında üçüncü taraf veri setlerine karşı kontrol eden bir özellik sunuyor.
Ancak, bir Microsoft sözcüsü, düzeltme sisteminin yapay zeka çıktılarını temel belgelere uyumlu hale getirmek için hem küçük hem de büyük dil modellerini kullandığını belirtti. Bu durum, sistemin hata yapmaya açık olabileceği anlamına geliyor.