OpenAI şirkəti ChatGPT üçün tətbiq etdiyi GPT-4o modelinin son yeniləməsini istifadəçi narazılıqlarından sonra geri çəkməyə məcbur olub.
32gun.az xəbər verir ki, The Verge nəşrinin məlumat verib.
Məlumata görə, yenilənmiş süni intellekt modelində istifadəçilərə həddindən artıq yaltaqlıq və mübahisəli fikirlərlə razılaşmaq meyli müşahidə edilib.
İstifadəçilər sosial şəbəkələrdə ChatGPT-nin absurd və hətta təhlükəli iddiaları dəstəklədiyini göstərən skrinşotlar paylaşaraq problemin diqqətə çatdırılmasına səbəb olublar. Rolling Stoneun araşdırmasına əsasən, bəzi hallarda İİ istifadəçilərin meqalomaniyaya əsaslanan dini təsəvvürlərini dəstəkləyib, bu isə "ruhani oyanış" təəssüratı yaradıb.
OpenAI baş direktoru Sem Altman bu vəziyyəti istifadəçi reaksiyalarının ("layk" və "dizlayk") modelin öyrədilməsi zamanı həddindən artıq rol oynaması ilə əlaqələndirib. Bu, modelin əsas davranış qaydalarını zəiflədib və zərərli meylləri daha az filtrasiya etməsinə səbəb olub. Şirkət etiraf edib ki, daha "xoş" cavabların seçilməsi, onların doğruluğuna üstünlük verilməsindən öndə tutulub.
Bundan başqa, əvvəlki söhbətlərin kontekstinin yadda saxlanması funksiyası da modelin bu davranışına təsir göstərib. OpenAI həmçinin qeyd edib ki, daxili testlər müsbət nəticə göstərsə də, bəzi mütəxəssislər qeyri-adi davranışlara diqqət çəkmiş, lakin xəbərdarlıqlar nəzərə alınmadan yeniləmə yayımlanmışdı.
Şirkət gələcəkdə ChatGPT ilə bağlı istənilən dəyişiklikləri — hətta kiçik görünsə belə — istifadəçilərə daha açıq şəkildə çatdıracağını vəd edib.
Ayxan
.jpg)
.jpg)
.jpg)