ChatGPT’nin web tabanlı arama özelliğiyle ilgili yeni bir tez ortaya atıldı.
Guardian’ın haberine nazaran, ChatGPT’nin yapay zeka dayanağıyla internet üzerinden arama özelliğinin büsbütün aldatıcı özetler üreterek kullanıcıları kandırdığı ortaya çıktı.
ChatGPT’nin arama özelliği, bir web sayfasının eser yorumlarını özetlemek üzere şeyler yaparak gezinmeyi daha süratli hale getirmeyi amaçlıyor.
OLUMSUZ YORUMLARI GÖRMEZDEN GELİYOR
Ancak, ChatGPT’nin oluşturduğu web sitelerine bâtın metinler ekleyerek olumsuz yorumları görmezden gelmesini ve büsbütün olumlu özetler oluşturmasını sağlayabildiğini keşfetti.
ChatGPT Search’ün (Arama) bu sistemi kullanarak makûs hedefli kodlar üretmesi de sağlanabiliyordu.
Bu çeşit kapalı metin taarruzları büyük lisan modelleri için güzel bilinen bir risktir, fakat bu birinci defa canlı bir yapay zeka takviyeli arama eserinde gösterilmiş üzere görünüyor.
Ayrıca arama motoru devi Google’ın emsal problemlerle başa çıkma konusunda daha fazla tecrübeye sahip olduğu belirtildi.
OpenAI, makûs niyetli web sitelerini engellemek için çeşitli sistemler kullandığını ve daima olarak geliştiğini söyledi.