Bu ay kullanıma sunulan yapay zekâ takviyeli arama motoru ChatGPT Arama’nın, aldatıcı özetler oluşturabilecek biçimde manipüle edilebildiği ortaya çıktı.
The Guardian tarafından yapılan bir araştırmada, web sitelerine eklenen saklı metinler sayesinde, olumsuz yorumların göz arkası edilip “tamamen olumlu” özetlerin sunulduğu tespit edildi.
ChatGPT Arama manipüle edilebiliyor
ChatGPT Arama, bir web sayfasının eser incelemeleri üzere içerikleri özetleyerek taramayı hızlandırmayı amaçlıyor. Lakin The Guardian’ın araştırmasına nazaran, bâtın metin ataklarıyla ChatGPT Arama yanıltıcı özetler ve ziyanlı kodlar üretebiliyor. Bu cins akınlar büyük lisan modelleri için bilinen bir risk olmakla birlikte birinci defa canlı bir yapay zekâ takviyeli arama motorunda tespit edildi.
Google, arama motoru alanındaki tecrübesi sayesinde benzeri meselelerle daha faal bir formda başa çıkabiliyor. OpenAI ise yaşanan bu olay hakkında yorum yapmaktan kaçındı lakin makus niyetli web sitelerini engellemek için çeşitli usuller kullandığını ve sistemlerini daima olarak geliştirdiğini belirtti.
