Bağımsız bir geliştirici, yapay zekâ modellerinin eğitimini zorlaştıracak bir projeye imza attı. “Nepenthes” olarak isimlendirilen bu proje, internet sitelerine entegre edildiği vakit yapay zekâ modellerini sonsuz bir döngünün içerisine sokuyor.
Yapay zekâ modellerini güzelleştirmenin tek yolu, onları sonsuz büyüklükte bilgilerle eğitmek. Şirketler, bunu yapmak için de internet sitelerini kullanıyorlar. İşte Nepenthes, tam olarak buna odaklanıyor. Diyelim ki bir internet sitesine sahipsiniz ve Nepenthes’i entegre ettiniz. OpenAI’ın GPT modeli de bir formda sizin sitenizdeki datalara ulaştı. Nepenthes’in tuzağına düşen model, datalara ulaşmaya çalışırken kendini sonsuz bir döngü içerisinde bulacak ve boşu boşuna güç tüketecek.
Hem makûs gayeli hem değil
404media’ya konuşan geliştirici, bunun teknik olarak makus gayeli bir algoritma olduğunu kabul ediyor. Lakin algoritmanın kullanım maksadı, yapay zekâ şirketlerinin hiçbir kural tanımadan model eğitmesini engellemek. Hâl bu türlü olunca Nepenthes, aslında o kadar da berbat emelli değil.
Buradaki ilişkiye giderseniz Nepenthes için hazırlanan bir demoyu görüntüleyebilirsiniz. Bu demo, sistemin aslında ne kadar kolay olduğunu gözler önüne seriyor. Epey yavaş bir halde çalışan Nepenthes, URL’lerden URL’ler, onlardan da tekrardan URL’ler üretiyor. Olur da bir yapay zekâ modeli bu internet sitesini eğitim için kullanacak olursa sonsuza kadar üretilen URL’ler içerisinde dolaşıp duracak.
