Indiana Üniversitesi Bloomington’daki araştırmacıların son çalışması, OpenAI tarafından geliştirilen sofistike bir yapay zeka dil modeli olan ChatGPT tarafından desteklenen bir botnet’in (Fox8) kripto para dolandırıcılığı için kullanıldığını ortaya çıkardı. Bu botnet, kripto ile ilgili web siteleri ile bağlantılıydı ve ChatGPT’yi kullanarak içerik üretme, paylaşma ve diğer gönderilere katılma yeteneğine sahip 1,140 hesaptan oluşuyordu. Otomatik olarak üretilen içerik, kullanıcıları kripto para sitelerine yönlendiren bağlantıları tıklamaya yönlendirmeyi amaçlıyordu.
Araştırmacılar, ChatGPT’nin belirli bir ifadeyi (“Bir dil modeli olarak…”) yanıtlarken zaman zaman kullandığını tespit ederek botnet’in aktivitesini tanıdılar. Bu, bot tarafından işletilen hesapları manuel olarak incelemelerine yol açtı. Fox8 botnet, göreceli olarak basit yöntemler kullanmasına rağmen, kripto para sitelerini desteklediği gibi görünen inandırıcı mesajlar yayınlamayı başardı, bu da AI’nın dolandırıcılık için nasıl kullanılabileceğini gösterdi.
AI tabanlı dezinformasyon konusunda uzman olan Micah Musser, bu keşfin daha büyük bir sorunun yüzeyini sadece çizebileceğini belirtiyor; çünkü büyük dil modelleri ve sohbet botlarının popülerliği göz önüne alındığında, “bu düşük asılı meyve” dedi.
OpenAI’nin kullanım politikası, AI modellerinin dolandırıcılık ve dezinformasyon amaçları için kullanımını açıkça yasaklıyor. Araştırmacılar, bu tür botnet’leri etkili bir şekilde yapılandırıldığında tanımanın zorluğuna dikkat çekiyor; çünkü algıları yanıltabilir ve dezinformasyonu daha etkili bir şekilde yaymak için algoritmaları manipüle edebilirler.
X’teki Spam botları, çevrimiçi kripto topluluğunu uzun süredir rahatsız ediyor ve bu konudaki şikayetler yaygın. Bu tür botlar genellikle YouTube ve X gibi platformlarda kolayca tanımlanabilir, ancak ünlüleri taklit ederek ve kötü niyetli kampanyaları teşvik ederek kurbanlardan milyonlarca dolar çalmayı başardılar.
Elon Musk, Twitter’ı satın aldıktan sonra “spam botlarını yenmek” için söz vermiş olmasına rağmen, Menczer, botların Musk’ın satın almasından bu yana daha da yaygın hale geldiğine inanıyor. Araştırmacı ve ekibi, botlar hakkındaki bulgularını artık X ile paylaşmıyorlar, çünkü “Gerçekten duyarlı değiller” ve “Personel eksikliği var gibi görünüyor.”
Musk, geçtiğimiz hafta sonu X’in engelleme özelliğini kaldıracağını doğruladı, bu da yaratıcıların dolandırıcıları ve sahtekarları kaldırmak için beslemelerini düzenleyemeyeceklerinden endişe duyanların daha fazla eleştirisine yol açtı.
