Yapay zekâ botlarını engellemek
site trafiğini etkiler mi?

Haber siteleri neden botları engelliyor?

Bir okur gündemdeki bir olayın ayrıntılarını öğrenmek için yapay zekâya soru soruyor. Sistem, haber sitelerindeki bilgileri kullanarak yanıt hazırlayabiliyor. Okur bu yanıtla yetinirse haberin yayımlandığı siteyi açması gerekmiyor. Yayıncı ise haberi hazırlamak için muhabir, editör ve teknik altyapıya para harcıyor. İçeriğin başka bir yerde okunması, yayıncının ziyaret ve reklam geliri beklentisini etkileyebiliyor.

Haber sitesi, otomatik tarama yapan yazılımların içeriğine erişmesini sınırlayabiliyor. Bu yazılımlara bot deniyor. Yayıncı botları engellediğinde haberin kopyalanmasını azaltmayı umabiliyor. Fakat aynı karar, yapay zekâ yanıtlarında haber sitesinin kaynak olarak görünmesini de azaltabilir. Araştırmanın çıkış noktası bu belirsizlik: İçeriği korumayı amaçlayan bir karar, siteye gelen ziyaretlerle nasıl ilişkili?

Hangcheng Zhao ve Ron Berman, yayıncıların yalnız erişim kararlarını incelemedi. Haber sayfalarının yapısına ve çalışan arayan ilanlara da baktı. Böylece yayıncıların üretken yapay zekâ karşısında metin miktarını, içerik sunumunu ve editoryal çalışan talebini nasıl değiştirdiğini araştırdı. Zhao Rutgers Business School’da, Berman ise Pennsylvania Üniversitesi Wharton School’da çalışıyor.

Araştırmacılar hangi verileri birleştirdi?

Araştırmacılar trafik ölçüm şirketi SimilarWeb ile iş ilanı verisi sağlayan Revelio’da ortak bulunan siteleri eşleştirdi. Bu siteler arasından 30 büyük gazete yayıncısını seçti. Örneklemde CNN, The New York Times ve BBC gibi haber kaynakları vardı. Araştırmacılar aynı yayıncıları farklı tarihlerde izleyerek ziyaretlerdeki değişimi karşılaştırdı. Bu çalışma, araştırmacıların sitelere rastgele engelleme görevi verdiği bir deney değildi.

SimilarWeb, masaüstü ve mobil cihazlardan gelen toplam ziyaretleri tahmin ediyordu. Semrush, ziyaretleri doğrudan giriş ve arama motorundan geliş gibi kanallara ayırıyordu. Comscore ise ABD’deki hanelerin masaüstü tarama kayıtlarını sağlıyordu. Son kaynak, insan davranışını ayrıca incelemeyi mümkün kıldı. Araştırmacılar böylece botların engellenmesinden sonra görülen düşüşün yalnız otomatik ziyaretlerin kaybolmasından kaynaklanıp kaynaklanmadığını sorguladı.

Ekip, HTTP Archive arşivinden sitelerin eski erişim kurallarını ve sayfa yapısını aldı. Internet Archive kayıtlarından farklı sayfa adreslerinin zaman içindeki sayısını çıkardı. Revelio’dan da yayıncıların meslek gruplarına göre iş ilanlarını topladı. Bu kaynaklar aynı şeyi ölçmüyordu. Ziyaret tahminleri okur hareketini, sayfa kayıtları içerik sunumunu, iş ilanları ise çalışan talebini gösteriyordu.

Engellemenin etkisini nasıl ayırdılar?

Araştırmacılar engellemeyi robots.txt dosyasındaki kurallardan belirledi. Bu dosya, otomatik tarayıcılara hangi alanlara erişebileceklerini bildirir. Ekip, belirli bir yapay zekâ botuna yönelik açık erişim yasağının ilk göründüğü tarihi kaydetti. Daha sonra yasağı kaldıran yayıncıların kaldırma sonrasındaki kayıtlarını ana karşılaştırmaya katmadı. Ölçülen karar, dosyada ilan edilen erişim kuralıydı.

Yayıncılar engellemeye farklı haftalarda başladı. Araştırmacılar bu zaman farkından yararlandı. Engellemeye geçen yayıncının ziyaret değişimini, o sırada henüz engellemeyen veya hiç engellemeyen yayıncıların değişimiyle karşılaştırdı. Yöntemin adı farkların farkıdır. Yöntem, aynı dönemde bütün siteleri etkileyebilecek ortak değişimleri karşılaştırmadan ayırmaya çalışır. Geçerliliği, engelleme olmasaydı grupların benzer eğilimler izleyeceği varsayımına bağlıdır.

Ana karşılaştırma engellemeden önceki 12 hafta ile sonraki 6 haftayı kapsadı. Araştırmacılar analizi Mayıs 2024 öncesiyle sınırladı. Google’ın arama sonuçlarına yapay zekâ özetleri eklemesi bu tarihte başladı. Ekip, sonraki arama değişikliklerinin bot engellemesiyle karışmasını azaltmak istedi. Dolayısıyla çalışma, bugün görülebilecek bütün yapay zekâ arama uygulamalarının ortak etkisini ölçmüyordu.

Araştırmacılar engelleme öncesinde grupların ziyaret eğilimlerinin ayrışıp ayrışmadığını kontrol etti. Ayrıca gerçek engelleme tarihlerini rastgele tarihlerle değiştirdi. Bu denemelerde ana düşüş örüntüsü tekrarlanmadı. Ekip erişim dosyalarındaki diğer değişiklikleri de inceledi. Ana arama motorlarını engelleyen veya kullanıcı erişimini değiştiren eşzamanlı kurallar bulmadı. Bu kontroller bulguyu destekledi. Ancak gözlemsel karşılaştırmayı rastgele deneye dönüştürmedi.

Ziyaretlerde nasıl bir değişim görüldü?

Yazarlar, engelleme sonrasındaki 6 haftada haftalık ziyaretlerin yaklaşık %7 azaldığını bildirdi. Bu sonuç, engelleyen yayıncıların değişimini karşılaştırma grubuna göre değerlendiren tahmindi. Her sitenin ziyaretinde aynı düşüş yaşandığı anlamına gelmiyordu. Ayrıca oran, satış veya abonelik kaybını göstermiyordu. Araştırmacılar ziyaretleri ölçtü. Ziyaretin ardından gelir oluşup oluşmadığını incelemedi.

Veri kaynakları benzer yönde sonuç verdi. Ancak tahminlerin kesinliği aynı değildi. SimilarWeb sonucunun güven aralığı sıfırı dışlıyordu. Güven aralığı, tahminin belirsizliğini gösteren değer aralığıdır. Semrush ve insan taramasını izleyen Comscore sonuçlarında bu aralık sıfırı içeriyordu. Bu yüzden insan ziyaretlerindeki düşüş daha belirsizdi. Veriler, düşüşün yalnız bot ziyaretlerinden oluşmadığını düşündürüyor. Ancak bunu aynı kesinlikle göstermiyor.

Araştırmacılar daha küçük yayıncıları eklediğinde de tek tip sonuç bulmadı. Negatif tahminler büyük yayıncılarda daha belirgindi. En düşük trafikli grupta tahmin negatif değildi. Takip süresini uzattıklarında düşüş tahminleri negatif kaldı. Ancak yaklaşık 20 haftadan sonra istatistiksel olarak anlamlı değildi. Bu sonuç, ziyaretlerin mutlaka eski düzeyine döndüğünü göstermiyor. Uzun dönem tahmininin kesinliği azalıyor.

Yayıncıların içerikleri ve iş ilanları değişti mi?

Araştırmacılar haber sayfalarının yapısını büyük perakende siteleriyle karşılaştırdı. Sayfanın teknik yapısını oluşturan HTML öğelerini saydı. Görselleri, videoları, düğmeleri, giriş alanlarını ve reklamla ilişkili parçaları ayrı grupladı. Bu sayımlar okurun içerik kalitesine verdiği puanlar değildi. Ekip, sayfada hangi tür parçaların daha çok yer aldığını ölçüyordu.

Haber sitelerindeki etkileşimli öğeler, karşılaştırılan perakende sitelerine göre %68,1 arttı. Düğmeler ve giriş alanları bu gruba giriyordu. Reklam ve hedefleme teknolojileriyle ilişkili öğeler de arttı. Buna karşılık araştırmacılar yeni metin veya makale adreslerinde artış bulmadı. Görsel adreslerindeki büyüme daha belirgindi. Bulgular, daha çok metin yayımlamaktan çok mevcut sunumu değiştirme yönünde bir tepkiyle uyumluydu.

Revelio verisinde editörlük ve içerik üretimi ilanlarının diğer meslek ilanlarına göre ani bir daralma gösterdiğine ilişkin açık kanıt yoktu. Editoryal ilanların toplam içindeki payı bazı dönemlerde arttı. Ancak iş ilanı, gerçekleşmiş işe alım değildir. İlan verme alışkanlıkları veya işe alım yoğunluğu da değişebilir. Araştırmacılar bu kayıtlarla çalışan sayısının korunduğunu ya da hiç işten çıkarma yaşanmadığını kanıtlamadı.

Araştırma neyi açıklayamıyor?

Ziyaret ölçümleri, okurun tamamen yapay zekâ arayüzünde tükettiği içeriği kapsamıyor. Araştırmacılar engellenen yayıncıların yanıtlarda kaç kez anıldığını da doğrudan ölçmedi. Daha az kaynak gösterilmesinin marka hatırlanmasını azaltabileceğini olası açıklama olarak sundu. Kaynak bağlantılarından gelen tıklamaların kaybı da başka bir açıklamaydı. Çalışma bu yolların katkısını ayrı ayrı hesaplamadı.

Küçük sitelerin ziyaret tahminleri daha belirsiz olabiliyor. Sayfadaki teknik öğe sayıları da içerik miktarını ve niteliğini ancak dolaylı biçimde gösteriyor. Görsel eklemekle daha iyi trafik arasındaki ilişki, görsel eklemenin ziyaret artışına neden olduğunu kanıtlamıyor. Ayrıca haber yayıncılarının sonuçları, farklı sektörlerdeki bütün siteler için aynı etkinin bulunacağını göstermiyor.

İncelenen metin arXiv’de yayımlanan bir ön baskı. Bu sürüm için tamamlanmış bir hakem değerlendirmesi belirtilmiyor. Yazarlar kısmi finansman aldıklarını belirtiyor. Finansörün adı kör değerlendirme amacıyla metinden çıkarılmış. Yazarlar, araştırmanın konusuyla ilgili mali veya mali olmayan çıkarı bulunan kuruluşlarla bağları olmadığını beyan ediyor.

Yazarlar hangi sonuca varıyor?

Zhao ve Berman’a göre bot erişimini sınırlamak, yayıncının ziyaret kaybını kendiliğinden önlemiyor. İnceledikleri dönemde büyük yayıncıların engelleme kararını kısa vadeli ziyaret düşüşü izliyor. Yazarlar, içerik sunumunu farklılaştırmanın daha istikrarlı bir seçenek olabileceğini düşünüyor. Bu değerlendirme, belirli bir sayfa tasarımının ziyaret kazandırdığını gösteren deney sonucu değil.

Yazarlar engellemenin başka amaçları olabileceğini de kabul ediyor. Yayıncılar lisanslama, kaynak gösterme veya platform erişimi görüşmelerinde daha güçlü konum elde etmek için kısa vadeli ziyaret kaybını göze alabilir. Araştırmacılar gelecekte yapay zekâ kaynaklı yönlendirmeleri ve lisans anlaşmalarını doğrudan ölçen çalışmalar istiyor. Böylece erişim kararlarının uzun vadeli sonuçlarının daha açık değerlendirilebileceğini belirtiyor.