Twitch Platformundaki Nefret Baskınları: Canlı Yayın Topluluklarında Gerçek Zamanlı İnsan-Bot Koordineli Saldırıların Anlaşılması

Canlı yayın platformları, yayıncılar ile izleyiciler arasında eş zamanlı ve çok modlu etkileşim imkânı sunarak çağdaş çevrim içi toplulukların temel bileşenlerinden biri haline gelmiştir. Bununla birlikte, platformların sunduğu canlı sohbet, takip sistemi ve yayın sonrasında izleyicileri başka kanallara yönlendiren baskın imkânları, kötü niyetli aktörler tarafından manipüle edilerek yeni taciz türlerinin doğmasına yol açmaktadır. Özellikle Twitch platformunda 2021 yılında belirginleşen ve marjinalleştirilmiş yayıncıları (ırksal azınlıklar, LGBTQIA+ bireyler ve engelliler) hedef alan nefret baskınları, otomatik bot hesapları ile insan saldırganların koordineli biçimde nefret söylemi ve nefret mesajları yaymasıyla karakterize edilmektedir. Bireysel ve rastgele tacizlerden farklı olarak yüksek ölçeklenebilirlik ve yoğunluk taşıyan bu saldırılar, mevcut platform denetim araçlarını yetersiz bırakmakta ve yayıncılar üzerinde psikolojik, sosyal ve finansal yıkımlara yol açmaktadır. Bu durum, teknolojik imkânların nasıl kötüye kullanıldığının ve canlı yayın ekosistemlerinde sürdürülebilir yönetişim моделейinin nasıl kurulabileceğinin nitel boyutlarıyla araştırılmasını zorunlu kılmaktadır.

Araştırmanın temel amacı, Twitch topluluğunda yaşanan gerçek zamanlı insan-bot koordineli nefret baskınlarının doğasını, etkilerini ve bu saldırılara karşı geliştirilen denetim stratejilerini kullanıcı bakış açısından çözümlemektir. Bu doğrultuda çalışma, Twitch kullanıcılarının, yayıncıların, moderatörlerin ve izleyicilerin deneyim paylaşımlarında bulunduğu r/Twitch subreddit platformundan veri kazıma yöntemiyle elde edilen başlık ve yorumları inceleyen nitel bir veri desenine dayanmaktadır. Veri toplama sürecinde Ocak ve Şubat 2022 tarihleri arasında 182 ana başlık ve 5392 yorum toplanmış, veri temizleme ve alaka süzgecinden geçirmenin ardından 55 detaylı başlık ile 3944 yorum nihai veri setine dahil edilmiştir. Kodlama sürecinde Fereday ve Muir-Cochrane tarafından geliştirilen hibrit kodlama yaklaşımı izlenerek hem tümevarımsal anahtar kavramlar hem de literatüre dayalı tümdengelimsel temalar oluşturulmuş, kodlayıcılar arası güvenilirlik testi uygulanarak Cohen Kappa katsayısı 0,90 seviyesine ulaştırılmıştır. Elde edilen nitel bulgular kullanıcıların nefret baskınlarını algılama biçimlerine, platforma yöneltilen eleştirilere ve denetim araçlarının etkililiğine göre kategorize edilmiştir.

Çalışmanın bulguları, nefret baskınlarının yalnızca Twitch platformunun resmi baskın özelliğini kullanmadığını, otomatik takip botlarının kitlesel akını veya sohbet odasına aynı anda nefret içerikli iletiler yağdırılması biçiminde gerçekleştiğini göstermektedir. Saldırganların marjinalleştirilmiş yayıncıları kimlik etiketleri üzerinden tespit ettiği, yayıncıları platform kurallarını ihlal etmeye zorlayacak şekilde kurgulanmış şok içeriklerle tuzağa düşürdüğü ve ardından platform yönetimine şikayet ederek hesaplarının kapatılmasını sağladığı belirlenmiştir. Yaşanan bu olaylar neticesinde marjinalleştirilmiş yayıncıların sürekli panik ve endişe halinde oldukları, izleyici kitlelerinde ciddi erimeler yaşandığı, maddi kayıplara uğradıkları ve hatta fiziksel güvenlik tehditleriyle yüzleştikleri ortaya konmuştur. Teknik denetim mekanizmalarının değerlendirilmesinde ise otomatik kelime filtrelerinin LGBTQIA+ terimlerini yanlışlıkla sansürlemesi, e-posta veya telefon doğrulamasının izleyici katılımını düşürmesi ve bot hesaplarının güvenlik duvarlarını kolayca aşabilmesi gibi nedenlerle yayıncıların katılım ile güvenlik arasında imkânsız ikilemler yaşadığı tespit edilmiştir.

Elde edilen sonuçlar, canlı yayın platformlarında içerik denetimi mekanizmalarının yalnızca reaktif veya tekil olay odaklı tasarlanamayacağını, sistem mimarisinin en başından itibaren olası kötüye kullanımları önleyecek biçimde tasarımla denetim ilkesiyle kurgulanması gerektiğini vurgulamaktadır. Yazarlar, mevcut literatürdeki teknolojik imkânlar kuramını genişleterek canlı yayın sistemlerindeki eş zamanlılık, görünürlük ve anonimlik imkânlarının saldırganlar tarafından nasıl bir silaha dönüştürüldüğünü teorik olarak açıklamaktadır. Platform yönetimlerinin kullanıcı kitleleriyle ve özellikle marjinalleştirilmiş yayıncılarla daha şeffaf iletişim kurması, üçüncü taraf geliştiricilerin denetim ekosistemine dahil edilmesi ve topluluk desteğini artıracak etkileşimli araçların geliştirilmesi önerilmektedir. Bu çalışma, Türk araştırmacılar için dijital platform yönetişimi, canlı yayın topluluklarında taciz ve insan-bot etkileşimi alanında yapacakları literatür taramalarında kapsamlı bir nitel kaynak oluşturmakta ve gelecekteki ampirik tasarımlara kuramsal bir zemin sunmaktadır.

Bulgular, Twitch platformundaki nefret baskınlarının rastgele tekil tacizlerden farklı olarak insan ve botların birlikte hareket ettiği, zamanlaması ve hedefi önceden kurgulanmış grup saldırıları olduğunu göstermektedir. Saldırganlar takip bildirimlerini, sohbet odası senkronizasyonunu ve kimlik etiketlerini kötüye kullanmaktadır.

Yazarlar bu durumu teknolojik imkânların (affordances) suiistimali olarak açıklamaktadır. Platformun canlı etkileşim ve görünürlük sağlamak amacıyla sunduğu araçlar, kötü niyetli aktörler tarafından marjinalleştirilmiş grupları tespit etme ve sistematik olarak taciz etme mekanizmasına dönüştürülmektedir.

Tartışmada elde edilen bulgular literatürdeki çevrim içi taciz ve zarar çerçeveleriyle karşılaştırılmaktadır. Düzenli ve organize saldırıların genel denetim stratejilerini işlevsiz kıldığı, yayıncıların güvenlik ve izleyici katılımı arasında imkânsız ikilemlere zorlandığı tespit edilmektedir.

Sonuç olarak çalışma, sosyal medya ve canlı yayın platformlarının içerik denetimi mimarisinde köklü bir zihniyet değişimine ihtiyaç duyduğunu ortaya koymaktadır. Yazarlar, yeni etkileşim araç tasarımlarının en başından itibaren denetim ve olası kötüye kullanım senaryolarını içerecek şekilde tasarlanmasını önermektedir.

Yazarlar elde ettikleri bulguları Scheuerman ve arkadaşlarının (2021) çevrim içi zarar çerçevesi ile ilişkilendirerek nefret baskınlarının marjinalleştirilmiş yayıncılarda yalnızca anlık rahatsızlık değil, duygusal, ilişkisel ve finansal boyutlarda uzun süreli ve karmaşık zararlar ürettiğini göstermektedir (Cai et al., 2023).

Bu çalışma, literatürde çoğunlukla asenkron ve metin odaklı olarak incelenen çevrim içi taciz tartışmalarını, canlı yayın sistemlerinin gerçek zamanlı ve eş zamanlı (synchronous) yapısına taşıyarak önemli bir boşluğu doldurmaktadır. Geleneksel çalışmalar tekil kullanıcılar tarafından gerçekleştirilen taciz olaylarına odaklanırken, bu makale insan-bot ortaklığıyla gerçekleştirilen koordineli ve büyük ölçekli grup saldırılarını (nefret baskınlarını) incelemektedir. Bu yönüyle canlı yayın ekosistemlerindeki yeni ihlal biçimlerinin ve bu platformların kendilerine özgü yapısal zorluklarının kavramsallaştırılmasında öncü bir işlev görmektedir.

Makale, Norman'ın insan-bilgisayar etkileşimi alanındaki 'teknolojik imkânlar' (affordances) teorisini canlı yayın bağlamındaki suistimal biçimlerini açıklamak üzere genişletmektedir. Vitak ve diğerlerinin (2017) sosyal medyadaki taciz hafifletme stratejileri ve marjinal grupların güvenlik arayışlarına dair çalışmalarını temel alarak, canlı yayın sohbet odalarındaki asimetrik görünürlük ve takipçi bildirimleri gibi teknik özelliklerin nasıl birer saldırı aracına dönüştürüldüğünü ortaya koymaktadır. Aynı zamanda Cai ve Wohn (2019) tarafından ortaya konan çok seviyeli topluluk denetimi modellerini gerçek zamanlı kriz anlarındaki yetersizlikleri üzerinden eleştirerek derinleştirmektedir.

Çalışma, içerik denetimi literatürüne 'tasarımla denetim' (moderation-by-design) kavramsallaştırmasını kazandırarak çok önemli bir teorik katkı sunmaktadır. Sadece platform düzeyindeki yapay zeka araçlarının veya topluluk düzeyindeki insan moderatörlerin tek başlarına bu ölçekteki koordineli saldırılarla baş edemeyeceğini ampirik olarak kanıtlamaktadır. Bu durum, araştırmacıların içerik denetimini yalnızca reaktif bir kural uygulama süreci olarak değil, sistem mimarisinin en başından itibaren suistimalleri önleyecek şekilde tasarlanması gereken proaktif bir sosyo-teknik ekosistem olarak yeniden değerlendirmelerini sağlamaktadır.