Nitel araştırma makalesi incelemesi
DOI: 10.1145/3610191Twitch Platformundaki Nefret Baskınları: Canlı Yayın Topluluklarında Gerçek Zamanlı İnsan-Bot Koordineli Saldırıların Anlaşılması
Canlı yayın platformları ve çevrim içi topluluklar, kullanıcı etkileşimini artırmak için eş zamanlı sohbet ve takip mekanizmaları sunarken bu teknolojik imkânlar yeni çevrim içi taciz türlerine de zemin hazırlamaktadır.
Makalenin anahtar kelimeleri
- Yazar
- Jie Cai et al.
- Yayın
- Proceedings of the ACM on Human-Computer Interaction
- Tarih
- 2023-09-28
Makalenin Kapsamı ve Akademik İçeriği
Canlı yayın platformları, yayıncılar ile izleyiciler arasında eş zamanlı ve çok modlu etkileşim imkânı sunarak çağdaş çevrim içi toplulukların temel bileşenlerinden biri haline gelmiştir. Bununla birlikte, platformların sunduğu canlı sohbet, takip sistemi ve yayın sonrasında izleyicileri başka kanallara yönlendiren baskın imkânları, kötü niyetli aktörler tarafından manipüle edilerek yeni taciz türlerinin doğmasına yol açmaktadır. Özellikle Twitch platformunda 2021 yılında belirginleşen ve marjinalleştirilmiş yayıncıları (ırksal azınlıklar, LGBTQIA+ bireyler ve engelliler) hedef alan nefret baskınları, otomatik bot hesapları ile insan saldırganların koordineli biçimde nefret söylemi ve nefret mesajları yaymasıyla karakterize edilmektedir. Bireysel ve rastgele tacizlerden farklı olarak yüksek ölçeklenebilirlik ve yoğunluk taşıyan bu saldırılar, mevcut platform denetim araçlarını yetersiz bırakmakta ve yayıncılar üzerinde psikolojik, sosyal ve finansal yıkımlara yol açmaktadır. Bu durum, teknolojik imkânların nasıl kötüye kullanıldığının ve canlı yayın ekosistemlerinde sürdürülebilir yönetişim моделейinin nasıl kurulabileceğinin nitel boyutlarıyla araştırılmasını zorunlu kılmaktadır.
Araştırmanın temel amacı, Twitch topluluğunda yaşanan gerçek zamanlı insan-bot koordineli nefret baskınlarının doğasını, etkilerini ve bu saldırılara karşı geliştirilen denetim stratejilerini kullanıcı bakış açısından çözümlemektir. Bu doğrultuda çalışma, Twitch kullanıcılarının, yayıncıların, moderatörlerin ve izleyicilerin deneyim paylaşımlarında bulunduğu r/Twitch subreddit platformundan veri kazıma yöntemiyle elde edilen başlık ve yorumları inceleyen nitel bir veri desenine dayanmaktadır. Veri toplama sürecinde Ocak ve Şubat 2022 tarihleri arasında 182 ana başlık ve 5392 yorum toplanmış, veri temizleme ve alaka süzgecinden geçirmenin ardından 55 detaylı başlık ile 3944 yorum nihai veri setine dahil edilmiştir. Kodlama sürecinde Fereday ve Muir-Cochrane tarafından geliştirilen hibrit kodlama yaklaşımı izlenerek hem tümevarımsal anahtar kavramlar hem de literatüre dayalı tümdengelimsel temalar oluşturulmuş, kodlayıcılar arası güvenilirlik testi uygulanarak Cohen Kappa katsayısı 0,90 seviyesine ulaştırılmıştır. Elde edilen nitel bulgular kullanıcıların nefret baskınlarını algılama biçimlerine, platforma yöneltilen eleştirilere ve denetim araçlarının etkililiğine göre kategorize edilmiştir.
Çalışmanın bulguları, nefret baskınlarının yalnızca Twitch platformunun resmi baskın özelliğini kullanmadığını, otomatik takip botlarının kitlesel akını veya sohbet odasına aynı anda nefret içerikli iletiler yağdırılması biçiminde gerçekleştiğini göstermektedir. Saldırganların marjinalleştirilmiş yayıncıları kimlik etiketleri üzerinden tespit ettiği, yayıncıları platform kurallarını ihlal etmeye zorlayacak şekilde kurgulanmış şok içeriklerle tuzağa düşürdüğü ve ardından platform yönetimine şikayet ederek hesaplarının kapatılmasını sağladığı belirlenmiştir. Yaşanan bu olaylar neticesinde marjinalleştirilmiş yayıncıların sürekli panik ve endişe halinde oldukları, izleyici kitlelerinde ciddi erimeler yaşandığı, maddi kayıplara uğradıkları ve hatta fiziksel güvenlik tehditleriyle yüzleştikleri ortaya konmuştur. Teknik denetim mekanizmalarının değerlendirilmesinde ise otomatik kelime filtrelerinin LGBTQIA+ terimlerini yanlışlıkla sansürlemesi, e-posta veya telefon doğrulamasının izleyici katılımını düşürmesi ve bot hesaplarının güvenlik duvarlarını kolayca aşabilmesi gibi nedenlerle yayıncıların katılım ile güvenlik arasında imkânsız ikilemler yaşadığı tespit edilmiştir.
Elde edilen sonuçlar, canlı yayın platformlarında içerik denetimi mekanizmalarının yalnızca reaktif veya tekil olay odaklı tasarlanamayacağını, sistem mimarisinin en başından itibaren olası kötüye kullanımları önleyecek biçimde tasarımla denetim ilkesiyle kurgulanması gerektiğini vurgulamaktadır. Yazarlar, mevcut literatürdeki teknolojik imkânlar kuramını genişleterek canlı yayın sistemlerindeki eş zamanlılık, görünürlük ve anonimlik imkânlarının saldırganlar tarafından nasıl bir silaha dönüştürüldüğünü teorik olarak açıklamaktadır. Platform yönetimlerinin kullanıcı kitleleriyle ve özellikle marjinalleştirilmiş yayıncılarla daha şeffaf iletişim kurması, üçüncü taraf geliştiricilerin denetim ekosistemine dahil edilmesi ve topluluk desteğini artıracak etkileşimli araçların geliştirilmesi önerilmektedir. Bu çalışma, Türk araştırmacılar için dijital platform yönetişimi, canlı yayın topluluklarında taciz ve insan-bot etkileşimi alanında yapacakları literatür taramalarında kapsamlı bir nitel kaynak oluşturmakta ve gelecekteki ampirik tasarımlara kuramsal bir zemin sunmaktadır.
Araştırmanın amacı
Bu çalışma, Twitch yayın topluluklarında gerçekleşen gerçek zamanlı insan-bot koordineli grup saldırıları olan nefret baskınlarını, marjinalleştirilmiş yayıncıların deneyimlerini, saldırıların etkilerini ve toplulukların karşılaştığı denetim zorluklarını nitel analiz yöntemiyle incelemeyi amaçlamaktadır(Cai et al., 2023).
İnceleme ve modelleme yöntemi
Bu araştırma, Twitch platformundaki nefret baskınlarını anlamak üzere r/Twitch subreddit topluluğundaki çevrim içi tartışmaları nitel veri analizi ve tematik içerik çözümlemesiyle inceleyen ampirik ve nitel bir tasarıma dayanmaktadır(Cai et al., 2023).
Kuramsal ve kavramsal çerçeve
Çalışma, Norman tarafından tanımlanan ve kullanıcıların bir nesne veya sistemle gerçekleştirebileceği algılanan eylem olasılıklarını ifade eden teknolojik imkânlar (affordances) kuramını temele almaktadır. Ayrıca marjinalleştirilmiş yayıncıların yaşadığı zararları açıklamak için zarar ve ödünleşim (harm and trade-off) çerçevesi ile sistem tasarlanırken olası kötüye kullanımların önceden dikkate alınmasını savunan tasarımla denetim (moderation-by-design) merceğini kullanmaktadır.
Makalenin ele aldığı literatür
Çalışma, marjinalleştirilmiş gruplara yönelik çevrim içi taciz, sosyal medya platformlarının teknolojik imkânları, içerik denetimi sistemleri, otomatik araçlar ile insan moderatörlerin iş birliği ve Twitch üzerindeki topluluk yönetimi literatürünü ele almaktadır. Bireysel ve rastgele tacizler ile kitlesel ve koordineli grup saldırıları arasındaki niteliksel farklar vurgulanmaktadır.
Araştırma Tasarımı
- Evren veya inceleme alanı
- Twitch canlı yayın platformunun r/Twitch subreddit topluluğunda nefret baskınları hakkında paylaşılan tüm çevrim içi başlıklar ve yorumlar.
- Örneklem veya araştırma materyali
- 182 başlık ve 5.392 yorum arasından elenerek elde edilen, 13 Nisan 2021 - 17 Şubat 2022 tarihleri arasındaki nefret baskını tartışmalarını içeren 55 başlık ve 3.944 yorum.
- Veri toplama süreci
- RedditExtractoR R paketi kullanılarak hate raid, follow bot, massive bot, hate attack ve group attack anahtar kelimeleriyle veri çekilmiştir.
- Veri analiz yöntemi
- Fereday ve Muir-Cochrane'in altı adımlı yaklaşımı izlenerek hem tümevarımsal hem de tümdengelimsel kodlama ile nitel tematik analiz uygulanmış, kodlayıcılar arası güvenilirlik Cohen Kappa (0.90) ile doğrulanmıştır.
Araştırmanın Bulguları
Nefret baskınları, canlı yayın sisteminin sunduğu imkânları kötüye kullanarak marjinalleştirilmiş yayıncıları hedef alan, insan ve bot etkileşimli koordineli grup saldırılarıdır(Cai et al., 2023).
Saldırganlar, yayıncıları platform kurallarını ihlal etmeye zorlayıp onları tuzağa düşürmekte ve platform yönetim mekanizmalarını suiistimal ederek hesaplarının kapatılmasını sağlamaktadır(Cai et al., 2023).
Nefret baskınları marjinalleştirilmiş yayıncılarda duygusal travma, izleyici topluluğunun küçülmesi ve gelir kaybı gibi çok katmanlı zararlara yol açmaktadır(Cai et al., 2023).
Mevcut denetim araçları çoğunlukla teknik odaklıdır; marjinalleştirilmiş yayıncılar denetim katılığı ile izleyici katılımını dengelemede büyük zorluklar yaşamaktadır(Cai et al., 2023).
Bulguların Tartışılması ve Araştırmanın Sonucu
Bulguların Yazarlar Tarafından Yorumlanışı
Bulgular, Twitch platformundaki nefret baskınlarının rastgele tekil tacizlerden farklı olarak insan ve botların birlikte hareket ettiği, zamanlaması ve hedefi önceden kurgulanmış grup saldırıları olduğunu göstermektedir. Saldırganlar takip bildirimlerini, sohbet odası senkronizasyonunu ve kimlik etiketlerini kötüye kullanmaktadır.
Yazarlar bu durumu teknolojik imkânların (affordances) suiistimali olarak açıklamaktadır. Platformun canlı etkileşim ve görünürlük sağlamak amacıyla sunduğu araçlar, kötü niyetli aktörler tarafından marjinalleştirilmiş grupları tespit etme ve sistematik olarak taciz etme mekanizmasına dönüştürülmektedir.
Tartışmada elde edilen bulgular literatürdeki çevrim içi taciz ve zarar çerçeveleriyle karşılaştırılmaktadır. Düzenli ve organize saldırıların genel denetim stratejilerini işlevsiz kıldığı, yayıncıların güvenlik ve izleyici katılımı arasında imkânsız ikilemlere zorlandığı tespit edilmektedir.
Sonuç olarak çalışma, sosyal medya ve canlı yayın platformlarının içerik denetimi mimarisinde köklü bir zihniyet değişimine ihtiyaç duyduğunu ortaya koymaktadır. Yazarlar, yeni etkileşim araç tasarımlarının en başından itibaren denetim ve olası kötüye kullanım senaryolarını içerecek şekilde tasarlanmasını önermektedir.
Bulguların Önceki Araştırmalarla Karşılaştırılması
Yazarlar elde ettikleri bulguları Scheuerman ve arkadaşlarının (2021) çevrim içi zarar çerçevesi ile ilişkilendirerek nefret baskınlarının marjinalleştirilmiş yayıncılarda yalnızca anlık rahatsızlık değil, duygusal, ilişkisel ve finansal boyutlarda uzun süreli ve karmaşık zararlar ürettiğini göstermektedir(Cai et al., 2023).
Sonuç Bölümünün Sunduğu Çıkarımlar
Yazarlar, nefret baskınlarının canlı yayın sistemlerinin teknolojik imkânlarını suistimal eden yeni bir insan-bot koordineli taciz biçimi olduğu sonuçuna varmaktadır. Mevcut topluluk seviyesindeki denetim araçlarının bu ölçekteki saldırılara karşı yetersiz kalması sebebiyle, yeni etkileşimli özellikler geliştirilirken potansiyel kötüye kullanımları önceden hesaba katan tasarımla denetim (moderation-by-design) felsefesinin benimsenmesi gerektiği vurgulanmaktadır(Cai et al., 2023).
Literatür Taraması İçin Sunduğu Çerçeve
Bu çalışma, literatürde çoğunlukla asenkron ve metin odaklı olarak incelenen çevrim içi taciz tartışmalarını, canlı yayın sistemlerinin gerçek zamanlı ve eş zamanlı (synchronous) yapısına taşıyarak önemli bir boşluğu doldurmaktadır. Geleneksel çalışmalar tekil kullanıcılar tarafından gerçekleştirilen taciz olaylarına odaklanırken, bu makale insan-bot ortaklığıyla gerçekleştirilen koordineli ve büyük ölçekli grup saldırılarını (nefret baskınlarını) incelemektedir. Bu yönüyle canlı yayın ekosistemlerindeki yeni ihlal biçimlerinin ve bu platformların kendilerine özgü yapısal zorluklarının kavramsallaştırılmasında öncü bir işlev görmektedir.
Makale, Norman'ın insan-bilgisayar etkileşimi alanındaki 'teknolojik imkânlar' (affordances) teorisini canlı yayın bağlamındaki suistimal biçimlerini açıklamak üzere genişletmektedir. Vitak ve diğerlerinin (2017) sosyal medyadaki taciz hafifletme stratejileri ve marjinal grupların güvenlik arayışlarına dair çalışmalarını temel alarak, canlı yayın sohbet odalarındaki asimetrik görünürlük ve takipçi bildirimleri gibi teknik özelliklerin nasıl birer saldırı aracına dönüştürüldüğünü ortaya koymaktadır. Aynı zamanda Cai ve Wohn (2019) tarafından ortaya konan çok seviyeli topluluk denetimi modellerini gerçek zamanlı kriz anlarındaki yetersizlikleri üzerinden eleştirerek derinleştirmektedir.
Çalışma, içerik denetimi literatürüne 'tasarımla denetim' (moderation-by-design) kavramsallaştırmasını kazandırarak çok önemli bir teorik katkı sunmaktadır. Sadece platform düzeyindeki yapay zeka araçlarının veya topluluk düzeyindeki insan moderatörlerin tek başlarına bu ölçekteki koordineli saldırılarla baş edemeyeceğini ampirik olarak kanıtlamaktadır. Bu durum, araştırmacıların içerik denetimini yalnızca reaktif bir kural uygulama süreci olarak değil, sistem mimarisinin en başından itibaren suistimalleri önleyecek şekilde tasarlanması gereken proaktif bir sosyo-teknik ekosistem olarak yeniden değerlendirmelerini sağlamaktadır.
Kaynakça
- Scheuerman, M. K., Jiang, J. A., Fiesler, C., & Brubaker, J. R. (2021). A Framework of Severity for Harmful Content Online. Proceedings of the ACM on Human-Computer Interaction, 5(CSCW2), 1-33.
Tez ve Makale Araştırmalarında Kullanım
Makalenin doğrulanmış yöntemi, bulguları ve kuramsal çerçevesi; tez ve makale çalışmalarında kullanılacağı bölümle birlikte aşağıdaki üç araştırma taslağına dönüştürülmüştür.
Tez veya makalede kullanım · literatüre-review
Canlı yayın platformlarındaki yeni teknolojik imkânlar, geleneksel çevrim içi platformlardan farklı taciz ve nefret söylemi biçimlerinin ortaya çıkmasına neden olmaktadır.
Yazarların canlı yayın sisteminin eş zamanlılık ve etkileşim özelliklerinin nefret baskınları gibi yeni taciz türlerini nasıl kolaylaştırdığına dair bulgularını desteklemek için kullanılır(Cai et al., 2023).
Canlı Yayın Platformlarında Tasarımla Denetim: Yeni Yayıncı Koruma Özelliklerinin Kullanıcı Deneyimine Etkisi
- Araştırma sorusu
- Twitch tarafından yeni geliştirilen yayıncı kontrol ve baskın kısıtlama özellikleri, marjinalleştirilmiş yayıncıların güvenlik algısını ve topluluk katılımını nasıl etkilemektedir?
- Yöntem taslağı
- Marjinalleştirilmiş (LGBTQ+ ve etnik azınlık) en az 15 Twitch yayıncısı ile yarı yapılandırılmış derinlemesine mülakatlar gerçekleştirilecektir. Nitel örneklem büyüklüğü veri doygunluğuna ulaşılana kadar artırılacaktır. Elde edilen veriler tematik analiz yaklaşımıyla çözümlenecektir.
Makaleyle bağlantısı: Makalenin 'moderation-by-design' (tasarımla denetim) teorik önerisinden ve Twitch'in yeni geliştirdiği raid kontrol araçlarının etkililiğinin incelenmesi yönündeki gelecek araştırma çağrısından türetilmiştir(Cai et al., 2023).
Tez veya makalede kullanım · Kavramsal çerçeve
Nefret baskınları, yalnızca insanların katıldığı geleneksel grup tacizlerinden farklı olarak bot hesaplarının ve insan koordinasyonunun bir arada kullanıldığı hibrit bir saldırı biçimidir.
Nefret baskınlarının tanımını ve bot-insan iş birliğine dayalı yapısını teorik bir temele oturtmak amacıyla bu kaynaktan yararlanılır(Cai et al., 2023).
Canlı Yayın Sohbet Odalarında Algoritmik Denetim ve Bot Etkileşimlerinin Sohbet Dayanıklılığına Etkisi
- Araştırma sorusu
- Sohbet odalarındaki otomatik denetim botlarının marjinal kimlik ifadelerini filtreleme oranı ile gerçek bot saldırılarını engelleme performansı arasındaki ilişki nedir?
- Yöntem taslağı
- Belirlenen 50 farklı canlı yayın kanalından elde edilecek sohbet logları ve denetim kayıtları üzerinde içerik analizi ve nicel performans testleri uygulanacaktır. Nicel örneklem büyüklüğü istatistiksel güç analizi (G*Power) yapılarak minimum %80 güç elde edecek şekilde hesaplanacaktır.
Makaleyle bağlantısı: Yayıncıların algoritmik araçlarla (AutoMod) yaşadığı filtreleme sorunları, özellikle LGBTQ+ terimlerinin yanlış engellenmesi ve saldırganların kelime filtrelerini aşma biçimlerine dair bulgulardan hareketle tasarlanmıştır(Cai et al., 2023).
Tez veya makalede kullanım · Tartışma
Marjinalleştirilmiş çevrim içi içerik üreticileri, taciz saldırıları karşısında psikolojik, ilişkisel ve finansal olmak üzere çok katmanlı zararlarla karşı karşıya kalmaktadır.
Canlı yayıncıların yaşadığı zararların çok boyutlu yapısını ve bu durumun topluluk kaybına yol açarak finansal ve duygusal yük oluşturduğunu tartışmak için referans gösterilir(Cai et al., 2023).
Canlı Yayın Yayıncılarının Çok Boyutlu Çevrim İçi Taciz Zararları ile Başa Çıkma Stratejilerinin Boylamsal Analizi
- Araştırma sorusu
- Nefret baskınlarına maruz kalan marjinal içerik üreticilerinin yaşadığı duygusal, ilişkisel ve finansal zararlar zaman içinde nasıl değişim göstermekte ve hangi başa çıkma stratejileri etkilidir?
- Yöntem taslağı
- Nefret baskınlarına maruz kalmış 20 marjinal yayıncı ile 6 aylık bir süreçte ikişer ay arayla 3 aşamalı boylamsal mülakatlar yürütülecektir. Nitel örneklem büyüklüğü kavramsal veri doygunluğu kriterine göre belirlenecektir. Veriler boylamsal tematik analizle incelenecektir.
Makaleyle bağlantısı: Yazarların makalede ortaya koyduğu ve Scheuerman'ın çerçevesiyle ilişkilendirdiği üç boyutlu (duygusal, ilişkisel, finansal) zarar bulgularını boylamsal bir perspektifle derinleştirmek amacıyla önerilmiştir(Cai et al., 2023).