Sosyal medya denetiminde yapay zeka tek başına yetersiz kalıyor

Tipik sosyal medya yapay zeka tabanlı denetim sistemleri, gönderileri incelemek ve platform kurallarını ihlal eden içerikleri tespit edip işaretlemek için makine öğrenimi sınıflandırıcıları kullanıyor. Ancak bir makinenin alay, mizah ve argo gibi incelikleri anlaması oldukça zor.

Ayrıca bazı araştırmalar, dezavantajlı grupların yapay zeka moderasyonundan aşırı derecede etkilenebileceğini gösteriyor. İnsan denetimi olmadan yapay zeka, sistemlerin mücadele etmek üzere tasarlandığı nefret içeriklerinden en çok zarar gören toplulukları cezalandırabilir duruma gelebiliyor.

Cornell Citizens and Technology Lab araştırma direktörü Gilbert, dışlanmış ve kırılgan toplulukların en yüksek oranda denetime maruz kalanlar arasında yer aldığını ve bunun genellikle karşı söylem, dilin yeniden sahiplenilmesi ve nefret içeriklerine verilen tepkilerden kaynaklanan "yanlış pozitifler" sonucunda ortaya çıktığını belirtiyor.

Gilbert, yanlış pozitiflerin bir adalet sorunu olduğunu ve halihazırda dışlanmış grupların daha da susturulduğu ve sansürlendiği anlamına geldiğini ekliyor.

Yapay zeka denetçileri, toplulukların kendi kendilerini denetleme etkinliklerini de azaltabiliyor. Örneğin Reddit'te bazı alt dizin moderatörleri, nefret söylemi veya şiddet içeren retorik kullanan kullanıcıları yasaklamayı tercih ediyor. Ancak Reddit'in yapay zekası bu tür içerikleri bir insan moderatör görmeden kaldırırsa, bu moderatörler bir yasağın gerekçeli olup olmadığını değerlendirme yeteneklerini kaybediyor.

İnsan moderatörlere daha fazla kontrol verme konusunda Reddit, bu hafta Rules Hub testlerinin genişletildiğini duyurdu. Bu araç paketi, insan moderatörlerin hangi kuralların otomatik olarak uygulanacağını seçmesine, bir kural tetiklendiğinde ne olacağına karar vermesine, etkinleştirmeden önce deneyimi önizlemesine ve günlükleri ile içgörüleri incelemesine olanak tanıyan bir yapı sunuyor. Reddit, Rules Hub'ın nihayetinde öncelikle tam anahtar kelimelere dayanan Automod aracının yerini almasını bekliyor.

Konuştuğu moderatörlerin üretken yapay zeka patlamasını topluluk kurallarını veya daha geniş platform kurallarını ihlal eden içeriklerdeki artıştan defalarca sorumlu tuttuğunu belirten uzmanlar, bunun kullanıcı katkılarına güvenen sosyal medya siteleri için ciddi bir sorun olduğunu vurguluyor.

Şirketler daha güvenilir ve etkili bir şekilde denetim yapmanın yeni yöntemlerini denemeye devam edecek, ancak insan katkısını azaltmak geriye doğru atılmış bir adım anlamına geliyor. Düşük çaba gerektiren yapay zeka üretimi içerikler denetim ekiplerinin karşılaştığı zorlukları değiştiriyor, ancak bu durum makine ölçeğinde tespitin insan muhakemesi ve uzmanlığıyla birleştirildiği daha güçlü yaklaşımları daha da gerekli kılıyor.

Sosyal medya insanlar olmadan nasıl bir değer taşımıyorsa, içerik moderasyonu da insan muhakemesi ön planda olmadan başarısızlığa mahkumdur.

Ars Technica'nın çatı şirketi Condé Nast'ın sahibi olan Advance Publications, Reddit'in en büyük hissedarı konumunda bulunuyor.