AI nasıl daha güvenli bir çevrimiçi dünya yaratıyor?

In: Social Media


Transform 2022’ye katılamadınız mı? İsteğe bağlı kitaplığımızdaki tüm zirve oturumlarına şimdi göz atın! Buraya bak.


İtibaren sosyal medya siber zorbalık ile metaverse saldırı, İnternet tehlikeli bir yer olabilir. Çevrimiçi içerik denetimi, şirketlerin platformlarını kullanıcılar için daha güvenli hale getirmenin en önemli yollarından biridir.

Ancak, içeriği denetlemek kolay bir iş değildir. Çevrimiçi içeriğin hacmi şaşırtıcı. Moderatörler, nefret söylemi ve terör propagandasından çıplaklığa ve vahşete kadar her şeyle mücadele etmelidir. Dijital dünyanın “aşırı veri” yalnızca içeriğin çoğunun kullanıcı tarafından oluşturulduğu ve tanımlanması ve kategorilere ayrılması zor olabileceği gerçeğiyle birleşir.

Nefret söylemini otomatik olarak algılamak için yapay zeka

İşte burada yapay zeka devreye giriyor. Şirketler, içeriği belirlemek ve kategorilere ayırmak için makine öğrenimi algoritmalarını kullanarak, insan incelemesi için saatler veya günler beklemek yerine güvenli olmayan içeriği oluşturuldukları anda belirleyebiliyor ve böylece güvenli olmayan içeriğe maruz kalan insan sayısını azaltabiliyor.

Örneğin, Twitter AI’yı tanımlamak ve terör propagandasını kaldırmak onun platformundan. AI bayrakları yarısından fazlası CEO Parag Agrawal, hizmet şartlarını ihlal eden tweet’lerin Nefret söylemini belirlemek için yapay zekayı kullanın ve yanlış bilgilendirme. Bu, daha fazlasının yapılması gerektiğini söyledi, çünkü toksisite hala yaygın platformda.

Etkinlik

MetaBeat 2022

MetaBeat, 4 Ekim’de San Francisco, CA’da metaverse teknolojisinin tüm endüstrilerin iletişim kurma ve iş yapma şeklini nasıl değiştireceği konusunda rehberlik sağlamak için düşünce liderlerini bir araya getirecek.

Buradan Kaydolun

Benzer şekilde, Facebook’un yapay zekası, platform tarafından kaldırılan, çıplaklık, şiddet ve diğer potansiyel olarak rahatsız edici içerik dahil olmak üzere nefret söyleminin yaklaşık %90’ını algılar. Ancak, Twitter gibi Facebook’un da daha gidecek çok yolu var.

AI nerede yanlış gidiyor

Sözüne rağmen, AI tabanlı içerik denetimi birçok zorlukla karşı karşıya. Birincisi, bu sistemlerin genellikle güvenli içeriği yanlışlıkla güvenli olmayan olarak işaretlemesi ve bunun ciddi sonuçlara yol açmasıdır. Örneğin, Facebook işaretli meşru haber makaleleri pandeminin başlangıcında spam olarak koronavirüs hakkında. BT yanlışlıkla yasaklandı iki aydan fazla bir süredir Cumhuriyetçi Parti Facebook sayfası. Ve o işaretli İngiltere’de halka açık bir dönüm noktası olan Plymouth Hoe hakkında saldırgan olarak gönderilen gönderiler ve yorumlar.

Ancak, sorun zor. İçeriği işaretlememek daha da tehlikeli etkilere neden olabilir. Her ikisinde de atıcılar El Paso ve Gilroy silahlı saldırıya uğramadan önce 8chan ve Instagram’da şiddet niyetlerini yayınladılar. Pittsburgh’daki bir sinagogdaki katliamın faili olarak suçlanan Robert Bowers, Gab’da aktif, beyaz üstünlükçüler tarafından kullanılan Twitter benzeri bir site. Ukrayna’daki savaş hakkında yanlış bilgi milyonlar aldı Facebook, Twitter, YouTube ve TikTok’ta izlenme ve beğeni sayısı.

Diğer bir konu, birçok AI tabanlı denetleme sisteminin ırksal önyargılar sergilemek herkes için güvenli ve kullanılabilir bir ortam yaratmak için ele alınması gereken konular.

Denetleme için yapay zekayı iyileştirme

Bu sorunları çözmek için yapay zeka denetleme sistemlerinin daha kaliteli eğitim verilerine ihtiyacı var. Bugün birçok şirket, yapay zeka sistemlerini üçüncü dünya ülkelerindeki düşük becerili, yetersiz eğitimli çağrı merkezlerine eğitmek için verileri dış kaynaktan alıyor. Bu etiketleyiciler, doğru moderasyon kararları vermek için dil becerilerinden ve kültürel bağlamdan yoksundur. Örneğin, ABD siyasetine aşina değilseniz, içerik denetimi açısından önemlerine rağmen “6 Ocak” veya “Rudy ve Hunter”dan bahseden bir mesajın ne anlama geldiğini muhtemelen bilemezsiniz. Ana dili İngilizce değilseniz, olumlu bir bağlamda kullanılsalar ve yanlışlıkla Plymouth Çapasına veya “o çok kötü bir orospu” ifadesine yapılan atıfları saldırgan olarak işaretleseler bile, büyük olasılıkla saygısız terimleri aşırı derecede indekslersiniz.

Bu zorluğu çözen bir şirket, Dalgalanma AI, yapay zekayı dilin nüanslarında eğitmek için tasarlanmış bir veri etiketleme platformu. Facebook, YouTube ve Twitter’da güven ve güvenlik platformları oluşturan bir mühendis ve araştırmacı ekibi tarafından kurulmuştur.

Örneğin, Facebook karşı karşıya kaldı. birçok konu moderasyon sistemlerini önemli dillerde eğitmek için yüksek kaliteli veriler toplayarak. Şirketin büyüklüğüne ve dünya çapında bir iletişim platformu olarak kapsamına rağmen, düzinelerce lehçe bir yana, standart Arapça için bir model eğitmek ve sürdürmek için zar zor yeterli içeriğe sahipti. Şirketin Afganistan’da konuşulan dillerde kapsamlı bir zehirli karalama listesi olmaması, ihlal eden birçok gönderiyi kaçırabileceği anlamına geliyordu. Çalışanlar, etnik gruplara karşı artan şiddet nedeniyle Assam’da nefret söylemini büyük bir risk olarak işaretlese de, Assam nefret söylemi modelinden yoksundu. Bunlar, Surge AI’ın dillere, toksisite ve küfürlere odaklanmasıyla çözülmesine yardımcı olan sorunlardır. veri kümeleri.

Kısacası, daha büyük, daha yüksek kaliteli veri kümeleriyle, sosyal medya platformları, zararlı içeriği tespit etmek için daha doğru içerik denetleme algoritmaları eğitebilir ve bu da onları güvenli ve kötüye kullanımdan uzak tutmaya yardımcı olur. Tıpkı büyük veri kümelerinin günümüzün en gelişmiş dil oluşturma modellerini beslediği gibi, OpenAI’nin GPT-3’ü, ayrıca ılımlılık için daha iyi AI’yı da besleyebilirler. Yeterli veriyle, makine öğrenimi modelleri, daha düşük kaliteli veri kümelerinde bulunan önyargılar olmadan daha yüksek doğrulukla toksisiteyi tespit etmeyi öğrenebilir.

Yapay zeka destekli içerik denetimi mükemmel bir çözüm değil, ancak şirketlerin platformlarını güvenli ve zararlardan uzak tutmalarına yardımcı olabilecek değerli bir araçtır. Yapay zekanın artan kullanımıyla, çevrimiçi dünyanın herkes için daha güvenli bir yer olduğu bir gelecek için umut edebiliriz.

Valerias Bangert, üç karlı medya kuruluşunun kurucusu ve yayınlanmış bir yazar olan bir strateji ve yenilik danışmanıdır.

DataDecisionMakers

VentureBeat topluluğuna hoş geldiniz!

DataDecisionMakers, veri işi yapan teknik kişiler de dahil olmak üzere uzmanların verilerle ilgili içgörüleri ve yenilikleri paylaşabileceği yerdir.

En yeni fikirleri ve güncel bilgileri, en iyi uygulamaları ve veri ve veri teknolojisinin geleceğini okumak istiyorsanız DataDecisionMakers’da bize katılın.

Hatta düşünebilirsin bir makaleye katkıda bulunmak kendi!

DataDecisionMakers’dan Daha Fazlasını Okuyun

Bir cevap yazın

Ready to Grow Your Business?

We Serve our Clients’ Best Interests with the Best Marketing Solutions. Find out More

How Can We Help You?

Need to bounce off ideas for an upcoming project or digital campaign? Looking to transform your business with the implementation of full potential digital marketing?

For any career inquiries, please visit our careers page here.
[contact-form-7 404 "Bulunamadı"]