Instagram yapay zeka sayesinde trollerle savaşıyor

0
20

Bugün sosyal medya hayatımızın bir parçası haline gelmiş olsa da troll hesaplar gününüzü zehir edebiliyor. Her hesaba musallat olan bu spam hesaplardan firma ve şirketler kurtulmanın çeşitli yollarını arıyor. Öyle ki sosyal medya devi Instagram yapılabilecek en güzel işi yaparak troll hesaplardan kurtulmak adına yapay zekayı devreye soktu.

Kelime filtresinden yapay zekaya

Instagram mevcut bu sıkıntı için geçtiğimiz aylarda bir filtre devreye sokarak, bu türlü mesajları otomatik silmenize imkan tanımıştı.Bu filtre, uygunsuz olan kelimeleri silerek, kullanıcılara da kelime filtresi imkanı sunmuştu.

Ancak ne var ki bu filtre de trollerle savaşmak için yeterli bir önlem olmadı. Zira spam veya uygunsuz mesaj üretirken belirli bir kalıpta sözcük kullanılmıyor.

Yapay zekanın yapacağı işlem ise yorumların bağlamını çözerek, spesifik herhangi bir kelimeyi işaret etmese de trollerin yorumlarını engelleyecek. Hali hazırda sadece İngilizce dilinde kullanılan uygulama yakın zamanda diğer diller içinde geçerli olacak ve bu sayede trollerden bir nebze daha kurtulmuş olacağız.

DeepText yazının bağlamını öğrenecek

Instagram’ın geliştirdiği yapay zekanın adı DeepText olarak belirlendi. DeepText’in çalışma prensibi ise, kelimelerin hangi amaçla ve anlamla kullanıldığını belirleyerek ona göre filtreleme uygulamak. Örnek olarak “siyah” kelimesi bir rengi ifade ederkenfiltreye takılmayacak ancak “siyah güç” gibi ırkçılık ifade eden durumlarda yorum silinecek.

Ancak ne var ki bazen nefret söylemlerini yakalamak hiçte kolay olmuyor. Mesela nefret içeren bir cümleyi alıntılayıp bu duruma katılmadığınızı belirttiğiniz de ne olacak? Ya da bazı kelimeler hem nefret söylemi hem de bambaşka anlamlar taşıyabiliyor, peki bu durumda ne olacak?

Bu tür durumlara karşı yapay zeka her zaman kendini geliştiren bir yapıya sahip. Kullanıldıkça bu eksiklikler kapatılacaktır. Aksi durumda zaten filtreyi kapatma seçeneği de mevcut.


CEVAP VER