TikTok yüzlerce çalışanı yapay zeka ile içerik denetimi kapsamında işten çıkarıyor

Sosyal medya platformu TikTok, içerik denetiminde yapay zeka teknolojilerine geçiş süreci kapsamında, güven ve güvenlik ekiplerinde çalışan yüzlerce moderatörü işten çıkaracağını duyurdu.

Şirket, İrlanda'daki çalışan sayısını yaklaşık 300 kişi azaltmayı planlıyor. Diğer pazarlardaki ekiplerin de süreçten etkileneceği, ancak hangi ülkelerde kesintiye gidileceğinin henüz netleşmediği belirtildi.

TikTok bünyesindeki içerik moderatörleri, platformdaki tehlikeli ve zararlı içeriklerin engellenmesinden sorumlu bulunuyor. Videolar bölge yerine dil bazlı denetlendiği için, bu işten çıkarmaların belirli bir bölgeyle sınırlı kalmayıp tüm kullanıcıları etkileyeceği öngörülüyor.

Platform yetkilileri, kesintilerin güven ve güvenlik alanındaki küresel operasyon modelini en son teknolojik yeniliklerle güçlendirmek amacıyla yapılan bir yeniden yapılanma olduğunu açıkladı.

Güvenlik endişeleri artıyor

Geçen yıl TikTok'un Londra ofisindeki güven ve güvenlik ekibinden 400'den fazla çalışanın ayrılması, çevrim içi güvenlik konusunda parlamento düzeyinde incelemelere yol açtı.

Hükümet yetkilileri ve komisyon başkanları, personel kesintilerinin kullanıcıların hayatı için risk oluşturduğunu ve platformun güvenliği sağlama yeteneğini zayıflattığını savunuyor.

Moderatörler ise bu bütçe kesintilerinin kullanıcıları deepfake ve istismar gibi zararlı içeriklere karşı savunmasız bırakabileceği konusunda uyarılarda bulunuyor.

Şirket tarafından paylaşılan verilere göre, bu yılın ocak ve nisan ayları arasında kaldırılan içeriklerin yüzde 97'si otomatik teknolojiler tarafından silindi. Yapay zeka ile kaldırılan içeriklerin yüzde 99'unun ise henüz hiçbir kullanıcı tarafından şikayet edilmeden yayından kaldırıldığı bildirildi.

"Yapay zeka bu görev için henüz hazır değil"

Platformda görev yapan moderatörler, yapay zekanın geniş ölçekli denetim için henüz yeterli olmadığını ifade ediyor.

Bir şirket çalışanı, sistemin sıkça hata yaptığını belirterek, silah tespiti için geliştirilen modellerin el hareketleriyle yapılan silah şekillerini gerçek silah olarak algıladığını aktardı. Benzer şekilde, kan tespiti için tasarlanan modelin duvardaki lekeleri dahi kan olarak yorumlayabildiği kaydedildi.

Yapay zekanın yorum bölümlerinde kuralları ihlal etmek amacıyla emoji kullanan kullanıcıların yöntemlerini çözmede de yetersiz kaldığı belirtiliyor.

Çocukların korunmasına yönelik denetimler sıkılaşıyor

Gelişmeler, sosyal medya platformlarının çocukları zararlı içeriklerden koruması yönündeki baskıların arttığı bir döneme denk geldi. İngiltere Başbakanı Keir Starmer, 16 yaş altındaki çocukların sosyal medya kullanımının 2027 yılının ilkbahar aylarından itibaren yasaklanacağını açıkladı.

TikTok sözcüsü, konuya ilişkin yaptığı açıklamada, ekiplerin ölçeklenebilir ve çevik kalmasını sağlamak, Dublin'de yüzlerce yeni uzman kadrosu oluşturmak, yeniden görevlendirme fırsatları sunmak ve en son teknolojik yeniliklerle platform güvenliğini geliştirmek amacıyla güven ve güvenlik operasyon modelini güçlendirecek bir yeniden yapılanma süreci üzerinde çalıştıklarını ifade etti.