Yapay zeka teknolojilerinin gelişmesiyle birlikte artan deepfake ve dijital kimlik hırsızlığı vakalarına karşı TikTok’tan kritik bir hamle geldi. Platform, içerik üreticilerinin yüzlerinin ve dijital benzerliklerinin izinsiz kullanıldığı yapay zeka videolarını tespit edip kaldırmalarını sağlayan yeni bir güvenlik aracını kapalı beta sürecinde test etmeye başladı.
Gerçek zamanlı selfie ve kimlik doğrulaması şartı
- İzinsiz içerikleri bulma ve bildirme: Test edilen yeni araç, içerik üreticilerinin yüzlerinin yapay zeka araçlarıyla değiştirildiği veya sıfırdan üretildiği videoları otomatik olarak tarayarak tespit ediyor. İçerik üreticileri, kendi yüzlerinin izinsiz kullanıldığı gönderileri ve ilgili hesapları doğrudan inceleyip tek tıkla platforma bildirebilecek.
- Kötüye kullanımı önlemek için strict doğrulama: Sistemin ihlal edilmesini ve asılsız telif/bildirim şikayetlerini önlemek için TikTok, özelliği kullanmak isteyen üreticilerden gerçek zamanlı selfie çekimi ve resmi kimlik doğrulaması talep ediyor. Şirket, bu verilerin saklanmadığını ve doğrulamanın güvenli üçüncü taraf hizmet sağlayıcıları üzerinden yürütüldüğünü belirtiyor.
Sosyal medya devlerinin deepfake savaşı kızışıyor
- YouTube ve diğer platformların adımları: Deepfake krizine karşı tedbir alan tek platform TikTok değil. Hatırlanacağı üzere YouTube da geçtiğimiz dönemde benzer bir yüz tarama yapay zeka aracını devreye sokmuş; ilk olarak politikacı ve gazetecilere sunduğu bu koruma katmanını zamanla tüm kullanıcılara açmıştı.
- Artan tehdit ve etik tartışmalar: Gelişen yapay zeka modelleriyle birlikte kişilerin rızası olmadan oluşturulan müstehcen içerikler ve dolandırıcılık videoları sektörün en büyük güvenlik açığı haline geldi. X üzerinde hizmet veren Grok gibi sistemlerin de benzer esnek görsel üretme yetenekleri nedeniyle sert eleştirilere maruz kalması, platformları bu tarz tespiti kolaylaştırıcı araçları zorunlu olarak geliştirmeye itiyor.
