TIKTOK'TAN DEEPFAKE HAMLESİ: YAPAY ZEKA İLE OLUŞTURULAN SAHTE VİDEOLAR TESPİT EDİLECEK

Platform, kullanıcıların yüzlerinin izinsiz şekilde kullanıldığı yapay zeka videolarını tespit edip bildirebilmelerini sağlayacak yeni benzerlik algılama aracını devreye almaya hazırlanıyor.

YÜZ BENZERLİĞİNİ YAPAY ZEKA TESPİT EDECEK

Test aşamasındaki yeni özellik, içerik üreticilerinin yüzlerinin yapay zeka ile değiştirilmiş veya tamamen oluşturulmuş versiyonlarının yer aldığı videoları tespit etmelerine yardımcı olacak. Sistem, benzerlik tespiti yaptığı içerikleri kullanıcıların incelemesine sunacak ve uygun görülmesi halinde ilgili video ya da hesap doğrudan şikayet edilebilecek.

Benzerlik algılama özelliğinden yararlanmak isteyen içerik üreticilerinin öncelikle kimlik doğrulaması yapması gerekecek. Bunun için gerçek zamanlı çekilen bir selfie ile kimlik doğrulama süreci tamamlanacak.

TikTok, doğrulama işlemlerinde belgelerin saklanmadığı üçüncü taraf bir kimlik doğrulama hizmeti kullandığını belirtiyor.

TikTok, benzerlik algılama sistemini şu anda sınırlı kullanıcı grubuyla test ediyor. Denemelerin başarılı olması halinde özelliğin kademeli olarak tüm kullanıcılara sunulması bekleniyor.

YOUTUBE BENZER SİSTEMİ DAHA ÖNCE DEVREYE ALDI

Deepfake içeriklerle mücadele kapsamında YouTube da bu yıl benzer bir yapay zeka aracını kullanıma sunmuştu. İlk etapta siyasetçiler ve gazeteciler gibi belirli kullanıcı gruplarına açılan sistem, daha sonra daha geniş kullanıcı kitlesinin erişimine sunuldu.

DEEPFAKE İÇERİKLER BÜYÜYEN TEHDİT HALİNE GELDİ

Yapay zeka teknolojilerinin gelişmesiyle birlikte deepfake videoların gerçeğinden ayırt edilmesi giderek zorlaşıyor. Özellikle kişilerin fotoğraflarını izinsiz şekilde manipüle eden ve sahte görüntüler üreten uygulamalar son dönemde önemli gizlilik ve güvenlik tartışmalarına neden oldu.