Meta'nın Gözetim Kurulu, şirketi cinsel içerikli derin sahtekarlıklarla ilgili kurallarını güncellemeye çağırıyor. Kurul, tanınmış kişilerin AI tarafından oluşturulan görsellerini içeren iki vakada aldığı kararın bir parçası olarak tavsiyelerde bulundu.

Davalar, kamuya mal olmuş kişilerin yapay zeka tarafından oluşturulan görselleri üzerine yapılan iki kullanıcı itirazından kaynaklanıyor, ancak kurul bu kişilerin isimlerini vermeyi reddetti. Instagram'dan çıkan bir gönderide çıplak bir Hintli kadın tasvir ediliyordu. Gönderi Meta'ya bildirildi ancak rapor, daha sonra kullanıcı itirazı gibi 48 saat sonra otomatik olarak kapatıldı. Şirket sonunda Gözetim Kurulu'nun dikkatini çektikten sonra gönderiyi kaldırdı ancak bu durum Meta'nın görseli kaldırma yönündeki orijinal kararını bozdu.

Her iki durumda da Gözetim Kurulu, AI deepfake'lerinin şirketin "aşağılayıcı cinselleştirilmiş photoshop" görsellerini yasaklayan kurallarını ihlal ettiğini söyledi. Ancak Gözetim Kurulu, Meta'ya sunduğu tavsiyelerde, bu kurallarda kullanılan mevcut dilin güncelliğini yitirdiğini ve kullanıcıların yapay zeka tarafından oluşturulan müstehcen görselleri raporlamasını zorlaştırabileceğini söyledi.

Bunun yerine kurul, yapay zeka tarafından üretilen veya manipüle edilen rıza dışı müstehcen görselleri yasakladığını açıkça belirtmek için politikalarını güncellemesi gerektiğini söylüyor. Kurul, "Günümüzde internette yayılan, rıza dışı cinselleştirilmiş görüntülerin çoğu, mevcut görüntüleri otomatik olarak düzenleyen veya tamamen yenilerini oluşturan üretken yapay zeka modelleriyle yaratılıyor" diye yazıyor. Meta, aşağılayıcı cinselleştirilmiş içeriğe yönelik yasağının bu daha geniş yelpazeyi kapsamasını sağlamalıdır. Hem kullanıcılar hem de şirketin moderatörleri için anlaşılır bir şekilde düzenleme tekniklerini öğrenin."

Kurul ayrıca Meta'nın kullanıcılar üzerinde "önemli insan hakları etkileri" yaratabileceğini söylediği kullanıcı itirazlarını otomatik olarak kapatma uygulamasına da dikkat çekti. Ancak kurul, uygulama hakkında öneride bulunmak için "yeterli bilgiye" sahip olmadığını söyledi.

Açık yapay zeka görüntülerinin yayılması, "derin sahte porno"nun son yıllarda çevrimiçi tacizin daha yaygın bir biçimi haline gelmesiyle giderek daha fazla öne çıkan bir sorun haline geldi. Kurulun kararı ABD Senatosu'ndan bir gün sonra geldi. Açık deepfake'leri ortadan kaldıran bir yasa tasarısı. Tedbir yasalaşırsa, mağdurların bu tür görüntülerin yaratıcılarına 250.000 dolara kadar dava açabilmesine olanak tanınacak.

Bu vakalar, Gözetim Kurulu'nun Meta'yı yapay zeka tarafından oluşturulan içerikle ilgili kurallarını güncellemesi için zorladığı ilk vaka değil. Başka bir yüksek profilli davada, kurul bir soruşturmayı yürüttü. Kötü niyetli olarak düzenlenmiş Başkan Joe Biden'ın videosu.