Beritane.com – Google perbarui Algoritma untuk atasi konten Deepfake eksplisit cukup menarik perhatian. Berikut ini informasi tentang pembaruan algoritma.
Google baru-baru ini memperbarui algoritma mesin pencarinya, Google Search, untuk menangani konten gambar palsu yang dikenal sebagai deepfake, khususnya yang bersifat eksplisit dan dihasilkan oleh kecerdasan buatan (AI).
Deepfake merujuk pada teknologi AI yang digunakan untuk menciptakan foto, video, atau audio palsu yang tampak sangat mirip dengan aslinya, dan sering kali digunakan dalam konteks seksual tanpa izin dari individu yang bersangkutan. Konten semacam ini dapat menimbulkan dampak serius bagi korban.
Untuk mengatasi masalah ini, Google telah mengumumkan beberapa perubahan penting melalui situs resminya, termasuk peningkatan proses pelaporan dan penghapusan serta pembaruan sistem pemeringkatan konten.
Google perbarui algoritma yang telah lama memiliki fitur pelaporan untuk konten seksual palsu yang merugikan. Kini, proses pelaporan ini menjadi lebih sederhana.
Setelah konten deepfake yang dilaporkan teridentifikasi, Google Search akan memfilter hasil pencarian terkait dan menghapus duplikat dari gambar yang bersangkutan.
“Perlindungan ini telah terbukti efektif dalam menangani gambar non-konsensual, dan sekarang kami telah memperluas kemampuan ini untuk menangani gambar seksual palsu,” ungkap Emma Higham, Product Manager Google, di blog resmi Google.
“Langkah ini bertujuan untuk memberikan rasa aman kepada masyarakat, terutama bagi mereka yang khawatir akan munculnya konten serupa di masa mendatang,” tambahnya.
Selain memperbaiki sistem pelaporan dan penghapusan, Google juga telah memperbarui sistem pemeringkatan untuk kueri di Google Search.
Kini, situs-situs yang secara berulang menampilkan konten deepfake AI non-konsensual akan mengalami penurunan peringkat setelah adanya Google perbarui algoritma. Semakin rendah peringkat sebuah situs, semakin sulit situs tersebut ditemukan di hasil pencarian.
“Pendekatan menurunkan peringkat situs ini telah efektif untuk jenis konten berbahaya lainnya. Pengujian kami menunjukkan bahwa metode ini juga dapat membantu mengurangi keberadaan konten eksplisit palsu dalam hasil pencarian,” kata Higham.
Google Perbarui Algoritma untuk Atasi Konten Deepfake Eksplisit
Google perbarui algoritma demi mencegah pencarian sengaja terhadap konten deepfake AI yang melibatkan individu atau selebritas tertentu, dengan menampilkan konten non-seksual berkualitas tinggi yang relevan.
Google perbarui algoritma untuk membedakan antara konten seksual yang dibuat dengan persetujuan, seperti video pornografi, dan konten seksual yang dihasilkan AI secara non-konsensual.
Google menyadari bahwa membedakan keduanya merupakan tantangan teknis, sehingga upaya ini mungkin tidak sepenuhnya akurat dalam mengeliminasi konten non-konsensual yang dihasilkan AI.
Meskipun demikian, Google mengklaim bahwa pembaruan terbaru ini telah mengurangi paparan terhadap konten deepfake AI lebih dari 70 persen.
“Dengan pembaruan ini, orang-orang bisa lebih fokus pada dampak deepfake terhadap masyarakat, daripada terpapar gambar palsu yang dibuat tanpa persetujuan,” pungkas Higham dari blog Google pada Sabtu, 3 Agustus 2024.
Masalah konten deepfake non-konsensual juga menjadi perhatian bagi perusahaan teknologi yang mengembangkan atau mempromosikan alat AI generatif.
Tahun ini, Meta (induk Facebook, WhatsApp, Instagram) diselidiki oleh Oversight Board, dewan pengawas independen untuk Facebook dan Instagram, terkait penanganan dua video deepfake seksual yang menggambarkan wanita nyata.
Salah satu video menunjukkan perempuan India, sementara video lainnya menampilkan perempuan Amerika Serikat. Meta telah menghapus video perempuan AS tetapi awalnya tidak menandai video perempuan India, yang baru dihapus setelah investigasi dari Oversight Board.
Dewan tersebut menilai bahwa Meta seharusnya lebih proaktif dalam menghapus konten deepfake dan tidak hanya bergantung pada pemberitaan media terkait.
Sumber: Blog Google
