Berita
Modus Baru Penipuan di Facebook dan Instagram, Makin Sulit Dibedakan!
Langkah Baru Meta Melawan Deepfake
Meta, perusahaan induk dari Facebook, Instagram, dan Threads, mengumumkan langkah baru dalam mengatasi penyebaran konten deepfake atau konten buatan AI yang sulit dibedakan dari aslinya di platform mereka. Presiden Global Affairs Meta, Nick Clegg, menyatakan bahwa kebijakan baru ini akan melibatkan pemantauan dan pemberian label khusus untuk konten yang menggunakan teknologi AI, baik yang dibuat di platform Meta maupun di platform lain.
Label Khusus
Konten deepfake dapat diidentifikasi melalui “cap” yang tertanam di file gambar. Jika cap tersebut terdeteksi, Meta akan memberikan label khusus pada konten yang diunggah di Facebook, Instagram, dan Threads. Saat ini, kebijakan ini baru diterapkan untuk konten yang menggunakan teknologi Meta, tetapi dalam beberapa bulan ke depan, kebijakan serupa akan diterapkan untuk konten buatan platform lain seperti OpenAI, Midjourney, Shutterstock, dan Google.
Langkah Meta ini disambut positif oleh Reuters sebagai bagian dari upaya mitigasi dampak negatif dari peredaran konten deepfake. Meskipun demikian Meta masih dalam proses menyempurnakan sistem pengenalan untuk mengenali video dan audio buatan AI.
Selain itu Meta juga mengumumkan bahwa mereka akan menerapkan kebijakan label pada konten audio dan video buatan AI, dan pengguna yang melanggar kebijakan ini akan dikenai penalti. Namun, Meta belum memberikan keterangan mengenai rencana untuk konten buatan AI yang tersebar di WhatsApp.
Langkah-langkah dari Meta di atas menunjukkan bahwa platform-platform media sosial sedang berusaha keras untuk melindungi penggunanya dari dampak negatif teknologi deepfake yang semakin canggih.
Contoh Kasus Penipuan Besar
Sebuah kasus penipuan yang melibatkan teknologi deepfake mengguncang Hong Kong ketika seorang pekerja keuangan menjadi korban tipu daya yang mengakibatkan kerugian sebesar US$25 juta. Korban, yang bekerja di sebuah perusahaan multinasional, ditipu untuk mentransfer dana besar kepada penipu yang menyamar sebagai kepala keuangan perusahaan tersebut.
Kejadian ini terjadi melalui panggilan konferensi video yang direkayasa dengan sangat cermat menggunakan teknologi deepfake. Penipu yang berpura-pura menjadi kepala keuangan perusahaan mengatur panggilan tersebut dan menyertakan video buatan/palsu dari beberapa anggota staf lainnya. Dalam panggilan tersebut, semua orang yang terlibat tampak dan terdengar seperti rekan kerja yang dikenal oleh korban.
Meskipun korban awalnya mencurigai pesan yang dikirim kepadanya, yang meminta pelaksanaan transaksi rahasia, keraguan itu terhapus ketika dia terlibat dalam panggilan konferensi video yang mengesankan. Dalam keadaan yang membuatnya semakin percaya, korban setuju untuk mentransfer total US$25 juta kepada penipu.
Kasus ini mengungkapkan tingkat kelicikan dan kecanggihan penipuan yang menggunakan teknologi deepfake. Penipuan semacam ini merugikan korban tidak hanya secara finansial tetapi juga secara reputasi dan kepercayaan dalam lingkungan kerja.
Polisi Hong Kong telah mengambil tindakan dengan melakukan enam penangkapan terkait kasus ini, menunjukkan seriusnya penegakan hukum terhadap penipuan yang melibatkan teknologi deepfake. Namun, kejadian ini menyoroti tantangan baru yang dihadapi oleh penegak hukum dalam menghadapi penipuan yang semakin canggih dan menuntut kerjasama internasional yang lebih erat dalam penanganannya.
