Cara mengesan deepfake dan mencegah penipuan identiti berkuasa AI

Saya pasti anda pernah mengalami pengalaman melihat video di media sosial dan terpegun kerana ia kelihatan benar-benar nyata, hanya untuk mengetahui bahawa ia palsu. Kita sedang bercakap tentang... deepfakesIni adalah karya audiovisual yang dicipta dengan kecerdasan buatan yang boleh meniru wajah dan suara dengan ketepatan yang menakutkan. Apa yang bermula sebagai rasa ingin tahu teknikal atau kandungan dewasa telah menjadi alat berbahaya yang boleh membahayakan keselamatan peribadi dan kewangan kita.

Masalahnya ialah kita tidak lagi boleh bergantung pada mata kita sendiri. Teknologi telah begitu maju sehingga penjenayah menggunakannya. kepalsuan yang mendalam Untuk memperdaya eksekutif syarikat, menyamar sebagai ahli keluarga dalam panggilan kecemasan, atau cuba memintas kawalan keselamatan bank. Untuk mengelakkan diri daripada menjadi mangsa penipuan yang canggih, adalah penting untuk memahami cara helah ini berfungsi dan mengetahui di mana hendak mencari untuk menangkap penipu tersebut.

Apakah sebenarnya Deepfake dan bagaimana ia dibuat?

Secara ringkasnya, deepfake ialah fail imej, video atau audio yang telah dimanipulasi menggunakan perisian. pembelajaran mendalam (pembelajaran mendalam). Istilah ini merupakan gabungan "mendalam" (merujuk kepada rangkaian saraf mendalam) dan "palsu." Pada asasnya, algoritma digunakan untuk menganalisis beribu-ribu titik data daripada orang sebenar untuk mempelajari gerak isyarat, nada suara dan tik wajah mereka, mereplikasinya dalam kandungan buatan sepenuhnya.

Dua jenis model biasanya terlibat dalam proses penciptaan. Di satu pihak, kita mempunyai pengekod autoyang memampatkan maklumat wajah dan kemudian membinanya semula pada orang lain. Sebaliknya, terdapat GAN (Rangkaian Permusuhan Generatif), di mana dua AI bersaing antara satu sama lain: satu mencipta imej palsu dan yang satu lagi cuba mengesan ralat. "Pertempuran" ini menjadikan hasil akhir semakin andal dan sukar dibezakan daripada realiti.

Bergantung pada apa yang anda ingin tiruan, kami dapati Deepfaces, tertumpu pada imej dan video, dan Suara DalamProgram-program ini direka untuk mengklon suara. Ia amat berbahaya dalam penipuan telefon, kerana ia boleh memperdaya pekerja untuk mempercayai bahawa mereka sedang bercakap dengan bos mereka, membolehkan mereka memindahkan beribu-ribu euro dalam sekelip mata.

Tanda-tanda untuk menangkap Deepfake dalam perbuatan itu

Walaupun dengan usaha terbaik penjenayah, AI masih melakukan kesilapan yang boleh kita kesan jika kita memberi perhatian yang teliti. Salah satu helah paling asas adalah dengan memerhatikan berkelip mataSelalunya, orang dalam video palsu berkelip kurang daripada biasa atau berbuat demikian dengan cara yang pelik kerana algoritma tidak mengendalikan pergerakan semula jadi ini dengan baik.

Ia juga sangat berguna untuk melihat tepi muka dan pencahayaan. Jika anda perasan kulit kelihatan terlalu licin, terdapat bayang-bayang yang tidak sepadan dengan pencahayaan di seluruh bilik, atau leher nampaknya tidak bersambung dengan baik dengan kepala, kemungkinan besar anda sedang melihat komposit. Kadangkala, apabila anda memainkan video pada kelajuan yang diperlahankan, anda boleh melihat melompat secara tiba-tiba atau herotan imej yang tidak disedari pada kelajuan biasa.

Kita tidak boleh melupakan audio. Dalam banyak kes terdapat kelewatan yang jelas antara pergerakan bibir dan bunyi yang kita dengar. Tambahan pula, jika anda melihat mulut dengan teliti semasa orang itu bercakap, anda mungkin perasan bahawa gigi dan lidah tidak jelas atau bercampur dengan cara yang kabur, kerana AI bergelut untuk mencipta semula di dalam rongga mulut.

Bahaya dalam sektor kewangan dan identiti sintetik

Dalam dunia perbankan dan fintech, deepfake telah menimbulkan sesuatu yang dipanggil identiti sintéticasIni berlaku apabila penyerang mencampurkan data sebenar (seperti ID yang bocor) dengan data palsu dan bahan audiovisual yang dijana AI. Matlamatnya adalah untuk memperdaya sistem onboarding digital dan membuka akaun bank atau memohon pinjaman di bawah identiti yang, secara teknikalnya, tidak wujud.

Biometrik wajah, yang selama bertahun-tahun merupakan permata keselamatan, tidak lagi mencukupi. Banyak sistem asas boleh tertipu oleh video berkualiti tinggi. Itulah sebabnya syarikat-syarikat sedang bergerak ke arah orquestación de señalesIni bermakna mereka bukan sahaja melihat wajah, tetapi juga menganalisis geolokasi, tingkah laku penyemakan imbas pengguna dan integriti peranti untuk melihat sama ada terdapat sebarang [tidak jelas/tidak jelas]. ketidakselarasan teknikal yang mendedahkan penipuan tersebut.

Untuk mengatasi masalah ini, piawaian seperti iBeta Tahap 3yang merupakan pensijilan tertinggi untuk mengesan serangan suntikan digital. Alatan canggih menganalisis keaktifan pengguna dalam masa nyata untuk memastikan bahawa orang di hadapan kamera adalah manusia yang hidup dan bukan aliran data sintetik yang disuntik ke dalam API aplikasi.

Cara melindungi diri dan bertindak dalam menghadapi ancaman

Untuk mengelakkan diri daripada dibawa untuk menumpang, peraturan emasnya ialah berhati-hati dengan keadaan mendesakJika anda menerima panggilan video daripada ahli keluarga atau bos yang meminta wang atau maklumat sulit secara tergesa-gesa, berhentilah. Ajukan soalan yang tidak dijangka atau minta mereka melakukan isyarat tertentu untuk memeriksa sama ada respons itu semula jadi atau jika terdapat agenda tersembunyi. kelewatan robotik dalam tindak balas.

Pada peringkat digital, adalah dinasihatkan untuk mengehadkan jumlah video dan audio peribadi yang kita muat naik ke media sosial, kerana ini adalah bahan mentah untuk seseorang... klonkan suara kita atau muka. Di samping itu, adalah penting untuk mengaktifkan pengesahan berbilang faktor dan mengkonfigurasi tetapan privasi akaun kita bagi mengelakkan pintu terbuka kepada penjenayah siber.

Dari sudut pandangan undang-undang, di Sepanyol, mencipta deepfake untuk memfitnah atau menipu boleh mengakibatkan jenayah serius terhadap privasi atau kecurian identiti, seperti yang digariskan dalam Kanun KeseksaanTambahan pula, GDPR melindungi data biometrik kami, yang bermaksud bahawa sebarang penggunaan imej kami untuk melatih AI tanpa persetujuan adalah menyalahi undang-undang sepenuhnya.

Perjuangan menentang manipulasi digital memerlukan keseimbangan antara penggunaan perisian pengesanan forensik, aplikasi akal sehat, dan pendidikan digital berterusan. Akhirnya, pertahanan terbaik adalah mengekalkan semangat kritis dan sentiasa mengesahkan sumber maklumat sebelum membuat sebarang keputusan ekonomi atau peribadi berdasarkan video yang kelihatan terlalu bagus untuk menjadi kenyataan.