Kind: captions
Language: id
Geng, gua udah beberapa kali ya ngebahas
kasus mengenai AI. Kalian boleh cek deh
video-video sebelum-sebelumnya gua tuh
banyak banget ngebahas tentang AI. Mulai
dari ee hal-hal yang positif tentang AI
sampai dengan hal-hal yang menakutkan
dan berbahaya. Memang, Geng, kehadiran
AI itu ya sangat membantu kita di dalam
melakukan berbagai aktivitas karena
teknologi AI di saat ini udah pintar
banget. Tapi di sisi lain, AI juga
memiliki banyak sekali hal yang negatif
alias berbahaya seperti yang gua katakan
sebelumnya. Yang salah satunya adalah
mengenai hak cipta dari karya-karya yang
mereka ambil secara bebas, secara
leluasa ee di internet tanpa memikirkan
bagaimana nasib dari ee senimannya
sendiri. Ini kalau kita berbicara
tentang karya.
Di video kali ini nih, Geng, kita bakal
ngebahas hal negatif lain dari AI. Dan
ini gua yakin banget buat kalian yang
otaknya sakne-sakne ya bakal berfantasi
ini. Yaitu ada sebuah kasus dengan AI
yang mana seseorang bisa melakukan aksi
kejahatan yang enggak kalah mengerikan
dan merugikan yaitu dengan membuat foto
seseorang jadi tanpa mengenakan pakaian
alias tanpa mengenakan sehelai benang
pun. Kacau enggak tuh? Jadi nih muka lu
nih diambil nih dibikin pakai AI
terlihat seperti asli plek-plekan.
Videonya ada ggak pakai apa-apa itu
hanya pakai foto aja. Ai bisa membuat
foto itu seolah-olah itu benar-benar
adalah kita. Dan lebih parahnya lagi
foto hasil AI tersebut dijadikan sebagai
ladang cuan oleh si pelakunya. Karena e
orang ini menjual foto dan video
tersebut yang dihasilkan dari AI. Hal
ini dilakukan oleh seseorang yang
merupakan mahasiswa. Aduh gila ya. Ini
adalah perbuatan yang sangat tercela
dari seorang generasi bangsa gitu, Geng.
Ya, mahasiswa loh bisa kepikiran gitu.
Mahasiswa ini menyediakan jasa untuk
membuat foto seseorang jadi tanpa busana
pakai aplikasi AI yang bernama Deep
Fake. Kasus ini lagi ramai banget, Geng,
dibicarakan. Bahkan ya dikatakan sudah
ada ratusan orang yang fotonya diedit
menggunakan deep fake oleh orang ini dan
dijual lagi oleh si mahasiswa
tersebut. Di video kali ini kita bakal
membahas secara lengkap kronologinya
gimana dan dampaknya seperti apa supaya
kalian lebih berhati-hati lagi dalam
meng-upload foto kalian ke sosial media
agar tidak disalahgunakan oleh
orang-orang yang enggak bertanggung
jawab. Nah, namun di sisi lain pihak
berwenang juga harus menindak
orang-orang yang menyalahgunakan
teknologi untuk berbuat kejahatan
seperti ini. Nanti kita juga bakal
membahas nih bagaimana deep fake ini
bisa menjadi sebuah aksi kejahatan. Dan
ternyata enggak cuma terjadi di
Indonesia, tapi banyak negara-negara
lain yang mengalami hal yang sama,
termasuk Korea Selatan yang mana
kasusnya di sana sudah sangat parah
banget, Geng. Dan sudah terjadi di
banyak sekolah. Oke, langsung aja kita
bahas selengkapnya tentang kasus yang
satu ini. Halo, Geng. Welcome back to
Kamar
[Musik]
Jerry, Geng. Geng. Oke, untuk kasus yang
pertama kita bahas dulu nih
terbongkarnya kasus seorang mahasiswa
asal Indonesia yang membuat foto tidak
senonoh dengan menggunakan AI.
Jadi, Geng, kasus ini rame banget, Geng.
Terutama di X, ada seorang netizen yang
menyuarakan kasus ini, yaitu sebuah akun
dengan username Boyilet Donut. Karena
enggak diketahui nama asli dari pemilik
akun tersebut, jadi kita bakal menyebut
nama dia dengan e sebutan Catfish. Di
dalam tweet-nya tertulis nih kalau ada
seorang pria di universitas atau
kampusnya dia yang sudah dia kenal sejak
SD. Pria ini dikatakan itu jago bikin
deep fake AI ya, menjadikan foto orang
lain menjadi tidak senonoh dan e
foto-foto tersebut biasanya dia ambil
dari Instagram. Nah, di antara foto-foto
itu ada salah satu teman kelasnya yang
sekaligus teman seangkatan serta teman
satu kampusnya dia yang fotonya dipakai
oleh si pria ini dan diedit menggunakan
deep
fake. Sedikit gua jelaskan nih deep fake
ini kerjanya gimana gitu ya. Nah, jadi
Deep Fake ini adalah rekaman yang
dihasilkan oleh komputer yang sudah
dilatih melalui gambar-gambar yang tidak
terhitung jumlahnya dan bisa mengedit
gambar tersebut yang awalnya ee
kondisinya A menjadi B. Kondisinya pakai
baju menjadi enggak pakai baju. Nah,
jadi bisa kayak gitu dan hal ini sangat
gampang, sangat simpel menggunakannya.
Di dalam kasus yang terjadi kepada si
pria tadi, ternyata dia itu udah
ngelakuin sejak lama sejak dia masih
duduk di bangku SMA. Lalu diduga kalau
si pria ini gak cuma mengedit foto orang
lain di Deep Fake, tapi juga menjual
foto itu ke orang lain lagi. Dugaan
tersebut bukan tanpa dasar, Geng. Sebab
si pria ini membuat metode pembayaran
menggunakan Kris. Dan bagi siapa saja
yang udah membayar lewat Kris, dia bakal
mengirimkan foto hasil deep fake-nya dia
kepada si pembelinya tersebut melalui
link Google Drive.
Kebayang ya, Geng, ada yang beli
ternyata ya, foto-foto kayak gitu.
Padahal itu kan fake gitu fotonya. Itu
hasil buatan AI. Tapi gimana yang
namanya orang sakne udah pengen
berfantasi ya? Pengen ya gitu-gitulah.
Akhirnya foto editan pun dijadiin bahan.
Kacau emang. Lalu geng akun X yang
menyebarkan kalau kasus ini ada itu
memberikan bukti screenshot chat yang
berisikan keterangan dari seorang
temannya. Nah, si temannya ini juga
sekaligus menjadi korban karena fotonya
pernah dicuri dan dipakai untuk diedit
menggunakan deep fake. Dan di dalam chat
tersebut dikatakan kalau pelaku ini
masih berada di Bali tapi udah diop out
dari kampusnya. Nah, dia enggak balik ke
Tangsel. Dia menetap di Bali yang
kemungkinan di Tangsel ini adalah tempat
asal si pelaku dan sejauh yang diketahui
oleh temannya, pelaku ini udah
diinvestigasi dan sudah membuat surat
perjanjian hukum. Nah, jadi udah apa ya?
Udah ketahuan ya. udah jadi atensi dari
pihak penegak hukum. Nah, tapi dia
kabur. Pelaku ini dikatakan udah
mengakui kalau dia memang punya
foto-foto enggak senonoh tersebut dan
dia udah jual-jualin. Cuma, Geng, dia
itu ngakunya ya, foto itu dipakai untuk
konsumsi pribadi ya. Ketika dia sakne ya
ngokanglah dia ya. Nah, tapi banyak yang
enggak percaya karena memang ada
indikasi ya foto-foto ini diperjual
belikan. Nah, tapi pengakuan dia enggak
ada yang diperjual belikan. Namun
foto-foto tersebut dia ambil tanpa izin
dan kebanyakan foto-foto yang diambil
itu berasal dari follower-follower-nya
atau justru dari Instagram di
explore-nya dia. Jumlahnya itu ada
sekitar 250 orang dan ada sekitar 4.000
lebih foto yang dia sudah simpan. Kacau
ya ini. Kalau misalkan enggak ada
dorongan dapetin cuan kayaknya dia
enggak bakal ngelakuin deh, Geng. Karena
logiknya gitu ya. Kalau dia ngaku ini
enggak dijual, enggak mungkin banget.
Ngapain dia nyimpan 4.000 foto lebih
kalau bukan untuk diedit-edit terus
diperjualbikan gitu kan. Terus geng di
dalam perjanjian hukum yang sudah dibuat
oleh pelaku itu disebutkan poin yang
tertulis kalau sampai ketahuan dia
menyebarkan foto tersebut maka dia bakal
langsung dipidanakan. Nah, jadi udah
pernah dikasih ultimatum sekali nih
orang. Sebab di antara korban yang
fotonya dicuri dan disalahgunakan oleh
si pria ini, banyak yang masih di bawah
umur, Geng. Itu sayangnya. Nah, foto dan
nama pelaku juga udah tersebar ke
mana-mana. Udah banyak orang yang juga
membuat template Instagram dengan wajah
si pelaku ini. Awal-awalnya, Geng,
berita ini tuh masih sekedar rumor aja.
Tapi pada tanggal 16 Maret kemarin, ya,
si netizen yang menyuarakan kasus ini
pertama kali mendengar informasi ini
secara langsung dari keluarganya sendiri
dan mengatakan kalau rumor ini ternyata
sudah menyebar di lingkungan gereja
tempat mereka ibadah. Dan salah satu
teman dekatnya meminta kepada dia
misalkan kalau ada informasi mengenai si
pelaku ini ya karena si temannya
tersebut ternyata ikut menjadi korban.
Tapi kendalanya adalah dia sendiri
enggak tahu banyak dan dia juga enggak
dekat sama si pelaku ini. Cuma sekedar
kenal. Lalu ada teman lamanya dia yang
sudah enggak kota-kotakan lagi selama
beberapa tahun. Tiba-tiba aja nge-chat
dia dan menanyakan apakah dia baik-baik
aja atau enggak. Dan apakah dia pernah
mendengar sesuatu tentang si pelaku tadi
atau enggak. Nah, kemudian si Cat Vishy
ini itu nanya ke temannya tersebut. Dia
nanya kayak gini, "Apa yang kamu tahu
tentang pria itu?" Nah, dia menunjuk ke
searah pelaku dan temannya itu menjawab
kalau dia mendengar ada seseorang yang
berasal dari sekolah yang sama dengan
Catch Vishy yang membicarakan mengenai
pelaku persoalan pengeditan foto orang
lain pakai deep fake dan dia ternyata
benar-benar terbukti menjual dengan
menggunakan Kris. Ketika perbincangan
tersebut, temannya ini dengar kalau nama
Kat Vishy ini disebut-sebut lah. Nah,
cuma temannya di saat itu juga enggak
bisa memastikan apakah yang dibicarakan
itu benar Cat Fishy atau bukan. Nah,
sebab ada satu orang lain yang memiliki
nama yang sama dengan Cat Fishy. Nah,
terus Geng di dalam tweet yang
disebarkan oleh Cat Fishy ini, dia
akhirnya menyebarkan identitas dari si
pelaku. Wah, ini seru nih. Tadinya kan
disembunyi-sembunyiin nih, tiba-tiba
identitas pelaku dipampang nih sama si
Katishy. Namanya itu adalah Sergio Lukas
Sandro Kesatria Dwiputra. Waduh, berat
banget namanya ya. Dia ini merupakan
mahasiswa Universitas Udayana angkatan
2022 dan dia mengambil program studi
akuntansi. Sejauh informasi yang didapat
oleh Katisi, Sergio ini masih tinggal di
Bali dan masih aktif sebagai mahasiswa.
Diketahui kalau Sergio dulu pernah
bersekolah di SMA Santa Ursula BSD. Dan
di dalam profil Linkin-nya yang sekarang
udah hilang nih ya. Nah, dia ini sempat
mencantumkan kalau dia pernah magang
sebagai accounting di dua perusahaan.
Nah, di dua perusahaan yang berbeda gitu
ya. Dan Sergio ini juga disebut-sebut
sebagai anggota dari koperasi
Universitas Udayana. Terus kemudian ada
informasi yang didapat oleh si Cat Visi
tadi kalau sebenarnya kasus ini tuh udah
tersebar sejak pertengahan bulan Maret
tahun lalu, Geng. yang menyebutkan kalau
Sergio itu sudah mengumpulkan dan
mengedit foto-foto dari mahasiswi
menggunakan deep fake dan membuat konten
yang enggak senonoh bahkan mengarah ke
pornografi. Terus yang parahnya nih ya
korbannya itu mayoritas berasal dari
lingkungan kampus fakultas ekonomi dan
bisnis atau FEB yang ada di Udayana.
Gila, mahasiswa loh dikerjain sama dia.
Bahkan ada satu korban bisa memiliki
satu folder khusus yang berisi belasan
foto yang diedit menggunakan deep fake.
Dan kasus ini, Geng, akhirnya bisa
terungkap setelah mantan pacarnya Sergio
yang berinisial N yang membuka HP Sergio
dan menemukan adanya folder-folder yang
berisi foto enggak senonoh di HP-nya
dia. Nah, mengetahui adanya foto-foto
tersebut, N kemudian menghubungi
beberapa korban yang dia kenal untuk
menyampaikan penemuannya serta untuk
memperingatkan mereka mengenai aksi
Sergio. Terus, Geng, walaupun dikatakan
sudah membuat surat perjanjian hukum
yang mengatakan kalau dia terbukti
memperjual belikan foto, maka dia akan
dipidanakan. Namun dikatakan kalau belum
ada upaya hukum yang memperjuangkan para
korban, oleh karena itu ya diviralkanlah
kasus ini agar Sergio bisa cepat
diproses dan dihukum atas segala
perbuatannya.
Amin. Upaya Sergio untuk menyelesaikan
masalah ini selain dengan membuat surat
perjanjian hukum juga ingin membuat
tulisan permintaan maaf yang dimuat di
koran katanya. Dan di dalam tulisan
permintaan maaf tersebut juga tertulis
nama dari kuasa hukum Sergio yang
mengawal dia dalam menghadapi tuntutan
terhadap Sergio. Tapi tetap aja, Geng,
permintaan maaf enggak cukup gitu ya.
perlu ada tindak lanjut berupa
penanganan secara hukum untuk bisa
menyelesaikan kasus ini. Mengingat sudah
banyak korban yang berjumlah 200-an
orang. Dan betapa berbahayanya kasus ini
karena foto orang lain bisa diedit
menggunakan deep fake dan bahkan bisa
diperjual belikan dengan tidak
bertanggung jawab. Tapi sayangnya pihak
kampus yaitu dekanat FEB fakultas dari
si Sergio ini yang sudah mendapatkan
laporan mengenai kasus ini belum juga
diproses. Belum juga memproses. Bahkan
ketika Katvishi menyuarakan kasus ini,
Sergio itu masih berkeliaran di dalam
kampus Universitas Udayana. Perihal
menurut informasi yang beredar, pihak
Dekanat FEB Udayana sudah melakukan
sidang etik di tanggal 18 Maret tahun
2025 dan kasusnya sudah diajukan ke
tingkat universitas. pada tanggal 21
Maret untuk kemudian diproses lebih
lanjut. Tapi sampai saat ini belum ada
kejelasan mengenai keputusan akhirnya
bakal seperti
apa. Jadi, geng menurut pengakuan dari
salah satu korban yang berinisial KB,
Sergio ini melakukan modus yang
terstruktur sehingga enggak menimbulkan
kecurigaan dari korban. Nah, Sergio dan
si KB ini merupakan mutual friends atau
ya teman yang ada di Instagram sekaligus
di kampus. Dan KB mengatakan kalau
kemungkinan besar Sergio ini udah
melancarkan aksinya ketika dia masih
bersekolah. Nah, teman-teman kuliahnya
di Udayana itu enggak tahu kalau
ternyata kasus ini udah berulang dan
sudah pernah dia lakukan sebelumnya
terhadap teman-teman yang ada di
Jakarta. Nah, KB ini menceritakan kalau
ada salah satu mantannya Sergio
berinisial N itu dia menunjukkan ke si
KB ini screenshot berupa foto-foto
korban yang tersimpan di folder
handphone-nya Sergio lengkap dengan
namanya dari para korban ini. Dan ada
salah satu screenshot berupa barcode
Kris. Nah, di sinilah kecurigaan mulai
timbul kalau jangan-jangan Sergio ini
diduga melakukan transaksi terhadap
foto-foto itu alias diperjual belikan.
Pihak korban udah menanyakan nih ke si
Sergio ini mengenai hal itu, tapi dia
ngebantah. Nah, tapi kecurigaan para
korban ini gak hilang begitu aja dan
tentunya mereka enggak percaya begitu
aja kepada si Sergio. Apalagi file dari
foto-foto tersebut diberi nama
menggunakan nama lengkap dari para
korbannya. Kenapa harus diberi nama
kayak gitu? Kalau memang dikonsumsi
secara pribadi oleh Sergio dan akhirnya
ya pada tanggal 14 Maret tahun 2025 jam
0.30 30 malam waktu Indonesia bagian
tengah, perwakilan korban itu melakukan
pertemuan nih dengan si Sergio ini di
sebuah kafe yang berlokasi di Jalan
Tukat Badung, Bali. Ya, karena
orang-orang udah penasaran nih, kalau
emang enggak lu jual beli, kenapa harus
apa ya dikasih nama kayak gitu? Kalau
emang buat konsumsi lo pribadi kenapa
harus nama lengkap? Kan aneh nih. Nah,
di dalam pertemuan tersebut Sergio
membuat dan menandatangani surat
perjanjian di atas matrai dan berisi
pertanggungjawabannya dia terhadap kasus
ini. Terus apakah kasus ini selesai
kayak gitu aja? Dan bagaimana kelanjutan
dari kasus tersebut, Geng? Nah, apakah
masih belum ada perkembangan? Nah,
keterangan dari pihak Universitas
Udayana itu udah buka suara lah mengenai
kasus dari si Sergio ini dan dikatakan
mereka sudah mengambil langkah serius
untuk menangani kasus ini, Geng. dengan
menindaklanjuti secara internal melalui
tim etik fakultas dan mereka sudah
menyampaikan laporan resmi kepada
rektor. Dan selain proses etik, satuan
tugas pencegahan dan penanganan
kekerasan seksual atau Satgas PPKS udah
diminta keterangan juga untuk terlibat
di dalam kasus ini dan memberikan
rekomendasi kepada pihak universitas
untuk menjamin perlindungan terhadap
para korban. Nah, tapi sejauh pencarian
gue nih ya, belum ada informasi mengenai
apa sanksi yang bakal diberikan kepada
si Sergio ini karena masih menunggu
keputusan dari dewan etik senat, Geng.
Nah, jadi kita tunggu aja nanti update
terbarunya dari kasus ini tuh kayak
gimana. Karena kan ini ya selain
menggelik juga menakutkan ya. Siapa aja
bisa jadi korbannya. Kalau kita
berbicara tentang kasus-kasus yang
berkaitan dengan deep fake ini memang
baru ramai dibicarakan sekarang ketika
kasusnya si Sergio ini. Nah, tapi
sebenarnya sebelum kasus ini ramai dan
mencuat ke publik, udah ada kasus serupa
yang terjadi, Geng. Udah banyak
sebenarnya, sekitar 2 tahun yang lalu
bahkan. Nah, jadi ketika itu sempat ada
screenshot yang memperlihatkan Google
Form bagi orang-orang yang mau dibuatkan
foto cewek-cewek menggunakan deep fake
agar foto dari cewek tersebut bisa
ditampilkan dalam keadaan tanpa busana.
Nah, di dalam Google Form tersebut ada
kolom untuk mengisi username dari si
cewek yang fotonya mau dibuatkan deep
fake. Dan ya nanti bakal ada kolom yang
berisikan pilihan apakah ada yang punya
foto cewek hasil deep fake atau masih
berupa foto aslinya. Nah, link Google
Form tersebut nanti disebar di dalam
sebuah grup Telegram yang bernama
Rahasia Mantan yang disingkat dengan RM.
Dan pada saat itu dikatakan ada puluhan
ribu orang yang join ke grup tersebut
dan saling berbagi foto cewek hasil deep
fake. Selain itu, ada empat ruang
obrolan di dalam grup tersebut. Lalu ada
juga grup lain yang digunakan untuk
transaksi jual beli konten enggak
senonoh. Nah, salah satu grup di room
chat Telegram tersebut ada yang memiliki
10.000 pengikut di bulan Maret tahun
2023. Dan setelah informasi mengenai
keberadaan dari grup itu viral,
diketahui kalau grup itu sempat hiatus
alias kayak enggak berfungsi, enggak
aktif gitu ya. Nah, tapi ternyata
aktivitas mereka masih berlangsung di
platform sosial media lain yang salah
satunya adalah TikTok. Makin terbuka
mereka yang tadinya mereka terselubung
di dalam Telegram, tapi sekarang mereka
malah terbuka di TikTok. Dan ada banyak
orang dalam yang tergabung di dalam grup
ini yang akhirnya ikut membantu untuk
menguak kasus ini, Geng. Dengan
memberikan informasi-informasi terbaru
pada saat itu mengenai aktivitas di
dalam grup tersebut. Karena kan mereka
ada di sana. Nah, dikatakan udah ada
pelaporan terhadap grup RM ini alias
rahasia mantan ini ke polisi dan
Direktorat Tindak Pidana Cyber. Nah,
tapi geng pemberitaan mengenai
kelanjutan kasus ini tuh enggak berhasil
gua temukan. Jadi, mungkin kalau kalian
tahu informasinya ya bisa berikan ee
informasinya di kolom komentar. Kita
berbagi info aja. Nah, jadi emang parah
banget ya kemajuan teknologi malah di
apa ya disalahgunakan oleh orang-orang
yang berotak cororselet kayak gini yah
kayak enggak ada hal lain yang bisa
dikerjakan yang lebih bermanfaat gitu
ya. Kalau tadi kasusnya di Indonesia ya
yang gua ceritain. Sekarang kita bakal
membahas untuk kasus-kasus yang serupa
tapi terjadi di negara lain. Salah
satunya terjadi di Korea Selatan. Nah,
dikatakan di sana tuh udah banyak kasus
yang berkaitan dengan deep fake ini dan
targetnya adalah perempuan yang masih di
bawah umur. Gila gak tuh? Dan sekarang
kita bakal masuk ke dalam pembahasan
mengenai kasus deep fake di Korea
Selatan
ini. Jadi, geng, kasus serupa juga
terjadi di Korea Selatan. Bahkan
kasusnya jauh lebih banyak dibandingkan
di Indonesia. dan korbannya termasuk
mereka yang masih di bawah umur. Nah,
hal tersebut diketahui setelah viralnya
beberapa room chat di Telegram yang
diduga membuat dan menyebarkan
konten-konten enggak senonoh alias deep
fake. Nah, ada salah satu korban yang
namanya disamarkan menjadi Hejin. Dia
ini mengaku mendapatkan sebuah pesan
dari Telegram dari orang yang enggak dia
kenal di tanggal 31 Juli 2024. Dan pesan
tersebut tertulis kalau foto-foto dan
informasi pribadi dari Hijin ini sudah
bocor dan sudah dimiliki oleh banyak
orang. Nah, orang yang mengirimkan pesan
ini mengajak Hjin untuk berbicara secara
serius atau berdiskusi gitu lah, Geng.
Ya, kayak dia ngajak, "Eh, foto-foto lu
udah kesebar nih, data diri lu juga lu
mau ngobrol dulu enggak sama gua
deal-dealan." Kayak gitulah kurang
lebih. Pada saat Hen ini membuka pesan
tersebut, ada foto dia yang diambil
ketika dia masih sekolah beberapa tahun
yang lalu. Lalu ada dua foto lagi yang
sebenarnya adalah foto yang sama, tapi
fotonya yang satu lagi ini udah diedit
dan dibuat menjadi foto yang enggak
senonoh. Jadi, dikasih tuh before
after-nya. Alias kalau anak-anak memes
zaman sekarang bilang before, setelah
before. Jadi foto before dan setelah
before-nya. Otomatis Hin merasa takut
gitu kan. Dia walaupun tahu itu editan,
tapi dia udah ketakutan duluan dan dia
memilih untuk enggak merespon pesan itu.
Tapi orang tersebut ya yang mengirim
pesan dan enggak dikenal ini malah terus
mengirimkan foto Hejin yang lain yang
sudah diedit tidak senonoh. Jadi seram
banget. Ini udah semacam pengancaman.
Dan Hein ini bukanlah korban
satu-satunya ternyata. Karena sebelumnya
jurnalis Korea Selatan yang bernama
Konarin itu mempublikasikan berita
mengenai kasus ini, Geng. Di mana
terungkap kalau polisi corsel sedang
menyelidiki jaringan deep fake ini di
dua universitas besar. Jurnalis yang
bernama Konarin ini meyakini kalau
mungkin ada lebih banyak lagi jaringan
kayak gini di luar universitas tersebut.
Lalu konarin ini berinisiatif untuk
menyelidiki lebih lanjut sampai akhirnya
dia menemukan puluhan grup obrolan di
aplikasi Telegram di mana para
penggunanya itu ternyata membagi-bagikan
foto-foto dari perempuan yang mereka
kenal. Mereka menggunakan defake untuk
mengubah foto-foto tersebut menjadi foto
palsu dalam hitungan detik. Co itu
menemukan kalau kelompok-kelompok ini
enggak hanya menargetkan mahasiswa
karena ada juga grup-grup yang
menargetkan siswa SMA bahkan SMP. Nah,
namun korbannya enggak selalu mahasiswi
atau siswi-siswi aja, Geng. Bahkan guru
pun juga kena. Gila, ya. Kurang ajar
banget nih. Itu memang enggak punya
brain, ya. Enggak punya brain nih
pelaku-pelakunya. Guru loh yang ngajarin
Lau lu edit-edit fotonya enggak pakai
busana. Aduh, gua gua enggak ada tuh
kepikiran kayak gitu tuh kayak nafsu
sama guru. Ya mungkin guru-guru gua
zaman dulu ya apa ya? Karena gua dulu
kan sekolahnya di Aceh gitu pakai pakai
hijab kali ya. Jadi enggak yang
gimana-gimana gitu kan bajunya baju
kurung gitu. Kalau guru-gurunya kayak Bu
Guru Salsa, haduh beda cerita sih. E gua
bercanda Geng ya. Jangan dicari tuh Bu
Guru Salsa itu siapa jangan dicari. Oke
kita lanjutkan. Kalau ada banyak konten
yang dibuat menggunakan gambar dari
seorang siswa tertentu, maka akan ada
ruang obrolan sendiri khusus, Geng.
Ruang obrolan itu akan diberi nama yang
kalau dalam bahasa Indonesia itu berarti
ruang penghinaan atau ruang teman dari
teman. Enggak sembarang orang bisa masuk
ke dalam room chat ini, Geng. karena ada
syarat-syaratnya. Dan kebanyakan member
grupnya itu berasal dari siswa-siswa di
bawah umur di sebuah sekolah dengan
lebih dari 2.000 anggota. Itu
siswa-siswa sakne semua ya yang
otak-otaknya ngacengan. Ya, gimana
enggak gitu kan, gimana gua enggak
bilang ini ngacengan? Elisa nafsu sama
editan, bukan foto asli. Nafsu lah. Uh,
kan aneh penyakit itu ya, adik-adik.
Nah, di saat itu udah ada lebih dari 500
sekolah serta universitas yang
teridentifikasi menjadi target.
Mayoritas dari korbannya berusia di
bawah 16 tahun dan sebagian besar
pelakunya adalah remaja. Dan gemparnya
berita ini membuat takut banyak
perempuan di Korea Selatan dan mereka
memutuskan untuk menghapus foto-foto
mereka dari sosial media atau
menonaktifkan akun mereka karena takut
kalau fotonya bakal dipakai untuk deep
fake. Nah, sekitar bulan Oktober tahun
2024, ada seorang pria yang berusia 20
tahunan itu ee ditangkap atas tuduhan
sudah membuat sebanyak 4.313 313 video
deep fake dari 72 selebriti wanita dan
menjualnya secara online. Dan dari
penjualan yang dia lakukan dari bulan
Januari sampai Maret 2024, dia berhasil
mendapatkan uang sebesar
3,83 juta won. Dan selain itu, polisi
juga menangkap seorang pria asal Cina
yang berusia 30 tahunan yang mana dia
ini menyebarkan sebanyak 14.526
26 video enggak senonoh. Di antaranya
ada 20 video deep fake dari selebriti
wanita sekaligus dia menjalankan situs
yang enggak boleh kalian akses. Oke,
Siktus Dewasu ya. Dia ini berhasil
mendapatkan uang 140 juta won dari
mempromosikan judul dan konten ilegal di
sana. Gila enggak tuh?
Memang ya, Geng, pelaku-pelaku dari aksi
kejahatan kayak gini itu memanfaatkan
Telegram sebagai media. Karena ya
Telegram itu kan bersifat privat dan
juga pesan-pesannya diripsi, jadi bisa
hilang gitu. Enggak seperti aplikasi
lain yang diakses dengan mudah oleh
pihak yang berwenang. Telegram enggak
kayak gitu. Dan para pengguna Telegram
ini biasanya juga sering anonim atau
tidak menggunakan identitas asli
pribadinya dia dan chatnya juga bisa
diatur agar enggak bisa dilihat oleh
orang lain yang bukan member. Nah,
jadinya konten-konten yang berada di
dalam Telegram itu bisa dihapus dengan
cepat tanpa meninggalkan jejak. Oleh
karena itu, Telegram lah yang dipilih
oleh banyak pelaku kayak gini karena
identitas dan aksi mereka bakal sulit
untuk ketahuan. Nah, tapi meskipun
fitur-fitur dari Telegram ini sangat
cocok untuk membantu para pelaku di
dalam melakukan aksi mereka, tapi para
aktivis perempuan enggak serta-merta
menyalahkan Telegram. Nah, mereka
menuduh pihak berwenang di Korea Selatan
lah yang terlalu lama membiarkan
pelecehan di Telegram ini. Karena negara
tersebut pernah mengalami hal yang sama
tepatnya tahun 2019 silam. yang mana
pada saat itu terungkap adanya sebuah
jaringan yang menggunakan Telegram untuk
memaksa para perempuan dan yang masih di
bawah umur untuk membuat dan membagi
bagikan foto yang eksplisit. Pada saat
itu polisi meminta bantuan Telegram
untuk membantu penyelidikan. Namun eh
Telegram mengabaikan permintaan itu.
Jadi kayak enggak ada harga dirinya lah
polisi Korea Selatan di saat
itu. Terus geng lembaga Advokasi untuk
Korban Kekerasan Seksual Online Korea
Selatan atau disingkat dengan
AC atau bacanya tuh Akosa gitu ya.
Mereka itu bilang kalau jumlah korban
yang di bawah umur dari konten-konten
yang ya enggak bisa dibiarkan ini sudah
meningkat tajam. Di tahun 2023 aja
lembaga tersebut mendampingi sebanyak 86
korban remaja. Sementara itu,
organisasi-organisasi perempuan itu
mengakui kalau teknologi EAI ini yaitu
salah satunya deep fake itu mempermudah
eksploitasi terhadap korban. Dan deep
fake ini merupakan wujud dari misogini
terbaru yang terjadi secara online di
Corsel. Perempuan itu menjadi sasaran
paling empuk untuk pelecehan-pelecehan
verbal secara online. Lalu muncul
banyaknya kamera yang merekam aktivitas
perempuan ketika berada di dalam toilet
umum maupun di ruang ganti. Nah, apalagi
di Korsel kesetaraan gender itu masih
menjadi hal yang belum banyak dilakukan
sehingga ancaman terhadap perempuan
sudah menjadi hal yang serius di sana.
Tapi ya gua bisa bilang kesetaraan
gender tidak menjadi jaminan kalau hal
ini bisa terjadi gitu. Nah, jadi dari
gua pribadi juga tidak membenarkan yang
namanya kesetaraan gender itu. Karena
sejatinya perempuan memang harus
dilindungi oleh laki-laki. Kalau
perempuan melindungi diri sendiri,
merasa sama rata sama laki-laki, ya
kayak gini nih entar terjadinya apa ya
kayak eh kalah power gitu ya.
Perempuannya merasa, "Gua bisa jaga diri
kok, gua bisa bela diri." Giliran nanti
menghadapi laki-laki bejat yang enggak
jelas ya ujung-ujungnya kalah tenaga
gitu kan. Terus, geng, di Amerika
Serikat juga pernah terjadi kasus deep
fake ini dan pelakunya itu baru
ditangkap di tanggal 4 April kemarin.
Baru aja nih, pelakunya itu bernama
Brandon Tyler yang sudah menggunakan
deep fake untuk membuat foto-foto enggak
senonoh dan menyebarkannya di forum. Ada
20 perempuan yang menjadi korban dia
dihadirkan di dalam persidangan, Geng.
Dan mereka mengaku kalau sudah dijadikan
sasaran di dalam 173 unggahan online
yang dibuat oleh Tyler antara bulan
Maret 2023 sampai bulan Mei 2024. Terus
selain itu, Tyler juga menyebarkan
identitas pribadi dari korban-korbannya
seperti nama mereka, terus akun sosial
medianya sampai nomor teleponnya. Geng
gila enggak tuh? Dia ini udah mengaku 18
tuduhan yang dijatuhkan kepada dia
mengenai pelecehan tanpah kekerasan dan
15 tuduhan yang menyebarkan foto atau
video yang tidak senonoh untuk memenuhi
nafsu bejatnya dia. Nah, selain aksi
yang dia lakukan oleh si Tyler ini,
banyak banget kasus deep fake seperti
ini, Geng, yang menargetkan tokoh-tokoh
terkenal. Salah satunya adalah ya Tor
Swift ya. Selebriti cantik yang satu ini
atau penyanyi cantik yang satu ini.
Foto-foto Tylor Swift itu udah diedit
menggunakan deep fake dan banyak
tersebar di X. Terus ya juga deep fake
ini digunakan untuk mengedit
politisi-politisi perempuan Amerika
Serikat. Jadi dipakai sebagai alat
politik untuk menjatuhkan politisi di
sana. Dan oleh karena itu, pemerintah
dari 10 negara bagian akhirnya membuat
undang-undang yang memberikan denda
kepada siapa saja yang menyebarkannya.
10 negara bagian tersebut adalah ya
California, Florida, Georgia, Hawai,
Illinoa, terus ada Minnesota, New York
City, dan Sod Kota Texas, serta
Virginia. Kalau tadi di Amerika, nah ini
di Inggris juga sama ternyata tercatat
kasus gambar enggak senonoh yang dibuat
menggunakan deep fake itu sudah
meningkat lebih dari 400% sejak tahun
2017. hukum di negara tersebut sudah
mengatur mengenai larangan untuk
mengunggah foto atau video yang enggak
senonoh tanpa persetujuan dan dengan
tujuan untuk mengintimidasi atau yang
biasa disebut dengan ini. Nah, cuma,
Geng dalam peraturan tersebut ya enggak
mencakup hukuman bagi yang menyebarkan
foto palsu seperti yang dibuat dengan
deep fake ini. Dan oleh karena itu,
pemerintah Inggris bakal membuat
pelanggaran baru untuk mengatur hal ini,
Geng. yang mana nantinya bakal
dimasukkan ke dalam RUU kejahatan dan
kepolisian yang akan diajukan ke
parlemen dan bagi siapa saja yang
melanggar akan mendapatkan hukuman
penjara selama 2 tahun. Nah, lalu
sebenarnya siapa sih yang mengembangkan
deep fake ini? Kok bisa aplikasi
seberbahaya ini ada di media sosial?
Nah, ternyata geng pengembangnya adalah
Cina, negara Cina. Tapi yang anehnya di
Cina sendiri deep fake ini dilarang
untuk dipergunakan. Cina sama sekali
enggak bertindak untuk mencegah bahaya
dari deep fake di negara-negara lain.
Kalau di negara dia dilarang. Bahkan
dikatakan kalau Cina masih terus meraup
keuntungan dari banyaknya unduhan deep
fake dari luar negeri, terutama di
Amerika. Karena di negara tersebut
banyak orang yang men-download dan ya
makanya di Cina sendiri yang menjadi
negara sebagai produsennya atau
pengembangnya justru enggak banyak kasus
karena mereka melarang itu. Alasannya
karena memang dilarang oleh
pemerintahnya. pemerintahnya udah tahu
tuh dampak negatif dari deep fake ini.
Dan untuk itulah negara-negara lain yang
jadi harus mengadaptasikan peraturan di
negara mereka untuk bisa menangani
kasus-kasus yang berkaitan dengan deep
fake ini. Gila ya Cina ya. Mereka yang
bikin penyakitnya, orang lain yang
nanggung gitu. Dan AI memang adalah
hasil dari perkembangan teknologi yang
enggak bisa kita tolak keberadaannya dan
AI juga marah dipakai di dalam berbagai
bidang. Contohnya udah banyak nih,
bagaimana AI bisa memudahkan kita
sehari-hari dan semakin ke sini,
teknologi AI pun semakin canggih dengan
bisa mengubah penampilan dari manusia di
foto atau di video. Makanya teknologi
ini juga dipakai di dunia perfilman yang
bisa mengubah penampilan aktor menjadi
lebih tua atau lebih muda sesuai dengan
peran yang dia mainkan di film tersebut.
Namun seperti yang gua udah bilang di
awal tadi, kalau segala kemudahan yang
ditawarkan oleh teknologi AI ini juga
memiliki dampak negatif. Salah satunya
adalah deep fake tadi. Dengan deep fake
yang saat ini sudah semakin mudah
diakses oleh masyarakat membuat
banyaknya informasi berupa video atau
gambar-gambar palsu yang mirip dengan
aslinya. Sementara masyarakat sendiri
belum memiliki kemampuan yang cukup
untuk bisa membedakan mana yang asli dan
mana yang palsu atau deep fake. Apalagi
orang-orang di desa atau orang-orang di
kampung. Makanya bahaya banget nih deep
fake ini bisa dipakai untuk black
campaign atau kampanye hitam.
Oke, itu dia, Geng, pembahasan kita hari
ini mengenai kasus deep fake yang
dilakukan oleh mahasiswa Udayana dan
beberapa kasus di negara lainnya. Gimana
menurut kalian tentang kasus ini?