Jakarta (ANTARA) - Wakil Menteri Komunikasi dan Informatika Nezar Patria mengingatkan masyarakat untuk waspada terhadap praktik penipuan dalam berbelanja daring dengan memanfaatkan teknologi kecerdasan buatan (AI).
Salah satu penipuan belanja daring dengan menyalahgunakan AI adalah praktik manipulasi suara tokoh publik, seolah-olah tokoh publik tersebut mempromosikan produk yang dijual.
Nezar, di Jakarta, Selasa, mengatakan bahwa pihaknya telah bekerja sama dengan platform digital untuk memonitor penyalahgunaan AI untuk praktik penipuan tersebut.
"Kita bekerja sama dengan platform digital untuk sama-sama melakukan monitoring atas penyalahgunaan teknologi AI, terutama upaya-upaya yang sifatnya manipulatif menggunakan suara seseorang, biasanya tokoh masyarakat, tokoh publik, atau selebriti dalam rangka untuk mempromosikan barang yang sebenarnya tidak pernah dilakukan," ucap dia.
Nezar menilai tindakan tersebut tidak hanya melanggar etika, tetapi juga merugikan konsumen dan dapat berdampak buruk bagi tokoh publik yang namanya dicatut.
Nezar mengatakan pihaknya telah menetapkan sejumlah langkah dalam mengatasi masalah tersebut. Pertama, masyarakat diimbau untuk melaporkan konten-konten yang mencurigakan saat berbelanja daring.
Kedua, platform digital juga harus melakukan pemantauan melalui patroli siber untuk mengidentifikasi konten yang melanggar aturan.
Ketiga, apabila konten tersebut melanggar hukum atau aturan yang berlaku, Kementerian Kominfo akan mengambil tindakan, seperti memblokir atau meminta platform digital untuk menurunkan konten tersebut.
Kementerian Kominfo juga telah berkoordinasi dengan berbagai lembaga, termasuk Yayasan Lembaga Konsumen Indonesia. Nezar mengaku pihaknya telah banyak mendengar tentang penyalahgunaan AI yang merugikan konsumen saat berbelanja daring.
Lebih lanjut Nezar juga memberikan imbauan kepada masyarakat untuk lebih waspada dan kritis dalam menyikapi konten yang mereka temui di ruang digital.
"Jadi misalnya kalau ada satu tokoh dengan nama besar yang mempromosikan satu produk yang kira-kira kurang masuk akal dia akan mempromosikan konten tersebut, masyarakat perlu waspada, jangan cepat percaya," saran dia.
Masyarakat diingatkan untuk melakukan pengecekan dan teliti sebelum mempercayai konten yang mereka lihat atau dengar.
Jika menemukan konten yang mencurigakan atau melanggar aturan, masyarakat diharapkan untuk melaporkannya kepada platform digital atau langsung ke Kementerian Kominfo untuk diproses lebih lanjut.
"Yang penting jangan terkecoh, jangan sampai tertipu oleh begitu banyaknya promosi-promosi yang mencatut nama tokoh-tokoh publik," pungkas Nezar.
Salah satu penipuan belanja daring dengan menyalahgunakan AI adalah praktik manipulasi suara tokoh publik, seolah-olah tokoh publik tersebut mempromosikan produk yang dijual.
Nezar, di Jakarta, Selasa, mengatakan bahwa pihaknya telah bekerja sama dengan platform digital untuk memonitor penyalahgunaan AI untuk praktik penipuan tersebut.
"Kita bekerja sama dengan platform digital untuk sama-sama melakukan monitoring atas penyalahgunaan teknologi AI, terutama upaya-upaya yang sifatnya manipulatif menggunakan suara seseorang, biasanya tokoh masyarakat, tokoh publik, atau selebriti dalam rangka untuk mempromosikan barang yang sebenarnya tidak pernah dilakukan," ucap dia.
Nezar menilai tindakan tersebut tidak hanya melanggar etika, tetapi juga merugikan konsumen dan dapat berdampak buruk bagi tokoh publik yang namanya dicatut.
Nezar mengatakan pihaknya telah menetapkan sejumlah langkah dalam mengatasi masalah tersebut. Pertama, masyarakat diimbau untuk melaporkan konten-konten yang mencurigakan saat berbelanja daring.
Kedua, platform digital juga harus melakukan pemantauan melalui patroli siber untuk mengidentifikasi konten yang melanggar aturan.
Ketiga, apabila konten tersebut melanggar hukum atau aturan yang berlaku, Kementerian Kominfo akan mengambil tindakan, seperti memblokir atau meminta platform digital untuk menurunkan konten tersebut.
Kementerian Kominfo juga telah berkoordinasi dengan berbagai lembaga, termasuk Yayasan Lembaga Konsumen Indonesia. Nezar mengaku pihaknya telah banyak mendengar tentang penyalahgunaan AI yang merugikan konsumen saat berbelanja daring.
Lebih lanjut Nezar juga memberikan imbauan kepada masyarakat untuk lebih waspada dan kritis dalam menyikapi konten yang mereka temui di ruang digital.
"Jadi misalnya kalau ada satu tokoh dengan nama besar yang mempromosikan satu produk yang kira-kira kurang masuk akal dia akan mempromosikan konten tersebut, masyarakat perlu waspada, jangan cepat percaya," saran dia.
Masyarakat diingatkan untuk melakukan pengecekan dan teliti sebelum mempercayai konten yang mereka lihat atau dengar.
Jika menemukan konten yang mencurigakan atau melanggar aturan, masyarakat diharapkan untuk melaporkannya kepada platform digital atau langsung ke Kementerian Kominfo untuk diproses lebih lanjut.
"Yang penting jangan terkecoh, jangan sampai tertipu oleh begitu banyaknya promosi-promosi yang mencatut nama tokoh-tokoh publik," pungkas Nezar.