Jakarta, Kabar SDGs – Kementerian Komunikasi dan Digital (Kemkomdigi) meningkatkan pengawasan terhadap tren mini drama berbasis kecerdasan buatan atau artificial intelligence (AI) yang disalahgunakan untuk menyebarkan konten pornografi, kekerasan seksual, hingga perjudian. Fenomena ini menjadi perhatian karena konten yang beredar di media sosial dapat mengarahkan pengguna menuju platform lain dengan materi yang minim pengawasan.
Wakil Menteri Komunikasi dan Digital, Nezar Patria, mengungkapkan bahwa mini drama yang diproduksi menggunakan teknologi AI generatif kini banyak ditemukan di media sosial. Meski dikemas dalam bentuk film pendek yang kreatif, sebagian konten tersebut diduga digunakan sebagai sarana untuk mengarahkan pengguna ke situs atau aplikasi lain.
“Dia hanya menggunakan media sosial sebagai gateway. Ketika pengguna mengeklik, mereka akan masuk ke platform berbeda yang berbayar. Kita melihat konten di sana nyaris tanpa sensor,” ungkap Wamen Nezar, Sabtu (24/10/2026).
Untuk mengatasi persoalan tersebut, Kemkomdigi memperkuat koordinasi dengan berbagai pihak, termasuk penyedia platform media sosial. Salah satu langkah yang disiapkan adalah pengembangan sistem pemantauan bersama melalui dasbor yang memungkinkan identifikasi dan penindakan terhadap konten yang melanggar ketentuan hukum.
Kemkomdigi juga menggandeng Lembaga Sensor Film (LSF) untuk memperkuat pengawasan terhadap materi audiovisual yang beredar di ruang digital. Pengalaman LSF dalam menilai isi film diharapkan dapat mendukung upaya identifikasi konten bermasalah, terutama yang memanfaatkan teknologi AI generatif.
Selain itu, koordinasi dengan perusahaan teknologi dan penyedia layanan over-the-top (OTT) akan diperketat untuk menelusuri platform tujuan yang diakses pengguna setelah mengeklik tautan dari media sosial. Pendekatan ini diperlukan agar pengawasan tidak hanya berfokus pada konten awal, tetapi juga memperhatikan kemungkinan penyebaran materi terlarang melalui layanan lain.
Perkembangan AI generatif turut menghadirkan tantangan baru bagi industri film dan sistem pengawasan konten. Teknologi ini memungkinkan masyarakat memproduksi video serta meniru suara dengan lebih mudah. Namun, kemudahan tersebut juga meningkatkan risiko munculnya konten manipulatif atau deepfake yang terlihat menyerupai kejadian maupun orang sungguhan.
Dalam situasi tersebut, LSF menghadapi beban kerja yang cukup besar. Dengan sekitar 110 personel, lembaga tersebut harus menangani proses penyensoran hingga 40 ribu film setiap tahun. Peningkatan produksi konten berbasis AI berpotensi menambah kompleksitas pemeriksaan karena materi audiovisual dapat dibuat dan disebarluaskan dalam jumlah besar.
Teknologi AI sebenarnya dapat dimanfaatkan untuk membantu proses penyaringan awal, misalnya dengan mendeteksi gambar, suara, atau adegan tertentu secara otomatis. Meski demikian, hasil analisis mesin belum tentu mampu menjelaskan konteks, tujuan, dan pesan yang terkandung dalam sebuah karya secara menyeluruh.
Karena itu, Nezar Patria menegaskan bahwa penilaian manusia tetap diperlukan untuk memastikan proses pemeriksaan mempertimbangkan konteks cerita dan tidak hanya bergantung pada hasil identifikasi teknologi.
“AI bisa membantu mengenali adegan, tetapi belum tentu memahami konteks dan pesan yang ingin disampaikan dalam sebuah karya. Ketika kita hanya melihat hasil identifikasi mesin, ada kemungkinan pesan cerita yang sebenarnya tidak tertangkap. Karena itu, proses penilaian tetap membutuhkan manusia,” tegas Nezar Patria.
Melalui penguatan pengawasan digital, kolaborasi dengan LSF, serta koordinasi bersama penyedia platform, Kemkomdigi berupaya mempersempit ruang penyebaran konten ilegal yang memanfaatkan AI. Langkah tersebut diharapkan dapat mendukung terciptanya ekosistem digital yang lebih aman sekaligus memastikan pemanfaatan teknologi kecerdasan buatan berjalan secara bertanggung jawab.
Discussion about this post