UI Manfaatkan AI untuk Deteksi Ujaran Kebencian di Twitter

Jakarta - Peneliti dari Fakultas Ilmu Komputer Universitas Indonesia (Fasilkom UI), yaitu Muhammad Okky Ibrohim, M.Kom. dan Dr. Indra Budi telah melakukan penelitian untuk mendeteksi ujaran kebencian di Twitter. Mereka memanfaatkan Artificial Intelligence (AI) dalam melakukan analisis terhadap berbagai cuitan netizen.

Sebagaimana yang telah kita ketahui bersama bahwa media sosial merupakan sarana berinteraksi antar penggunanya untuk memudahkan komunikasi satu sama lain. Namun, media sosial beralih menjadi ajang untuk melakukan ujaran kebencian terhadap lawan bisnis maupun politik.

Baca juga : Begini Cara Crowdsourcing Bantu Tuntaskan Masalah Perusahaan Anda

Melihat hal tersebut, Okky dan Budi ingin membantu Direktorat Tindak Pidana Siber Bareskrim Polri dalam melakukan investigasi kejahatan siber di Indonesia. Mereka berharap penlitian ini dapat dimanfaatkan oleh aparat penegak hukum seperti Polri.

Hasil riset menunjukkan bahwa bahwa kombinasi fitur Word Unigram, Random Forest Decision Tree (RFDT), dan Label Power-set (LP) mampu medeteksi bahasa kasar dan ujaran kebencian pada platform Twitter. Keseluruhan fitur memiliki tingkat akurasi rata-rat sebesar 77,36%.

Para peneliti melakukan pengumpulan data dengan memanfaatkan Twitter Search API sebanyak 13.169 cuitan. Mereka mencatat ada 7.608 cuitan bukan ujaran kebencian dan 5.561 cuitan adalah ujaran kebencian.

"Dalam risetnya ini, ujaran kebencian dikategorikan menjadi lima kategori seperti agama, ras, fisik, gender atau orientasi seksual, dan umpatan lainnya," kata Okky, melalui siaran pers yang diterima SINDOnews, Senin (30/11/2020).

Pendeteksian juga mampu mengklasifikasikan target, kategori, dan level ujaran kebencian itu sendiri. Ujaran kebencian dapat diklasifikasikan menjadi tiga level.

Level pertama adalah weak hate speech. Level ini merupakan kata umpatan yang ditujukan pada individu tanpa unsur provokasi.

Level kedua adalah moderate hate speech. Ini berupa umpatan yang ditujukan kepada kelompok tanpa provokasi.

Level terakhir atau ketiga adalah strong hate speech. Tingkatan level ini sangat memprovokasi dan berpotensi membuka konflik akibat cuitan yang dilontarkan.

"Penelitian kami berangkat dari maraknya ujaran kebencian dan penggunaan bahasa yang kasar pada media sosial, khususnya Twitter, yang sangat berpotensi menimbulkan konflik antar individu maupun kelompok," tambahnya.

Baca juga : Facebook Pertama Kali Ungkap Angka Konten Ujaran Kebencian

Okky mengungkapkan bahwa tidak jarang pula ujaran kebencian menggunakan bahasa kasar untuk menyerang individu atau kelompok. Okky dan rekannya terus berupaya mengembangkan pemanfaatan AI untuk mendeteksi hate speech dengan harapan semakin mempermudah tim melakukan investigasi kejahatan siber.

Dalam penelitiannya, Okky menjelaskan bahwa definisi yang digunakan maupun panduan anotasi disusun berdasarkan buku bahasa sosial dan handbook ujaran kebencian. Penelitian ini juga divalidasi oleh ahli dengan wawancara dan diskusi kelompok bersama staf Direktorat Tindak Pidana Siber Badan Reserse dan Kriminal Kepolisian Negara Republik Indonesia (Bareskrim Polri), serta seorang linguis, dengan tujuan untuk memvalidasi definisi ujaran kebencian secara tepat.