Peneliti UI Ciptakan Pendeteksi Ujaran Kebencian AI, Disebut Bisa Lakukan Ini

Merdeka.com - Maraknya ujaran kebencian di medsos membuat peneliti asal Fakultas Ilmu Komputer Universitas Indonesia (Fasilkom UI) Muhammad Okky Ibrohim, M.Kom. dan Dr. Indra Budi menciptakan program Artificial Intelligence (AI) untuk mendeteksi ujaran kebencian.

Dalam pemanfaatan tersebut, pihaknya mengklaim mampu mendeteksi bahasa kasar dengan akurasi mencapai 77,36 pada media sosial tertentu.

"Hasil riset menunjukkan bahwa kombinasi fitur Word Unigram, Random Forest Decision Tree (RFDT), dan Label Power-set (LP) mampu mendeteksi bahasa kasar dan ujaran kebencian yang terdapat di Twitter dengan akurasi 77,36 persen," kata Muhammad Okky Ibrohim dalam keterangannya kepada wartawan Senin (30/11), dilansir dari Antara

Menurut Okky, penelitian ini, kelam bisa dimanfaatkan oleh Direktorat Tindak Pidana Siber Bareskrim Polri dalam melakukan investigasi kejahatan di media siber di Indonesia.

Mengkategorisasi Ujaran Kebencian

© telegraph.co,uk

Dari pemanfaatan Twitter Search API yang dilakukan kepada total 13.169 cuitan, terdapat 7.608 cuitan adalah bukan ujaran kebencian, dan sisanya 5.561 twit masuk dalam kategori ujaran kebencian.

Dari hasil tersebut, pihaknya menemukan lima kategori ujaran kebencian yang kerap dilontarkan, yakni agama, ras, fisik, gender atau orientasi seksual, dan umpatan lainnya. Pelacakan tersebut mampu membedakan target, kategori, dan level ujaran kebencian.

Ujaran kebencian juga bisa diklasifikasikan menjadi tiga level. Pertama, weak hate speech (Umpatan kepada individu tanpa unsur provokasi), kedua, moderate hate speech (Umpatan kepada kelompok tanpa provokasi) dan ketiga, strong hate speech (Umpatan yang memicu provokasi dan konflik).

Mencegah Kejahatan Siber

Okky mengungkapkan, penelitian tersebut berangkat dari maraknya kejahatan siber di media sosial khususnya Twitter. Sehingga kerap memicu konflik, baik individu maupun kelompok.

Tak jarang, ujaran kebencian selalu diungkapkan dengan menggunakan bahasa kasar yang dipakai untuk menyerang individu maupun kelompok. Saat ini, pihaknya masih terus berupaya mengembangkan penggunaan AI untuk mendeteksi hate speech.

"Kami berharap, alat bantu teknologi AI yang diujicobakan bisa mempermudah pihak berwenang menjalankan investigasi pada kejahatan siber," jelasnya.

Melibatkan Tim Ahli

Sementara itu, dalam penelitian itu, pihaknya turut menyusun definisi atau panduan anotasi teknologi AI berdasarkan buku bahasa sosial dan handbook ujaran kebencian.

Untuk validasi, Okky melibatkan tim ahli dengan melakukan wawancara dan diskusi kelompok bersama staf Direktorat Tindak Pidana Siber Badan Reserse dan Kriminal Kepolisian Negara Republik Indonesia (Bareskrim Polri). Serta, seorang ahli linguistik, sehingga ujaran kebencian yang dideteksi bisa terdefinisi secara tepat.

  (mdk/nrd)