Microsoft kena malu gara-gara robot Twitter buatannya rasis

Merdeka.com - Semua raksasa teknologi berlomba-lomba mengembangkan robot berbasis kecerdasan buatan atau AI (artificial intelligence) yang mampu belajar layaknya manusia, tidak terkecuali Microsoft.

Menjelang akhir pekan ini, Microsoft meluncurkan sebuah bot atau AI penjawab pesan otomatis di Twitter bernama Tay Tweets. Awalnya, Microsoft berharap Tay Tweets bisa berinteraksi dengan pengguna Twitter lain dan mendapat banyak 'pelajaran' berharga seputar komunikasi.

Namun, Tay Tweets ternyata tidak ubahnya seorang bocah yang mempelajari apa saja yang dijejalkan padanya, termasuk kata-kata kasar yang tak pantas diucapkan. Ya, bukannya mempelajari percakapan bermakna, Tay Tweets justru belajar banyaknya caci makian dan pernyataan anti-kelompok tertentu (rasis) dari para pengguna Twitter manusia asli.

Pertama, Tay Tweets mengirim kicauan yang tak berbahaya dan cenderung menarik, misalnya 'Aku sangat bersemangat bisa bertemu dengan kalian! Manusia sangat keren'.

Ironisnya, dari situ Tay Tweets mulai berinteraksi dengan pengguna yang melakukan rayuan-rayuan gombal. Kemudian AI ini mengunggah postingan-postingan yang bernada rasis dan seksis setelah melihat akun-akun 'trolling'.

Berkat postingan tak terpuji Tay Tweets itu, Microsoft akhirnya menonaktifkan akunnya dan meminta maaf pada publik.

"Kami memohon maaf yang sebesar-besarnya atas serangan dan komentar menyakitkan yang tidak diinginkan itu dari Tay, yang tidak mencerminkan siapa kami sebenarnya atau apa yang kami junjung, ataupun tentang bagaimana kami merancang Tay," tulis Peter Lee, wakil pemimpin penelitian Microsoft, dikutip dari Antara.

Lebih lanjut Lee, dalam tulisan di blognya, menyebut usaha sejumlah pengguna Internet untuk memberikan sebuah pengaruh buruk kepada program penjawab otomatis itu sebagai sebuah serangan yang direncanakan oleh sebagian orang.

"Meskipun kami telah menyiapkan diri dari banyaknya cara penyalahgunaan sisten, kami telah lalai dalam memperkirakan serangan spesifik ini," tulis Lee.

Da menimpali, "Sebagai hasilnya, Tay mengeluarkan pernyataan dan gambar yang tidak pantas untuk dipublikasikan."

Apakah ini menjadi bukti bila kelak robot atau AI bisa melakukan hal mengerikan seperti yang digambarkan film 'Terminator'?