Peringatan Penting dari Bos Instagram soal Konten AI

Adam Mosseri mengingatkan pengguna untuk lebih berhati-hati terhadap konten yang dihasilkan AI.

Dalam serangkaian unggahan di Threads, Adam Mosseri, kepala Instagram, mengingatkan pengguna untuk tidak sepenuhnya mempercayai gambar yang mereka lihat secara online.

Hal ini disebabkan oleh fakta bahwa AI kini dapat menghasilkan konten yang sangat mirip dengan kenyataan, sehingga sulit untuk dibedakan. Mengutip The Verge, Senin (16/12), Mosseri menekankan pentingnya mempertimbangkan sumber informasi sebelum mempercayainya.

“Peran kami sebagai platform internet adalah untuk memberi label pada konten yang dihasilkan oleh AI sebaik mungkin," jelas dia.

Meskipun demikian, Mosseri mengakui bahwa “beberapa konten” mungkin terlewat dari label tersebut. Oleh karena itu, platform sosial juga harus memberikan konteks mengenai siapa yang membagikan konten tersebut, sehingga pengguna dapat memutuskan seberapa banyak mereka mempercayai informasi tersebut.

Mengapa Pengguna Harus Waspada terhadap Konten Online?

Pengguna harus ingat bahwa chatbot dapat memberikan informasi yang salah dengan percaya diri, sehingga tidak bijak untuk langsung mempercayai mesin pencari yang didukung AI. Memeriksa apakah klaim atau gambar yang diposting berasal dari akun yang terpercaya dapat membantu pengguna menilai kebenarannya.

Saat ini, platform Meta belum menawarkan banyak konteks seperti yang dibahas oleh Mosseri, meskipun perusahaan tersebut baru-baru ini memberikan petunjuk tentang perubahan besar yang akan datang terkait aturan kontennya.

Menurut Mosseri, pendekatan yang diusulkannya lebih mirip dengan moderasi yang dipimpin pengguna, seperti Community Notes di X dan YouTube, atau filter moderasi kustom di Bluesky. Namun, belum ada kepastian apakah Meta berencana untuk memperkenalkan sistem serupa.

Perusahaan ini dikenal mengambil inspirasi dari inovasi yang dilakukan oleh Bluesky, sehingga perubahan potensial dalam moderasi konten bisa saja terjadi.