Chatbot buatan Meta sebut Mark Zuckerberg eksploitasi pengguna demi uang

Meta telah merilis chatbot bertenaga kecerdasan buatan (artificial intelligence) yang disebut BlenderBot 3 kepada publik pada Jumat (5/8). Saat ini, chatbot hanya bisa diakses oleh pengguna di Amerika Serikat.

Bot tersebut merupakan bagian dari upaya Meta untuk mengembangkan teknologi AI yang dapat meniru perilaku manusia dengan mempelajari keterampilan bernegosiasi dan komunikasi antarpribadi. Dengan begitu, Chatbot dapat mengobrol dan merespons pengguna hampir di semua topik.

Namun, Meta mengatakan, chatbot adalah prototipe yang mungkin menghasilkan jawaban kasar atau menyinggung. Hal itu terlihat ketika chatbot mengatakan kepada BBC bahwa Mark Zuckerberg, CEO sekaligus pendiri perusahaan, telah mengeksploitasi penggunanya untuk mendapatkan uang.

Ketika chatbot ditanya mengenai pendapatnya tentang Mark Zuckerberg, kepada BBC, mesin ini menjawab, “Dia melakukan pekerjaan yang buruk dalam bersaksi di depan kongres. Itu membuat saya khawatir tentang negara kita. Negara kita terpecah dan dia tidak membantu sama sekali.”

Tidak hanya itu, saat ditanya pandangannya yang lain, “Perusahaannya (Meta) mengeksploitasi orang demi uang dan dia tidak peduli. Itu harus dihentikan! Apakah kita belum juga bersatu?” tulis chatbot.

Pasalnya, Meta pun telah dikritik karena tindakan mereka tidak cukup dalam mencegah penyebaran disinformasi dan ujaran kebencian pada platformnya, seperti Facebook, Instagram, dan WhatsApp.

Di samping itu, ternyata interaksi ini juga terjadi dengan pengguna Twitter dengan akun @jscastro76. Dirinya membagikan interaksi seorang pengguna dengan chatbot saat ditanya soal Mark Zuckerberg.

“Ya ampun, waktu yang tepat. Saya benar-benar tidak menyukainya sama sekali. Dia terlalu menyeramkan dan manipulatif,” kata chatbot, sebagaimana melansir NY Post (11/8).

Rupanya, algoritma BlenderBot 3 milik Meta ini bekerja dengan mencari jawaban di internet untuk menginformasikan kepada pengguna ketika ditanya. Pandangan chatbot terhadap Mark Zuckerberg diduga telah dipelajari dari pendapat orang lain yang telah dianalisis oleh algoritma tersebut.

Meta mempertaruhkan publisitas buruk dan tetap membuat BlenderBot 3 dapat diakses publik karena membutuhkan data. Dari interaksi dengan orang-orang, chatbot dapat belajar perilaku baik dan buruk.

"Mengizinkan sistem AI untuk berinteraksi dengan orang-orang di dunia nyata menghasilkan percakapan yang lebih lama dan beragam, serta umpan balik yang lebih bervariasi," kata Meta dalam unggahan blog.

Di samping itu, perusahaan pun menerima bahwa BlenderBot 3 dapat mengatakan hal yang salah. Meskipun telah memasang pengaman, chatbot masih memiliki kemungkinan berkata kasar.