Alat-alat dalam percakapan kecerdasan buatan (AI) mungkin akan segera “secara diam-diam memengaruhi” pengambilan keputusan pengguna dalam medan komersial baru yang disebut “ekonomi berbasis niat.” Para peneliti Universitas Cambridge memperingatkan hal tersebut dalam sebuah makalah yang diterbitkan pada Senin (30/12/2024) lalu.
PENELITIAN tersebut berpendapat bahwa pasar yang berpotensi “menguntungkan namun meresahkan” yang muncul untuk “sinyal niat digital” dapat, dalam waktu dekat, memengaruhi segalanya mulai dari membeli tiket film hingga memilih kandidat politik.
Keakraban kita yang semakin meningkat dengan chatbot, tutor digital, dan apa yang disebut agen AI “antropomorfik” lainnya membantu memungkinkan serangkaian “teknologi persuasif” baru ini, tambah penelitian itu.
Ini akan melihat AI menggabungkan pengetahuan tentang kebiasaan daring kita dengan kemampuan yang berkembang untuk mengetahui pengguna dan mengantisipasi keinginannya dan membangun “tingkat kepercayaan dan pemahaman baru,” kata dua penulis laporan tersebut.
Jika tidak dicegah, hal itu dapat memungkinkan “manipulasi sosial dalam skala industri”, menurut dua penulis dari Leverhulme Centre for the Future of Intelligence (LCFI) Cambridge, dalam makalah yang diterbitkan di Harvard Data Science Review.
Makalah tersebut mencirikan bagaimana sektor yang baru muncul ini – yang dijuluki “ekonomi berbasis niat” – akan memetakan perhatian dan gaya komunikasi pengguna serta menghubungkannya dengan pola perilaku dan pilihan yang mereka buat.
“Alat-alat AI sudah dikembangkan untuk memperoleh, menyimpulkan, mengumpulkan, mencatat, memahami, memperkirakan, dan akhirnya memanipulasi dan mengkomodifikasi rencana dan tujuan manusia,” kata salah satu penulis Yaqub Chaudhary.
AI baru tersebut akan bergantung pada apa yang disebut Large Language Models – atau LLM – untuk menargetkan irama, politik, kosakata, usia, jenis kelamin, riwayat daring pengguna, dan bahkan preferensi untuk sanjungan dan pujian, menurut penelitian tersebut.
Itu akan dikaitkan dengan teknologi AI baru lainnya yang berupaya mencapai tujuan tertentu, seperti menjual tiket perjalanan ke bioskop, atau mengarahkan percakapan ke platform, pengiklan, bisnis, dan bahkan organisasi politik tertentu.
Penulis lain dalam laporan ini, Jonnie Penn, memperingatkan: “Jika tidak diatur, ekonomi yang berbasis pada niat akan memperlakukan motivasi Anda sebagai mata uang baru.”
“Ini akan menjadi perburuan emas bagi mereka yang menargetkan, mengarahkan, dan menjual tujuan manusia,” tambahnya.
“Kita harus mulai mempertimbangkan dampak yang mungkin terjadi dari pasar semacam itu terhadap aspirasi manusia, termasuk pemilihan umum yang bebas dan adil, pers yang bebas, dan persaingan pasar yang adil, sebelum kita menjadi korban dari konsekuensi yang tidak diinginkan,” tambahnya.
Penn mencatat bahwa kesadaran publik terhadap masalah ini adalah “kunci untuk memastikan kita tidak menempuh jalan yang salah.”
[ns/ka]
