PROBACA.COM – Penggunaan AI generatif membuat sebagian pelanggan mengabaikan penjelasan pekerja layanan dan lebih mempercayai informasi yang diberikan chatbot, meski informasi tersebut keliru atau bahkan mengada-ada.
Madison, pelayan di New York City, mengatakan ia selalu menanyakan alergi kepada setiap pengunjung restoran. Namun belakangan, ia menghadapi sejumlah situasi yang berisiko. “Kadang orang memberi tahu saya bahwa mereka alergi kerang, lalu saya kembali, dan mereka tidak menanyakan apa pun kepada saya,” kata Madison, yang meminta nama belakangnya tidak disebutkan demi melindungi identitas. “Kemudian mereka memesan hidangan ikan yang disajikan dengan kaldu berbahan kerang.”
Ketika Madison menjelaskan bahwa sebuah hidangan mengandung alergen, beberapa tamu justru membantah dengan mengatakan ChatGPT memiliki jawaban berbeda. “Mereka hanya ingin berbicara dengan ChatGPT,” ujar Madison. “Anda alergi kerang, dan ChatGPT mengatakan tidak ada kerang di dalamnya, sementara kami memberi tahu Anda, ya, ada kerang!”
Menurut Madison, ketergantungan pada AI generatif juga meningkat di restoran Italia yang direkomendasikan Michelin, tempat ia bekerja hingga baru-baru ini. “Seberapa sering saya menyarankan, ‘Biar saya panggilkan sommelier untuk Anda,’ lalu mereka menjawab, ‘Tidak, saya akan bertanya kepada ChatGPT saja,’ atau sommelier diminta meninggalkan meja karena tamu lebih memilih ChatGPT, itu meningkat cukup banyak,” katanya.
Ia juga menghadapi pelanggan yang meminta botol anggur yang tidak dijual restoran, bahkan dalam beberapa kasus, botol dari merek yang tidak pernah ada. Menurut Madison, halusinasi AI memperburuk kecemasan sebagian orang terhadap wine. Ia mengatakan, sebagian pelanggan memang sudah menganggap sommelier seperti “penjual mobil bekas yang berusaha membuat kami mengeluarkan uang jauh lebih banyak daripada yang kami inginkan untuk sebotol wine”, atau khawatir sommelier akan menganggap mereka bodoh.
Untuk mengurangi rasa tidak nyaman ketika harus menjelaskan bahwa rekomendasi AI keliru, Madison dan rekan-rekannya memilih mengatakan, “Kami memiliki daftar wine yang sangat spesifik, mungkin aplikasi itu menunjukkan wine Prancis, sementara kami tidak menjual wine Prancis,” alih-alih menyampaikan bahwa chatbot AI sepenuhnya mengarang merek wine tersebut.
Fenomena serupa juga dilaporkan pekerja layanan pelanggan lain. Dalam peliputan ini, pekerja bioskop, barista, dan karyawan Apple Store mengatakan pelanggan pernah menanyakan produk atau fitur yang sebenarnya tidak ada. Di Reddit dan X, pekerja layanan pelanggan mengeluhkan pelanggan yang menganggap perkataan ChatGPT sebagai kebenaran mutlak.
Peluncuran Muse, agen AI baru milik Meta, diperkirakan dapat memperburuk persoalan tersebut dan menambah permintaan tidak masuk akal yang harus dihadapi pekerja.
Jason, penjaga sungai yang bekerja di lahan federal di wilayah Mountain West, mengatakan ia melihat semakin banyak pengunjung datang ke taman dengan rencana perjalanan yang dibuat AI dan tidak masuk akal. Ia meminta disebut dengan nama samaran karena bekerja sebagai pegawai federal.
“Saya dan rekan-rekan sudah menjelaskan bahwa AI mengarang lokasi perkemahan atau menyusun jadwal tanpa urutan geografis, sehingga pada beberapa hari rombongan harus mendayung perahu melawan arus sungai—hal yang tidak mungkin—dan pada hari lain mengapung mengikuti arus sungai,” kata Jason. “Bagian paling gila adalah, bahkan setelah penjaga taman menjelaskan hal ini sambil menunjuk peta, beberapa rombongan tetap skeptis. Pengguna AI jenis tertentu cenderung lebih percaya kepada ChatGPT daripada penjaga taman, peta, dan buku panduan cetak.”
Casey, guru program sepulang sekolah di New York yang juga meminta disebut dengan nama samaran, mengatakan banyak orang tua, pengasuh, dan pendamping anak kini menggunakan ChatGPT atau Claude untuk bertanya tentang perkembangan anak.
“Ada satu keluarga yang berkonsultasi dengan ChatGPT untuk membuat rutinitas tidur dan jadwal tidur anak mereka, tetapi anak itu ternyata tidak cukup tidur,” kata Casey. Berdasarkan perilaku anak tersebut di program, Casey memperkirakan ia membutuhkan tambahan waktu tidur dua hingga tiga jam setiap malam dan menyampaikan hal itu kepada orang tuanya. “Orang tuanya hanya bersikeras bahwa ChatGPT mereka mengatakan jadwal itu sudah baik.”
Menurut Casey, sebagian orang tua kini memandang AI generatif sebagai ahli yang pengetahuannya melampaui pekerja profesional di bidang pengasuhan anak. “Sangat sulit berbicara dengan seseorang yang sudah mengambil keputusan,” katanya, “karena mereka mempercayai entitas dari luar ini sebagai sesuatu yang sangat berharga.”
Casey juga melihat penggunaan teknologi yang lebih sederhana, seperti anak-anak yang datang membawa lembar mewarnai buatan AI.
Lauren Wilford, yang telah bekerja di bidang layanan makanan selama 15 tahun, turut melihat AI masuk ke dalam interaksinya dengan pelanggan. Menurutnya, hal itu bermula dari menu: pelanggan mengunggah foto menu ke ChatGPT atau Claude lalu meminta rekomendasi pesanan atau panduan memilih pasangan wine, alih-alih bertanya kepada pelayan.
***
DISCLAIMER: Sebagian proses pengolahan artikel ini dibantu oleh teknologi AI. Pembaca disarankan memverifikasi kembali data dan informasi melalui sumber resmi atau sumber primer
Disadur dari Theverge
