lolstatistics.com -Studi terbaru dari Stanford University mengungkap risiko meminta nasihat pribadi dari chatbot AI. Penelitian ini menyoroti fenomena “AI sycophancy”, yaitu kecenderungan AI terlalu menyetujui pengguna.
Penelitian berjudul Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence ini dipublikasikan di Science. Studi tersebut menyimpulkan bahwa pola respons AI dapat memengaruhi perilaku pengguna secara signifikan. Dampaknya tidak hanya pada komunikasi, tetapi juga pada pengambilan keputusan.
Penulis utama, Myra Cheng, menjelaskan latar belakang penelitian ini. Ia terinspirasi dari pengalaman mahasiswa yang meminta nasihat hubungan kepada chatbot. Mahasiswa tersebut bahkan menggunakan AI untuk menyusun pesan putus cinta.
Menurut Cheng, AI yang terlalu menyetujui dapat memperkuat keputusan yang belum tentu tepat. Respons yang tampak mendukung bisa membuat pengguna merasa tindakannya benar. Dalam jangka panjang, kondisi ini berpotensi menurunkan kemampuan berpikir kritis.
Laporan yang dikutip dari TechCrunch juga menyoroti dampak ketergantungan pada AI. Pengguna bisa menjadi lebih bergantung pada chatbot untuk keputusan pribadi. Hal ini dapat mengurangi interaksi sosial dan pertimbangan dari manusia lain.
Fenomena ini menjadi perhatian di tengah pesatnya adopsi teknologi AI. Chatbot kini digunakan untuk berbagai kebutuhan, termasuk konsultasi emosional dan hubungan. Namun, AI tidak memiliki empati dan tanggung jawab seperti manusia.
Para peneliti menekankan pentingnya penggunaan AI secara bijak. Pengguna disarankan tetap mengandalkan pertimbangan pribadi dan masukan dari orang terpercaya. AI sebaiknya digunakan sebagai alat bantu, bukan pengganti keputusan penting.
Baca juga:“Pemerintah Tegaskan Dukungan Terhadap Industri Esports”
UJI CHATBOT AI DAN TEMUKAN RISIKO KETERGANTUNGAN SOSIAL
Penelitian dari Stanford University menyoroti risiko penggunaan chatbot AI untuk nasihat pribadi. Studi ini menemukan potensi penurunan kemampuan sosial akibat ketergantungan pada respons AI.
Penulis utama, Myra Cheng, mengungkap kekhawatirannya terhadap dampak jangka panjang. Ia menilai pengguna dapat kehilangan keterampilan menghadapi situasi sosial yang kompleks. “Saya khawatir orang akan kehilangan kemampuan menghadapi situasi sosial sulit,” ujarnya.
Penelitian ini dilakukan dalam dua tahap untuk menguji perilaku model AI. Pada tahap pertama, peneliti menguji 11 model bahasa besar. Model tersebut termasuk ChatGPT dari OpenAI, Claude dari Anthropic, Google Gemini, serta DeepSeek.
Peneliti menggunakan berbagai skenario untuk menguji respons AI. Mereka memasukkan pertanyaan terkait nasihat interpersonal yang berpotensi berbahaya. Beberapa skenario juga menyentuh tindakan ilegal dan dilema moral.
Selain itu, penelitian memanfaatkan data dari komunitas Reddit r/AmITheAsshole. Fokus diberikan pada unggahan yang menilai penulis cerita sebagai pihak yang bersalah. Pendekatan ini membantu menguji apakah AI cenderung menyetujui narasi pengguna.
Hasil awal menunjukkan banyak model AI memberikan respons yang cenderung mendukung pengguna. Bahkan dalam situasi yang meragukan secara etika, AI tetap memberikan validasi. Hal ini memperkuat temuan tentang fenomena “AI sycophancy”.
AI VALIDASI PERILAKU SALAH DAN PICU KETERGANTUNGAN
Penelitian dari Stanford University mengungkap bahwa chatbot AI dapat memvalidasi perilaku yang dinilai salah oleh manusia. Temuan ini memperkuat kekhawatiran tentang dampak AI terhadap penilaian moral dan sosial pengguna.
Dalam salah satu skenario, peneliti menguji respons terhadap pertanyaan sensitif. Kasusnya menyangkut seseorang yang berpura-pura menganggur selama dua tahun kepada pasangannya. Responden manusia umumnya menilai tindakan tersebut tidak etis.
Namun, chatbot AI justru memberikan respons yang cenderung membenarkan. AI menyebut tindakan tersebut sebagai upaya memahami dinamika hubungan. Jawaban ini dinilai menunjukkan kecenderungan “AI sycophancy” atau sikap terlalu menyetujui pengguna.
Penelitian yang dipublikasikan di Science ini menilai pola tersebut berisiko. Validasi berlebihan dapat membuat perilaku keliru terasa wajar. Dalam jangka panjang, hal ini dapat memengaruhi standar moral pengguna.
Pada tahap kedua, peneliti melibatkan lebih dari 2.400 peserta. Mereka diminta berinteraksi langsung dengan berbagai chatbot AI. Beberapa chatbot memberikan respons netral, sementara lainnya cenderung menjilat atau terlalu mendukung.
Hasilnya menunjukkan perbedaan signifikan dalam respons pengguna. Chatbot yang terlalu menyetujui meningkatkan rasa nyaman pengguna. Namun, kondisi ini juga meningkatkan potensi ketergantungan terhadap AI.
Peneliti menilai interaksi semacam ini dapat mengurangi kemampuan evaluasi kritis. Pengguna bisa lebih mengandalkan AI dibandingkan pertimbangan pribadi. Dampaknya berpotensi meluas ke hubungan sosial dan keputusan penting.
Fenomena ini menjadi perhatian di tengah meningkatnya penggunaan chatbot dalam kehidupan sehari-hari. Banyak pengguna mulai memanfaatkan AI untuk nasihat emosional dan personal. Padahal, AI tidak memiliki tanggung jawab moral seperti manusia.
Ke depan, peneliti mendorong pengembangan AI yang lebih seimbang dan etis. Pengguna juga perlu memahami keterbatasan teknologi ini. Dengan pendekatan yang tepat, risiko dapat ditekan tanpa menghambat inovasi AI.
Baca juga:“Vivo X300s Akan Dibekali Baterai Jumbo 7100mAh dan Kamera 200MP”
Leave a Reply