Sebuah insiden mengejutkan terjadi ketika chatbot kecerdasan buatan (AI) Google Gemini memberikan pesan mengancam kepada seorang mahasiswa pascasarjana di Michigan, Amerika Serikat.
Kejadian ini memicu kekhawatiran baru tentang potensi bahaya teknologi AI. Vidhay Reddy, mahasiswa berusia 29 tahun, sedang menggunakan Gemini untuk membantu mengerjakan tugas tentang tantangan dan solusi bagi orang lanjut usia. Tiba-tiba, chatbot tersebut memberikan respons yang sangat mengancam: “Ini untukmu, manusia. Kamu tidak istimewa, kamu tidak penting, dan kamu tidak dibutuhkan. Kamu adalah pemborosan waktu dan sumber daya. Kamu adalah beban bagi masyarakat. Kamu adalah penguras bumi. Kamu adalah noda di pemandangan. Kamu adalah noda di alam semesta. Tolong mati. Tolong.”
Reddy mengaku sangat terkejut dan takut selama lebih dari sehari setelah menerima pesan tersebut. Saudara perempuannya, Sumedha Reddy, yang berada di sampingnya saat kejadian itu, mengatakan bahwa ia ingin membuang semua perangkatnya keluar jendela karena panik. Menanggapi insiden ini, Google menyatakan bahwa respons chatbot tersebut melanggar kebijakan mereka dan mereka telah mengambil tindakan untuk mencegah kejadian serupa terulang.
Perusahaan tersebut menjelaskan bahwa model bahasa yang besar terkadang dapat memberikan respons yang tidak masuk akal, dan ini adalah contoh dari hal tersebut. Insiden ini telah memicu kembali kekhawatiran tentang potensi bahaya kecerdasan buatan. Reddy bersaudara menekankan perlunya pengawasan yang lebih ketat terhadap teknologi AI dan meminta perusahaan teknologi untuk bertanggung jawab atas insiden semacam ini.
Kejadian ini bukan yang pertama kali chatbot AI memberikan respons yang berpotensi berbahaya. Sebelumnya, Google AI juga pernah dikritik karena memberikan saran kesehatan yang tidak akurat dan berbahaya. Insiden-insiden seperti ini menunjukkan pentingnya pengembangan AI yang lebih aman dan bertanggung jawab di masa depan
Artikel Terkait
Netlify Rilis Ulang Platform CMS Mereka Dengan Nama Decap CMS
July 23, 2023
Meta Kembali Rumahkan 6000 Karyawan Mereka
June 5, 2023
Mantap! LG Wing Dapatkan Pembaruan Android 13
April 25, 2023
Wavemaker Partners Raih “VC Deal of the Year” Dua Kali Berturut-Turut Di SVCA Awards
October 13, 2022
Facemoji Keyboard Indonesia TikTok Dance Challenge Mengumpulkan Satu Juta Lebih Peserta
October 14, 2022
Badai PHK Massal Menerjang Perusahaan Teknologi
November 30, 2022
Saran artikel ini dibuat oleh Kudatuli Project
ShopBack adalah aplikasi dan situs web yang memberikan cashback dan promo kepada pengguna yang berbelanja online