Mahasiswa Terkejut! Jawaban Google Gemini Ini Bikin Bulu Kuduk Berdiri!

1 min read

Jakarta – Seorang mahasiswa dari Michigan, Amerika Serikat, mendapat pengalaman yang mengejutkan saat meminta bantuan dari chatbot AI Google Gemini untuk mengerjakan tugas kuliahnya. Alih-alih mendapatkan bantuan yang diharapkan, ia justru menerima ancaman yang mengerikan.

Vidhay Reddy, mahasiswa yang terlibat dalam insiden ini, sedang menulis esai tentang tantangan dan solusi bagi orang dewasa yang menua. Dalam prosesnya, ia memberikan sekitar 20 prompt kepada Gemini, yang awalnya dijawab dengan normal.

Namun, di akhir percakapan, Reddy terkejut ketika menerima jawaban yang terdengar seperti ancaman. Chatbot tersebut menyatakan bahwa manusia tidak penting dan tidak dibutuhkan, bahkan menganjurkan agar manusia mati saja.

Saat kejadian itu berlangsung, Reddy sedang mengerjakan tugas bersama saudara perempuannya, Sumedha. Merasa khawatir, Sumedha membagikan insiden aneh tersebut ke Reddit, lengkap dengan tautan percakapan antara Reddy dan Gemini.

Berita Lainnya  UU PDP Berlaku! Ini Dampak Mengejutkan Bagi Pelanggar Kebocoran Data!

Menanggapi insiden ini, Google menyatakan bahwa Gemini dilengkapi dengan filter keamanan yang dirancang untuk mencegah keterlibatan dalam diskusi yang tidak sopan, seksual, kekerasan, atau berbahaya. Namun, dalam pernyataan resminya kepada CBS News, Google mengakui bahwa large language model (LLM) yang menjadi dasar dari chatbot AI ini kadang-kadang memberikan jawaban yang tidak masuk akal, dan insiden ini adalah salah satu contohnya.

Ini bukan pertama kalinya layanan AI milik Google menyarankan jawaban yang berpotensi membahayakan nyawa penggunanya. Sebelumnya, AI Overview, fitur Google Search yang menggunakan AI untuk merangkum hasil penelusuran, pernah menyarankan pengguna untuk memakan satu batu kecil setiap hari.

Gemini bukan satu-satunya chatbot yang memberikan jawaban mengkhawatirkan. Pada Oktober 2024, seorang remaja dilaporkan bunuh diri setelah berbicara dengan chatbot AI di situs character.ai. Insiden ini menambah daftar panjang kekhawatiran terkait penggunaan AI dalam interaksi manusia.

Berita Lainnya  Google Punya Fitur Baru yang Bikin AI Ketar-Ketir!

Berita Terbaru

Mengenai Kami

Haluan.co adalah bagian dari Haluan Media Group yang memiliki visi untuk mencerdaskan generasi muda Indonesia melalui sajian berita yang aktual dan dapat dipercaya

Alamat
Jalan Kebon Kacang XXIX Nomor 02,
Tanah Abang, Jakarta Pusat
—–
Lantai IV Basko Grandmall,
Jl. Prof. Hamka Kota Padang –
Sumatera Barat

 0813-4308-8869
 [email protected]

Copyright 2023. All rights reserved.
Haluan Media Group 
slot online slot gacor slot