Jakarta – Dalam panggung debat perdana Pilgub DKI Jakarta 2024 yang digelar pada Minggu (6/10), calon gubernur nomor urut 2, Dharma Pongrekun, melontarkan pernyataan yang mengundang kontroversi dengan menyebut kecerdasan buatan atau artificial intelligence (AI) sebagai alat pengintai. Pernyataan ini memicu perbincangan hangat mengenai peran dan dampak AI dalam kehidupan sehari-hari.
Dharma mengemukakan pandangannya saat membahas kemandirian internet untuk bangsa. Menurutnya, internet di Indonesia belum sepenuhnya mandiri, yang dibuktikan dengan berbagai insiden kebocoran data. Ia menekankan bahwa meskipun globalisasi menciptakan dunia tanpa batas, penggunaan internet harus dibatasi, termasuk dalam hal penggunaan AI.
Ismail Fahmi, pendiri lembaga Drone Emprit, turut memberikan tanggapan terhadap pernyataan Dharma. Menurut Ismail, AI secara umum tidak dirancang untuk menjadi alat pengintai. AI adalah teknologi yang dirancang untuk menyelesaikan berbagai tugas berdasarkan data dan algoritma, seperti pengenalan pola, pengambilan keputusan otomatis, atau pemrosesan bahasa alami.
AI didefinisikan sebagai teknologi yang memungkinkan komputer dan mesin untuk mensimulasikan kecerdasan manusia dan kemampuannya untuk memecahkan masalah. Melansir dari IBM, AI dapat mengerjakan tugas-tugas yang biasanya membutuhkan kecerdasan atau intervensi manusia, baik secara mandiri maupun dikombinasikan dengan teknologi lain. Contoh AI yang populer saat ini adalah ChatGPT, sebuah AI generatif yang dikembangkan oleh OpenAI.
Meskipun AI dapat membantu pekerjaan manusia, para pakar juga memperingatkan potensi dampak buruknya. Salah satu kekhawatiran adalah penggunaan AI untuk memata-matai, sebagaimana yang disampaikan oleh Dharma. Meredith Whittaker, presiden aplikasi perpesanan Signal, menyebut AI sebagai ‘teknologi pengawasan’. Menurutnya, AI dapat mengawasi individu melalui “kumpulan data besar-besaran” yang dikumpulkan dari manusia, yang kemudian dikuasai oleh perusahaan-perusahaan AI.
Data yang dikumpulkan dari aplikasi dan situs web dapat digunakan untuk mengoptimalkan iklan dan social feed, tetapi juga dapat mengungkap kehidupan pribadi dan kecenderungan politik seseorang kepada pihak berwenang. Tren ini diprediksi akan semakin berkembang dengan kemajuan teknologi ponsel pintar, kamera pintar, dan AI yang lebih canggih.
China adalah salah satu negara yang memanfaatkan teknologi pengenalan wajah (face recognition) dan pengawasan AI secara luas. Industri AI di China berkembang pesat berkat persaingan ketat dan akses yang luas ke data pribadi. Kebangkitan AI di China memungkinkan kontrol pemerintah yang lebih ketat terhadap informasi, ucapan, dan kebebasan.
Beberapa kota di China telah menggunakan teknologi face recognition untuk menangkap penjahat dalam rekaman pengawasan dan mempermalukan pelanggar ringan di depan umum. Yang paling mengkhawatirkan, AI digunakan di Xinjiang untuk menganiaya etnis muslim Uighur.
Pada Mei lalu, Bloomberg melaporkan bahwa salah satu badan intelijen Amerika Serikat (AS) akan segera menggunakan AI generatif rahasia dari Microsoft. Teknologi ini memungkinkan mata-mata AS menggunakan model AI dengan aman dalam menganalisis data sensitif. Model AI generatif Microsoft ini dirancang untuk mengatasi masalah keamanan yang berasal dari koneksi model bahasa besar (LLM) ke internet.
Menurut laporan, alat AI ini merupakan LLM pertama yang sepenuhnya terpisah dari internet. William Chappell, CTO Microsoft untuk misi strategis dan teknologi, menyatakan bahwa alat AI tersebut digunakan pada lingkungan cloud “air-gapped” yang terisolasi dari internet dan memiliki model berdasarkan GPT-4 beserta alat pendukungnya. Produk baru ini diumumkan di AI Expo untuk Daya Saing Nasional.
Kemampuan AI generatif untuk menganalisis data dalam jumlah besar dan mengenali pola untuk memberikan wawasan yang dapat ditindaklanjuti membuatnya sangat dicari oleh badan-badan intelijen seperti CIA dan komunitas intelijen lainnya.
