Pakar AI Ingatkan Kecerdasan Buatan Bisa Berhalusinasi, Tidak Semua Jawabannya Benar

KETIK, JAKARTA – Belakangan ini, penggunaan kecerdasan buatan/akal imitatif atau artificial intelligence (AI) semakin marak dalam berbagai lini kehidupan. Salah satu produk AI yang paling populer adalah ChatGPT. 

Produk AI buatan OpenAI yang dipimpin Sam Altman itu dianggap sebagai AI paling dasar, mudah digunakan dan bisa menjawab banyak hal.

Meski demikian, pakar AI mengingatkan agar pengguna ChatGPT tidak boleh langsung mempercayai seluruh informasi yang dihasilkan teknologi kecerdasan buatan (AI) tersebut. Sistem ini masih memiliki keterbatasan, termasuk bias dan halusinasi data yang dapat menghasilkan jawaban keliru meskipun disampaikan dengan meyakinkan.

Menurut Guru Besar Sekolah Sains Data, Matematika, dan Informatika IPB University, Prof. Yeni Herdiyeni, masyarakat harus memahami keterbatasan tersebut sebelum menggunakan ChatGPT sebagai sumber informasi.

“Karena itu, masyarakat harus tahu bahwa tidak semua jawaban ChatGPT benar,” paparnya.

Menurut Yeni, kemampuan ChatGPT menyajikan informasi secara cepat dan praktis tidak otomatis menjamin kebenaran jawabannya. Pengguna tetap perlu memeriksa informasi, membandingkannya dengan sumber lain, dan menggunakan penilaian sendiri sebelum menerima jawaban AI.

Kemampuan tersebut menjadi semakin penting ketika anak-anak menggunakan ChatGPT untuk mencari informasi atau mengerjakan tugas sekolah. Anak belum tentu mampu mengenali jawaban yang keliru, sehingga orang tua dan guru perlu mendampingi mereka.

Yeni menilai teknologi ini relatif lebih aman digunakan oleh orang dewasa yang telah memiliki kemampuan memverifikasi informasi. Sebaliknya, penggunaan oleh anak usia dini, termasuk siswa sekolah dasar, sebaiknya berada dalam pengawasan.

“Kalau usia dini, seperti anak SD, sebaiknya penggunaan ChatGPT harus dalam pengawasan," ujar Ketua Program Studi Kecerdasan Buatan IPB University ini. 

Dengan demikian, ChatGPT sebaiknya berfungsi sebagai alat bantu untuk mengeksplorasi pengetahuan, bukan satu-satunya rujukan dalam mencari jawaban. Pengguna perlu mempertahankan kebiasaan memeriksa fakta agar tidak mudah menerima informasi yang belum teruji.

Selain memahami risiko informasi keliru, orang tua juga perlu mencegah anak terlalu bergantung pada jawaban instan karena kebiasaan tersebut dapat mengurangi latihan daya ingat dan kemampuan berpikir kritis. Pendidikan AI juga perlu membekali anak dengan kemampuan berpikir komputasional agar mereka mampu menilai dan menggunakan teknologi secara tepat. (*)