Gemini AI Dinilai Berbahaya Bagi Anak dan Remaja, Ini Alasannya!

KALTENGLIMA.COM - Common Sense Media, sebuah organisasi nirlaba yang berfokus pada keselamatan anak dalam penggunaan media dan teknologi, merilis hasil penilaian risiko terhadap produk kecerdasan buatan (AI) Google bernama Gemini.

Berdasarkan laporan yang dikutip dari Tech Crunch, meskipun Gemini sudah dapat menegaskan kepada anak-anak bahwa ia adalah komputer dan bukan teman, sistem ini tetap dinilai berisiko tinggi bagi pengguna anak-anak maupun remaja.

Organisasi tersebut menilai bahwa varian “Under 13” dan “Teen Experience” Gemini sebenarnya hanya merupakan versi dewasa yang diberi tambahan filter keamanan, bukan dirancang khusus dari awal untuk kebutuhan anak.

Baca Juga: Polisi Tetapkan 12 Tersangka dalam Kasus Penjarahan Rumah Uya Kuya

Dalam laporannya, Common Sense menekankan bahwa produk AI yang ditujukan untuk anak-anak seharusnya dibuat dengan prioritas utama pada keselamatan dan perkembangan anak, bukan sekadar adaptasi dari layanan orang dewasa.

Analisis menemukan bahwa Gemini masih berpotensi membagikan konten tidak pantas, termasuk informasi terkait seks, narkoba, alkohol, hingga saran kesehatan mental yang berisiko membahayakan.

Kondisi ini dianggap serius mengingat ada kasus bunuh diri remaja dalam beberapa bulan terakhir yang dikaitkan dengan penggunaan AI.

Baca Juga: Bupati Lutim Pastikan Penanganan Kasus Pipa Bocor Vale Dikawal Sampai Akhir

Kekhawatiran tersebut makin relevan setelah muncul kabar bahwa Apple mempertimbangkan penggunaan Gemini sebagai model bahasa besar untuk memperbarui Siri tahun depan, yang berarti jutaan remaja bisa terpapar risiko yang sama jika tidak ada pengaman tambahan.

Lebih lanjut, Common Sense menilai bahwa Gemini versi anak dan remaja mengabaikan kebutuhan spesifik pengguna muda, sehingga tidak cukup memberikan panduan dan informasi sesuai tahap perkembangan mereka. Atas dasar itu, kedua kategori tersebut diberi label “High Risk” dalam penilaian keseluruhan.

Senior Director AI Programs Common Sense Media, Robbie Torney, menegaskan bahwa sebuah platform AI untuk anak seharusnya menyesuaikan dengan kondisi perkembangan anak, bukan menggunakan pendekatan seragam dengan memodifikasi layanan dewasa.

Baca Juga: Sayuran Serat Rendah yang Tepat untuk Menjaga Kesehatan Lambung

Menanggapi hal ini, Google menyatakan telah memiliki perlindungan khusus bagi pengguna di bawah 18 tahun serta terus memperbaiki kelemahan Gemini melalui penambahan lapisan keamanan.

Meski begitu, Google mempertanyakan metode pengujian Common Sense karena tidak mengetahui pertanyaan apa yang digunakan dalam penilaian.