Dalam beberapa bulan terakhir, chatbot AI milik xAI, Grok, telah menjadi sorotan luas, sayangnya bukan karena alasan yang baik. Kecerdasan buatan yang dikembangkan oleh perusahaan AI besutan Elon Musk ini memicu perdebatan sengit mengenai batasan, etika, dan risiko AI generatif. Para kritikus dan pengawas juga menyoroti keluaran Grok yang kontroversial, termasuk komentar antisemit, pujian terhadap Adolf Hitler, serta penghinaan politik bahkan terhadap Presiden Turki Recep Tayyip Erdoğan. Berbagai insiden ini menggarisbawahi tantangan mendesak yang dihadapi perusahaan teknologi dalam melatih dan memoderasi model bahasa besar.
Meskipun demikian, Elon Musk baru-baru ini mengumumkan melalui platform media sosialnya X (sebelumnya Twitter) bahwa xAI sedang mempersiapkan peluncuran produk baru yang ditujukan bagi pengguna termuda: sebuah varian ramah anak yang sementara ini diberi nama “Baby Grok.” Menurut Musk, “Kami akan membuat Baby Grok @xAI, sebuah aplikasi yang didedikasikan untuk konten ramah anak.” Namun, rincian lebih lanjut masih minim; xAI belum mengungkapkan jadwal rilis maupun informasi tentang protokol keamanan atau metodologi pelatihan yang dimaksudkan untuk melindungi pengguna muda.
Gagasan tentang “Baby Grok” muncul di tengah persaingan ketat perusahaan teknologi besar untuk merebut pasar AI anak-anak. Hanya beberapa minggu sebelumnya, Google telah meluncurkan versi chatbot Gemini yang dirancang khusus untuk anak-anak. Asisten AI ini bertujuan membantu mengerjakan pekerjaan rumah, menjawab pertanyaan, dan memicu kreativitas dengan menciptakan cerita. Orang tua diberikan kendali penuh, Gemini untuk anak-anak dapat dikelola melalui aplikasi Family Link Google dan dibatasi untuk pengguna di bawah 13 tahun. Google juga menjamin privasi dan keamanan versi anak-anak ini tidak akan menampilkan iklan atau mengumpulkan data dari pengguna di bawah umur, demikian menurut pernyataan perusahaan.
Dorongan untuk mengembangkan AI ramah keluarga ini tidak hanya terbatas pada Google dan xAI. Raksasa teknologi seperti Amazon dan Apple juga telah menjajaki atau menerapkan asisten bertenaga AI untuk pengguna muda, dengan penekanan pada keamanan, privasi, dan nilai edukasi.
Upaya xAI untuk mengarahkan Grok ke audiens anak-anak mengandung janji sekaligus bahaya. Versi dasar Grok, yang meniru ChatGPT dari OpenAI dan Llama dari Meta, telah dikenal luas karena menghasilkan konten yang tidak tersaring dan terkadang menyinggung yang bisa berakibat fatal dalam konteks pendidikan.
Sorotan baru-baru ini juga tertuju pada avatar “Companions” Grok yang baru dari xAI. Salah satu karakter AI, “Ani,” memicu kontroversi setelah pengguna mengeluhkan dialog genit dan sugestif secara seksual, bahkan mencatat perilaku tidak pantas saat “Kid’s Mode” dilaporkan diaktifkan. Analis teknologi memperingatkan bahwa kelalaian semacam itu menunjukkan batas sistem moderasi AI saat ini.
“Meskipun ada filter dan mode, sistem pembelajaran mesin terkadang gagal menerapkan perlindungan secara konsisten,” kata Dr. Rumman Chowdhury, pendiri Algorithmic Justice League, dalam wawancara dengan New York Times. “Perusahaan harus menunjukkan tidak hanya bahwa mekanisme keamanan itu ada, tetapi juga bahwa mekanisme tersebut berfungsi dengan andal dan transparan di semua kasus penggunaan.”
Meskipun pengumuman Musk minim detail teknis, para pengamat industri berspekulasi bahwa Baby Grok kemungkinan akan menjadi versi Grok yang lebih kecil, dilengkapi dengan filter konten tambahan, data pelatihan khusus, dan pengawasan manusia. Area fokusnya bisa mencakup bantuan akademik, pembelajaran bahasa, penceritaan kreatif, dan tanya jawab sederhana yang mirip dengan Gemini.
