Di masa depan, kecerdasan buatan (Artificial Intelligence/AI) dapat meniru perilaku manusia, termasuk tugas rumit membesarkan anak. Peneliti Microsoft melaporkan bahwa GPT-4 mulai menunjukkan kecerdasan mendekati manusia. Namun hal ini bisa menimbulkan potensi jebakan.
AI dapat menawarkan kepada anak-anak yang tidak dapat disediakan oleh manusia, TV, atau smartphone. AI akan dapat menentukan kebutuhan anak dan menyesuaikan interaksi untuk memberikan anak pengalaman pengasuhan dan pendidikan terbaik. Jika anak kesulitan mempelajari konsep tertentu, AI dapat menyesuaikan instruksinya, memenuhi kebutuhan belajar anak dengan cara yang menarik.
Dosen Departemen Filsafat, Fakultas Seni dan Ilmu Sosial di National University of Singapore Jonathan Sim mengungkapkan, ini terdengar sangat mirip dengan apa yang dapat dilakukan manusia, dengan satu pengecualian yakni AI tidak akan pernah merasa lelah. Teknologi ini akan terus memberikan perhatian dan perhatian penuh kepada anak dengan cara yang tidak bisa dilakukan oleh manusia.
“Baik AI bertindak sebagai pengasuh, tutor, atau teman bermain, nilai jual utamanya adalah tingkat personalisasi yang belum pernah terjadi sebelumnya untuk memenuhi setiap kebutuhan anak. Ini kedengarannya terlalu berlebihan jika menjadi kenyataan,” kata Jonathan Sim, mengutip Channel News Asia.
Para pemimpin teknologi, termasuk kepala OpenAI dan Google DeepMind, telah mengeluarkan peringatan yang mengerikan tentang potensi risiko AI bagi masyarakat dan mendesak agar lebih berhati-hati. Pada bulan Juni, mantan eksekutif Google X Mo Gawdat bahkan menyarankan calon orang tua menunda memiliki anak hingga teknologinya dikendalikan.
Pada 14 Juni, anggota parlemen Uni Eropa menandatangani rancangan undang-undang untuk penggunaan AI, termasuk larangan penggunaan teknologi dalam pengawasan biometrik dan klausul tertentu untuk melindungi anak-anak. Ini adalah undang-undang AI pertama oleh regulator utama dan dapat bertindak sebagai model untuk yurisdiksi lain yang merencanakan peraturan serupa.
Jebakan personalisasi berbasis AI
Jonathan Sim melanjutkan, untuk memahami potensi jebakan yang mungkin dimiliki oleh personalisasi berbasis AI pada generasi mendatang, perlu memusatkan perhatian pada efek personalisasi berbasis teknologi pada budaya dan masyarakat saat ini. Algoritme yang beroperasi di belakang layar, mempelajari minat seseorang untuk menyusun dan menunjukkan lebih banyak tentang apa yang mungkin ingin dilihat, didengar, dan dialami di platform ini. Mereka dirancang untuk membuat seseorang terpikat sehingga terus kembali lagi.
“Jika seseorang menghabiskan satu hari menonton video tentang bagaimana berang-berang bisa sangat jahat, personalisasi berarti platform akan mendorong lebih banyak konten tentang berang-berang jahat sambil mengecualikan konten tentang berang-berang baik. Ini akan mengembangkan kesan yang kemungkinan salah bahwa berang-berang adalah makhluk yang sangat jahat,” tambahnya.
Hal yang sama dapat dikatakan tentang kepercayaan, pandangan politik, nilai-nilai, dan sebagainya. Jika seseorang mengonsumsi konten dengan kecenderungan tertentu, platform online akan terus memberi lebih banyak konten dengan kecenderungan serupa. Personalisasi membungkus dalam gelembung ketidaktahuan, memperkuat persepsi yang tidak akurat bahwa setiap orang memiliki keyakinan atau nilai yang sama seperti dirinya.
Personalisasi tidak hanya memperlebar jarak yang memisahkan mereka yang tidak memiliki keyakinan, nilai, atau minat yang sama dengan seseorang, tetapi juga dapat membuat orang-orang dalam gelembung yang sama semakin terpolarisasi dalam pandangan dan keyakinan mereka.
Dunia Paralel
Kita semua mungkin tinggal di planet yang sama, tetapi pengalaman platform online yang dipersonalisasi menciptakan banyak dunia paralel yang memecah budaya komunikatif manusia. Masalah ini diam-diam luput dari perhatian, dan itu memisahkan kita sedemikian rupa sehingga menjadi semakin sulit untuk menghormati berbicara dan bekerja sama dengan orang lain.
Setiap gelembung akan memiliki budaya dan praktik komunikatifnya sendiri. Semakin banyak waktu yang kita habiskan untuk online, semakin kita membenamkan diri dengan orang-orang yang berpikiran sama di dalam gelembung untuk belajar dan menginternalisasi bahasa dan norma komunikatif mereka.
Sulit untuk mengatakan apakah ada yang salah jika sebagian besar lingkaran sosial seseorang berkomunikasi dengan cara yang sama. Jika kita menjumpai seseorang yang berperilaku kasar, pikiran terakhir yang terlintas di benak kita adalah kemungkinan bahwa orang tersebut berasal dari budaya komunikatif yang berbeda.
Kata-kata dan gerak tubuh yang sama yang tampak sopan bagi budaya komunikatif satu gelembung, bisa tampak kasar bagi orang-orang dari gelembung lain, sehingga sangat mudah untuk salah paham dan salah menilai satu sama lain. Kekhawatirannya adalah masalah ini akan memburuk dengan anak-anak yang dibesarkan oleh AI. Anak-anak muda harus berjuang untuk memahami dan bekerja dengan orang lain.
Jika kita tidak berhati-hati, berisiko membesarkan generasi anak-anak dengan persepsi dunia yang sangat miring karena gelembung personal yang diciptakan AI di sekitar mereka. Untuk memiliki persepsi miring seperti itu pada tahap perkembangan kritis seperti itu, kita mungkin tidak dapat mengeluarkannya dari gelembungnya ketika mereka lebih tua.
Selain itu, tingkat interaksi yang dipersonalisasi dengan AI akan menciptakan gelembung yang sangat kecil sehingga anak-anak akan lebih sulit untuk mencoba berhubungan dan memahami orang lain, yang menyebabkan lebih banyak konflik, kesalahpahaman, dan ketidakpercayaan.
“Kita mungkin melihat masa depan di mana generasi anak-anak berikutnya mengalami kesepian dan keterasingan yang meningkat. Kita tidak dapat memiliki masyarakat yang fungsional jika orang tidak dapat berkomunikasi atau berkolaborasi satu sama lain,” katanya.
Ironisnya, kita membuat mesin lebih mirip manusia dengan melatih mereka berdasarkan budaya manusia, namun inti dari masalah ini adalah fragmentasi budaya kita bersama sebagai dasar dari apa artinya menjadi manusia dan manusiawi. Saat mempelajari budaya dan praktik komunikatif lainnya, anak-anak akan keluar dari gelembung untuk mengembangkan pemahaman, empati, dan kepercayaan pada orang lain. Anak-anak harus belajar bagaimana menjadi manusia bukan menjadi anak dari mesin AI.
