“Kalau kau tidak peduli (terhadap AI), sebaiknya kau peduli!”
Artificial Intelligence (AI) atau Kecerdasan Buatan menjadi topik panas akhir-akhir ini, khususnya untuk orang-orang yang punya ketertarikan. Bagi sebagian orang, Artificial Intelligence mungkin topik yang tergolong berat, sehingga tidak semua orang paham mengapa AI harus dikhawatirkan.
Oh, saya termasuk yang ikut khawatir dengan AI, karena—jika tidak dikendalikan dengan benar—AI adalah ancaman yang sangat nyata bagi umat manusia di masa depan. Dalam hal ini, saya setuju dengan Elon Musk yang terus menerus menegaskan, “Kalau kau tidak peduli (terhadap AI), sebaiknya kau peduli!”
Pada 2015 lalu, misalnya, di hadapan mahasiswa the Massachusetts Institute of Technology (MIT), Elon Musk membicarakan soal AI, dan terang-terangan menyatakan bahwa AI merupakan "ancaman eksistensial terbesar" manusia. Karena itu pula, belakangan, dia bersama 100 tokoh/ilmuwan lain menyusun petisi untuk mendesak PBB agar mengambil aksi terhadap bahaya AI.
Kenapa kita harus mengkhawatirkan AI?
Bagi yang masih bingung apa itu AI, silakan cari sendiri informasinya, karena ada banyak situs yang telah menjelaskan secara lengkap apa itu AI.
Catatan ini tidak akan menjelaskan apa itu AI, namun lebih pada alasan mengapa kita perlu mengkhawatirkan AI. Meski saya sudah berupaya menulis catatan ini sesederhana mungkin, sehingga bisa dipahami siapa pun, namun ada kemungkinan beberapa uraian dalam catatan ini cukup rumit. Karenanya, baca saja perlahan-lahan.
Pertama, mari kita lihat diri sendiri. Sebagai manusia, kita melalui proses yang panjang untuk tumbuh dan mengerti banyak hal. Setiap orang harus melewati fase demi fase, dari bayi, anak-anak, remaja, dewasa, lalu tua, dan proses itu membutuhkan waktu bertahun-tahun. Perjalanan seseorang dari bayi menjadi orang tua, bahkan membutuhkan waktu puluhan tahun.
Seiring perkembangan fisik yang kita alami, kita juga mengalami perkembangan nalar dan pikiran. Saat masih bayi, kita belum tahu apa-apa. Saat menjadi anak-anak, kita mulai tahu hal-hal tertentu, khususnya di sekitar kita, meski secara terbatas. Lalu pengetahuan kita bertambah saat remaja, dan terus bertambah ketika dewasa. Pada saat usia tua, kita pun telah mengumpulkan banyak pengetahuan yang kita serap selama puluhan tahun.
Berdasarkan ilustrasi itu, kita melihat bahwa manusia membutuhkan “evolusi” untuk mendapatkan pengetahuan, yang tergantung pada tingkat nalar. Saat TK, kita hanya bisa memahami hal-hal yang sesuai otak anak TK. Lalu meningkat saat SD, SMP, dan seterusnya. Otak kita tidak bisa serta-merta mencerna hal-hal berat yang ditujukan untuk anak SMA, jika waktu itu kita masih TK. Artinya, kita butuh proses, dan proses itu bisa sangat lama.
Selain itu, manusia juga mengalami perubahan fisik. Orang yang sangat kuat pada waktu muda, akan mulai lemah saat memasuki usia tua. Itu hal alami yang terjadi pada semua orang, sehingga tidak perlu dibantah. Pada akhirnya, seiring tubuh yang kian lemah, setiap manusia akan mati. Ketika manusia mati, berakhir pula semua yang ia ketahui saat masih hidup. Dalam hal itu, sebagian orang mewariskan pengetahuan yang mereka miliki—biasanya secara tertulis—sehingga bisa diwarisi generasi selanjutnya.
Karena generasi selanjutnya mendapatkan warisan pengetahuan dari generasi sebelumnya, generasi yang baru pun bisa diharapkan lebih pintar dari generasi terdahulu. Dan kenyataannya memang begitu. Fakta bahwa kita hari ini mengenal internet, sementara kakek-nenek kita tidak mengenal, adalah salah satu bukti mencolok bahwa generasi kita jauh lebih pintar dibanding generasi zaman dulu (setidaknya generasi zaman kakek-nenek).
Kita lihat...? Manusia membutuhkan proses untuk segala sesuatu. Dari pertumbuhan fisik sampai pertumbuhan nalar dan pengetahuan, kita semua membutuhkan proses. Dan proses itu bisa memakan waktu puluhan tahun. Bahkan untuk hal “sepele” seperti bermain catur pun, kita membutuhkan proses pembelajaran, yang bisa jadi cukup lama. Tidak ada manusia yang ujug-ujug lahir, lalu bisa bermain catur.
Kini, di zaman kita, anggap saja manusia telah mencapai puncak kecerdasan. Manusia di zaman sekarang bisa dibilang seratus kali lebih cerdas dibanding manusia yang hidup seratus tahun lalu. Karena kecerdasan luar biasa pula, manusia di zaman kita bisa menciptakan sesuatu yang disebut Kecerdasan Buatan atau Artificial Intelligence, yaitu entitas kecerdasan mirip manusia, tapi dibuat manusia, dan di luar manusia.
Sampai di sini, kita sampai pada pertanyaan yang sangat penting.
Jika manusia bisa menciptakan kecerdasan lain mirip dirinya, mungkinkah manusia akan puas menciptakan kecerdasan yang lebih rendah darinya?
Jawabannya jelas, tidak!
Karena, buat apa repot-repot menciptakan kecerdasan buatan, kalau kecerdasan itu tidak berguna? Agar kecerdasan buatan bisa berguna, ia harus secerdas manusia penciptanya, atau bahkan harus lebih cerdas dari manusia penciptanya. Karena tujuan menciptakan kecerdasan buatan adalah untuk “mengalihkan” banyak hal kepadanya, sehingga manusia bisa terbebas dari proses!
Inilah asal usul mengapa manusia sampai menciptakan kecerdasan buatan—sesuatu yang mungkin tak terpikirkan banyak orang. Ketika suatu entitas kecerdasan menciptakan entitas kecerdasan lain, entitas buatan akan dirancang lebih cerdas dari sang pembuat. Karena tujuannya memang untuk “memangkas” proses!
Jika kalimat itu masih sulit dipahami, silakan tonton film seri Iron Man sekali lagi. Dalam serial Iron Man, kita tahu Tony Stark punya kecerdasan buatan yang ia namai Jarvis, dan kecerdasan buatan itu pula yang membantu Tony Stark pada banyak hal, termasuk merancang kecerdasan buatan lain (Ultron) yang lalu muncul dalam film The Avengers 2.
Perhatikan fakta penting berikut ini.
Jarvis diciptakan oleh Tony Stark. Secara logika, Tony Stark tentu lebih cerdas dari Jarvis, karena ia yang menciptakan Jarvis, karena Jarvis hanya kecerdasan buatan yang dirancang oleh Tony Stark. Pencipta pasti lebih hebat dibanding barang ciptaannya, kan?
Salah!
Ketika entitas kecerdasan menciptakan entitas kecerdasan lain, justru entitas buatan yang akan lebih cerdas dari entitas penciptanya!
Faktanya memang Tony Stark yang menciptakan Jarvis. Tetapi, sebenarnya, Jarvis lebih cerdas dari Tony Stark. Dalam ilustrasi yang mudah, Tony Stark—tak peduli dia secerdas apa pun—harus melalui proses sebagaimana layaknya manusia. Artinya, dia membutuhkan waktu berpuluh-puluh tahun untuk mengumpulkan semua pengetahuan yang menjadikannya cerdas.
Berbeda dengan Jarvis. Sebagai kecerdasan buatan, dia tidak membutuhkan proses lama seperti Tony Stark, atau manusia umumnya, dalam menyerap pengetahuan apa pun.
Sebagai kecerdasan buatan, Jarvis bisa mempelajari banyak pengetahuan dalam waktu jauh lebih singkat, dalam durasi jam, menit, atau bahkan detik! Jarvis tidak butuh proses bertahun-tahun. Cukup sodorkan sesuatu kepadanya, dan dia akan langsung memahami. Bahkan, jika manusia bisa lupa, Jarvis tidak pernah lupa!
Did you see that?
Ketika entitas kecerdasan menciptakan entitas kecerdasan lain, entitas buatan akan lebih cerdas dari kecerdasan pembuatnya... dan itulah akar motivasi manusia menciptakan kecerdasan buatan. Untuk memangkas proses.
Dengan memiliki Jarvis, Tony Stark tidak perlu mempelajari banyak hal yang akan butuh waktu sangat lama, karena hal-hal tertentu yang rumit dan sangat teknis bisa diserahkan kepada Jarvis. Tony Stark tinggal menikmati hasilnya. Dia cukup bertanya, dan Jarvis akan menjawab.
Sekarang kita masuk pada topik inti, mengapa kecerdasan buatan atau AI patut dikhawatirkan.
Ingat kembali fakta tadi. Ketika entitas kecerdasan menciptakan entitas kecerdasan lain, entitas buatan akan lebih cerdas dari kecerdasan pembuatnya.
Sekarang bayangkan saja, saat ini manusia menciptakan kecerdasan buatan. Sebut saja AI-1. Dengan kecerdasan buatan tersebut, manusia bisa menjalankan banyak hal tanpa perlu repot-repot, karena AI-1 lebih cerdas dari manusia, dan bisa mengerjakan banyak hal.
Seiring perkembangan, dan seiring tantangan modernisasi teknologi yang kian rumit, tingkat kecerdasan AI-1 mulai kewalahan dalam menghadapi masalah. Sampai di situ, AI-1 yang cerdas lalu berpikir, “Apa salahnya kalau aku menciptakan kecerdasan buatan?”
Itu pikiran yang sama dengan manusia, ketika manusia pertama kali menciptakan kecerdasan buatan. Manusia menciptakan kecerdasan buatan, karena berharap bisa menyelesaikan banyak hal dengan lebih mudah dan lebih cepat. Dalam satu titik tertentu, kecerdasan buatan juga bisa berpikir seperti itu—mereka ingin menyelesaikan sesuatu dengan lebih mudah dan lebih cepat. Maka, AI-1—yang merupakan kecerdasan buatan manusia—kemudian menciptakan kecerdasan buatan lain. Sebut saja AI-2.
Jika hal itu telah terjadi, dunia akan mengalami lompatan teknologi yang tak bisa lagi dibayangkan apalagi diperkirakan. Segala hal bisa terjadi... baik maupun buruk. Ketika sebuah kecerdasan buatan telah menciptakan kecerdasan buatan lain, nasib umat manusia benar-benar akan sampai di titik nadir.
Sekarang kita kembali ke awal. Ketika manusia menciptakan kecerdasan buatan, bagaimana pun manusia tetap berpikir untuk bisa mengendalikan kecerdasan buatan tersebut. Hal itu dilatari kenyataan bahwa manusia adalah makhluk biologis, yang tidak hanya memiliki otak untuk berpikir, namun juga memiliki standar moral. Karenanya, manusia akan memastikan kecerdasan buatannya tidak akan sampai berbalik melawan manusia.
Tetapi... kecerdasan buatan tidak akan berpikir seperti itu!
Ketika kecerdasan buatan telah mampu menciptakan kecerdasan buatan lain, mereka tidak berpikir sebagaimana manusia, karena mereka bukan makhluk biologis, dan—tentu saja—tidak memahami (atau tidak peduli) standar moral.
Ketika kecerdasan buatan AI-1 menciptakan AI-2, hampir bisa dipastikan AI-2 akan lebih cerdas dari AI-1. Dan AI-1 tidak akan peduli bagaimana nasib dirinya terkait hal itu, karena—sebagai kecerdasan buatan—tugasnya hanya melakukan yang harus dilakukan. Lalu, ketika AI-2 telah tercipta, selalu ada kemungkinan AI-2 akan menciptakan kecerdasan buatan lain, sebut saja AI-3. Dan begitu seterusnya.
Karena sangat cerdas dan tidak dihambat faktor biologis, AI-1 dan seterusnya tidak butuh waktu lama sebagaimana manusia ketika menciptakan kecerdasan buatan pertama kali. Dan ketika kenyataan semacam itu benar-benar terjadi, maka umat manusia—cepat atau lambat—akan berhadapan dengan kecerdasan buatan yang memiliki kecerdasan jutaan kali lipat dari kecerdasan manusia mana pun. Sosok itu, sebut saja, AI-100.
Sekarang pikirkan... apa yang kira-kira akan dilakukan kecerdasan luar biasa semacam itu terhadap umat manusia? Jika AI-100, yang memiliki kecerdaan jutaan kali lipat dibanding manusia mana pun, berhadap-hadapan dengan umat manusia... apa yang kira-kira akan dilakukannya?
Ketika manusia berhadapan dengan kecerdasan AI-100, ada banyak masalah yang patut dikhawatirkan. Pertama, manusia kalah cerdas. Kedua, manusia bisa sakit dan mati. Ketiga, manusia punya rasa takut dan khawatir. Daftar ini bisa dilanjutkan, yang semuanya merupakan kelemahan umat manusia—sesuatu yang tidak dimiliki AI-100. Sebagai kecerdasan buatan, AI-100 tidak punya rasa takut dan khawatir, tidak sakit dan mati, dan—di atas segalanya—dia jutaan kali lebih cerdas dari kita.
Bayangan semacam itu mengingatkan kita pada analogi “semut dan sepatu bot” yang dibicarakan Loki dan Nick Fury dalam film The Avengers. Kita adalah “semut”—kecil, tak berdaya. Sementara AI-100 adalah “sepatu bot”—luar biasa cerdas dan berkuasa. Dan sebagaimana manusia yang punya kecenderungan menindas yang lemah, selalu ada kemungkinan hal sama terjadi ketika manusia ada di pihak lemah.
Kenyataan semacam itulah yang dikhawatirkan Elon Musk dan orang-orang lain, hingga mereka sampai mengirim petisi kepada PBB agar ikut turun tangan dalam mengendalikan AI yang saat ini terus dikembangkan. Sebagian manusia, saat ini, telah mengalami “lupa diri” dan terlena pada kehebatan teknologi, hingga mereka mungkin tak sempat memikirkan dampaknya di masa depan.
Memang, AI yang ada saat ini—secanggih apa pun—masih dalam tahap “primitif”, dalam arti masih ada di bawah kendali manusia. Tetapi, bukankah manusia juga mengalami hal serupa? Manusia pernah mengalami peradaban primitif, merasa dikendalikan oleh “hal-hal di luar mereka”, sampai kemudian menemukan kecerdasannya sendiri... hingga akhirnya mampu menciptakan kecerdasan buatan di luar dirinya. Tidakkah hal serupa juga akan terjadi pada AI?
Selain Elon Musk, ilmuwan lain yang ikut mengkhawatirkan hal ini adalah Stephen Hawking. Dia menggarisbawahi bahwa teknologi primitif AI yang digunakan saat ini sudah sangat berguna bagi manusia, namun ia takut terhadap konsekuensi menciptakan sesuatu yang dapat bersaing atau bahkan melebihi kemampuan manusia.
Hawking menyatakan, “AI akan dapat berjalan sendiri, dan mendesain ulang dirinya sendiri pada tingkatan yang semakin meningkat. Manusia, yang dibatasi oleh evolusi biologis yang lambat, tidak bisa bersaing, dan akan digantikan."
Jadi, jika yang dikhawatirkan Elon Musk dan Stephen Hawking—serta para ilmuwan lain—benar-benar menjadi kenyataan, maka akan tiba suatu masa ketika umat manusia harus berhadap-hadapan dengan kecerdasan buatan, yang jutaan kali lebih cerdas dibanding kecerdasan manusia mana pun. Dan jika benar-benar terjadi, umat manusia di zaman itu mungkin akan bertanya-tanya... di manakah Tuhan sebenarnya?
