NINNA.ID – Seiring dengan kemunculan ChatGPT, perkembangan pesat dalam kecerdasan buatan (AI) terus menjadi perhatian tahun ini. Bahkan perusahaan pakar AI mulai beralih ke hal baru yang dikenal dengan kecerdasan umum buatan atau artificial general intelligence (AGI).
Sejumlah pihak menyebut AGI sebagai sistem AI yang sama cerdasnya dengan manusia (bahkan lebih cerdas). Ini membuka peluang teknologi AI akan beralih ke AGI.
Yang menjadi tantangan adalah bagaimana jika terwujud dan terus berkembang, apakah kita perlu menghentikannya sebelum AGI mengambil alih dunia dari tangan manusia?
Apa itu AGI?
Sebelum menjadi kenyataan, dan AGI belum menjadi kenyataan, dan masih terdengar seperti fiksi ilmiah. Namun pada dasarnya, ini adalah konsep AI yang mencapai tingkat kecerdasan setara atau lebih tinggi dari manusia.
AGI diharapkan dapat memecahkan masalah dan melakukan hal-hal rumit sambil beradaptasi dengan lingkungannya serta meningkatkan pengetahuan dan keterampilan mereka sendiri.
Bahkan ada juga konsep artificial superintelligence (ASI), dengan sistem kemampuan intelektual yang jauh lebih besar daripada manusia.
Beberapa pakar berpendapat bahwa teknologi ini tidak akan tercapai, tapi yang lain bersemangat sekaligus khawatir tentang bagaimana teknologi ini dapat mengubah dunia.
“AGI awalnya hanya akan menjadi satu titik di sepanjang kontinum intelijen,” ujarnya. “Kemungkinan perkembangannya akan berlanjut dari sana.”
“Jika terwujud, dunia akan menjadi sangat berbeda, dan risikonya bisa luar biasa. AGI superintelijen yang tidak selaras dapat menyebabkan kerusakan parah pada dunia; rezim otokratis dengan pimpinan superintelijen yang menentukan juga bisa melakukannya,” jelas Sam Altman.
“Ada pakar AI yang menganggap risiko AGI adalah fiktif; kita senang jika ternyata dia benar, tapi kami akan tetap beroperasi seolah-olah risiko ini ada,” katanya.
Bulan lalu, co-founder OpenAI, Elon Musk, yang tidak lagi berafiliasi dengan perusahaan ini, mengatakan AGI telah membuatnya mengalami “kecemasan eksistensial”.
Tidak mengherankan, mengingat konsep AGI membuat para pakar mempertimbangkan potensi skenario negatif, seperti:
1. AGI bidang kesehatan bisa memutuskan tidak merawat lansia demi mengoptimalkan kesehatan penduduk usia muda
2. AGI bertugas menghasilkan uang yang dengan cepat menggantikan semua pekerja manusia, menyebabkan PHK massal
3. AGI yang dibuat oleh negara menggunakan kemampuannya untuk menghancurkan pertahanan dunia maya negara lain
4. AGI bidang pertahanan memutuskan menduduki suatu kota untuk membunuh target bernilai tinggi — terdengar seperti adegan film The Terminator
5. Bahkan ada yang memprediksi bahwa AGI dapat digunakan untuk memerintahkan prajurit manusia dalam perang.
Dalam sebuah makalah, Robert Sparrow dari Monash University dan Adam Henschke dari University of Twente menyebutkan karena skenario perang seperti itu mungkin terjadi, muncul kekhawatiran etis apakah AI harus diberi wewenang untuk mengirim manusia ke potensi kematian mereka.
“Akhirnya, mengejar kemenangan mungkin membutuhkan penyerahan komando ke mesin dan kemenangan dapat ditentukan oleh kekuatan mana yang memiliki AI yang lebih baik,” katanya.
Bagaimana mencegah AGI lepas kendali?
Profesor Paul Salmon dari Queensland’s University of the Sunshine Coast setuju bahwa AGI menimbulkan risiko eksistensial bagi manusia. Ia menyarankan kita bertindak sekarang agar siap untuk kedatangan AGI, meskipun beberapa dekade lagi.
“Jika kita baru mulai mengkhawatirkan AGI saat sudah muncul, itu sudah terlambat,” katanya.
“Kita perlu memahami bagaimana merancang AGI agar aman, etis, dan dapat digunakan. Bagaimana mengelola risiko dan bagaimana mengendalikannya,” ujar Prof Salmon.
Dalam posting blognya bulan lalu, Sam Altman dari OpenAI memaparkan rencana perusahaannya untuk pengembangan AGI.
Dia mengatakan OpenAI semakin berhati-hati dengan merilis model AI-nya saat AGI semakin dekat.
