Ilustrasi.
JAKARTA – Ratusan tokoh dari berbagai latar belakang, mulai dari selebriti, politikus, hingga pemimpin perusahaan dan ilmuwan teknologi, telah menandatangani pernyataan untuk melarang pengembangan apa yang disebut dengan kecerdasan buatan (AI) super atau superintelijen. Pernyataan ini menegaskan kekhawatiran akan potensi dampak buruk AI yang mungkin menjadi akhir dari umat manusia.
Apa Itu Superintelligence AI?
"Superintelligence" atau yang diartikan sebagai “Kecerdasan Super”, dalam konteks ini berarti sistem buatan yang mampu mengungguli manusia dalam hampir semua tugas kognitif, termasuk pembelajaran, penalaran, perencanaan, dan kreativitas. Ini termasuk mempelajari tugas-tugas baru, bernalar tentang masalah kompleks, merencanakan jangka panjang, dan menjadi kreatif, melampaui sistem "AI sempit" saat ini.
Para ahli sering menggunakan istilah ini bersama dengan Kecerdasan Umum Buatan (AGI), sebuah sistem yang mampu memahami atau mempelajari tugas intelektual apa pun yang dapat dilakukan manusia. Superintelijen adalah langkah selanjutnya, di mana sistem tersebut secara signifikan melampaui kemampuan manusia.
Namun, risiko yang terkait dengan superintelijen mencakup kemungkinan operator manusia kehilangan kendali, sistem yang memperbaiki diri sendiri bertindak dengan cara tidak dapat diprediksi manusia, dan jika mekanisme keselamatan gagal, konsekuensinya bahkan dapat bersifat eksistensial.
