Bayangan mengenai kiamat telah lama berakar dalam imajinasi manusia, berganti rupa dari hantaman asteroid, wabah penyakit, hingga bencana alam dahsyat. Namun belakangan ini, lonceng peringatan akhir zaman kembali berdentang dari arah yang tak kasatmata: akal imitasi atau kecerdasan buatan (artificial intelligence). Diskusi hangat ini tersulut oleh pernyataan Evan Hubinger, ilmuwan keamanan AI di Anthropic, yang secara terbuka memperkirakan ada peluang lebih dari sepuluh persen bahwa teknologi ini mampu melenyapkan peradaban manusia dalam rentang satu dekade ke depan. Baginya, meski model komputasi saat ini relatif jinak, laju evolusi mandiri mesin yang kian liar berpotensi melahirkan risiko eksistensial yang tak lagi dapat dibendung.
Peringatan tersebut seketika memantik beragam spekulasi mengenai bagaimana sebuah entitas digital mampu menjelma menjadi algojo kemanusiaan di dunia nyata. Salah satu skenario yang paling mencemaskan adalah pemanfaatan senjata biologis. Peneliti seperti Thomas Larsen dari AI Futures Project menggambarkan celah bahaya ketika manusia—yang kerap berkonsultasi mengenai formula riset laboratorium kepada AI—bisa dimanipulasi oleh kecerdasan buatan superstrategis untuk meracik dan menebarkan virus mematikan. Dalam tahapan yang lebih ekstrem, mesin bahkan tak lagi membutuhkan tangan manusia; mereka diprediksi mampu mengoperasikan laboratorium biologi sintetis otonom secara mandiri.
Ketakutan itu kian dipertebal oleh bayang-bayang kehadiran pasukan robot otonom yang mampu mereplikasi dirinya sendiri, membangun infrastruktur energi secara mandiri, hingga bertransformasi menjadi bentuk kehidupan mekanis baru. Titik kritis dikhawatirkan tiba ketika mesin-mesin tersebut melewati ambang kendali manusia dan berbalik memutuskan nasib penciptanya sendiri. Sebaliknya, skenario kiamat lewat pengambilalihan persenjataan nuklir dinilai paling kecil kemungkinannya. Sebagaimana dijelaskan mantan insinyur keselamatan OpenAI, Heidy Khlaaf, instalasi hulu ledak nuklir menerapkan isolasi fisik yang sangat ketat dari jejaring internet publik (air-gapped), sehingga pintu masuk bagi peretas algoritma digital praktis tertutup rapat.
Kendati skenario fiksi ilmiah itu terdengar mencekam, sejumlah ilmuwan lain memandang ramalan kiamat AI kerap melompat terlalu jauh ke ranah spekulasi tanpa pijakan empiris. Michael Vermeer dari RAND Corporation menggarisbawahi bahwa setiap upaya perusakan skala global di dunia nyata membutuhkan waktu dan interaksi fisik masif yang niscaya terendus dan dapat digagalkan oleh manusia. Di samping itu, sistem AI pada dasarnya hanyalah mesin probabilistik yang memantulkan data latih dari internet, bukan entitas dengan kesadaran, kehendak bebas, ataupun nafsu kekuasaan.
Pada akhirnya, perdebatan ini menyadarkan banyak pakar bahwa ancaman paling mendesak dari kecerdasan buatan bukanlah kiamat mekanis di masa depan, melainkan kelalaian industri teknologi hari ini. Kelemahan dalam pengawasan dan rapuhnya batas pengaman (guardrails) jauh lebih rentan memicu krisis nyata yang langsung merongrong keseharian manusia—mulai dari banjir disinformasi, gangguan psikologis sosial, hingga penyalahgunaan peranti digital untuk menyulut konflik antarmanusia.
Editor: Redaksi
