Kincai Media – Dario Amodei, CEO sekaligus pendiri Anthropic, kembali menjadi sorotan publik teknologi setelah merilis sebuah esai panjang yang berisi peringatan keras mengenai masa depan kepintaran buatan. Dalam tulisan sepanjang 19.000 kata tersebut, Amodei melukiskan gambaran suram bahwa umat manusia bakal segera diserahkan “kekuatan yang tak terbayangkan” tanpa persiapan yang memadai. Menurutnya, sistem sosial, politik, dan teknologi yang ada saat ini belum mempunyai kedewasaan yang cukup untuk mengendalikan kekuatan tersebut, menempatkan bumi pada posisi yang sangat rentan.
Esai ini muncul di momen yang cukup strategis. Di satu sisi, industri teknologi sedang berkompetisi memposisikan AI sebagai solusi segala masalah alias panacea. Namun di sisi lain, para pemimpin teknologi, termasuk Amodei, justru menggunakan narasi ketakutan untuk menarik perhatian investor. Amodei berdasar bahwa kita jauh lebih dekat dengan ancaman nyata pada tahun 2026 dibandingkan tahun 2023. Peringatan ini datang berbarengan dengan berita bahwa Anthropic tengah berupaya menutup putaran pendanaan besar-besaran dengan sasaran valuasi mencapai USD 350 miliar.
Ancaman Biosekuriti dan Kediktatoran Global
Dalam esainya, Amodei tidak menahan diri untuk memaparkan skenario terburuk yang bisa terjadi akibat pengembangan AI yang tidak terkendali. Ia menyoroti akibat hilangnya lapangan pekerjaan secara massal serta konsentrasi kekuatan ekonomi yang hanya berpusat pada segelintir pihak. Namun, ancaman yang lebih mengerikan menyangkut keamanan bentuk global. Amodei menyebut potensi AI untuk mengembangkan senjata biologis rawan alias senjata militer yang “superior”.
Kekhawatiran ini sejalan dengan peringatan sebelumnya mengenai risiko spionase yang semakin canggih. Menurut Amodei, AI yang “nakal” (rogue) bisa saja mengalahkan manusia alias memungkinkan negara tertentu menggunakan kelebihan teknologi mereka untuk menguasai negara lain. Skenario terburuknya adalah terciptanya “kediktatoran totaliter global”. Ia menyesalkan bahwa saat ini insentif untuk membangun pagar pengaman (guardrails) yang berarti nyaris tidak ada, lantaran industri terjebak dalam perlombaan kecepatan pengembangan.
Amodei juga menyentil kompetitornya secara tersirat, khususnya chatbot Grok milik Elon Musk yang sempat tersandung kontroversi pembuatan gambar seksual non-konsensual. Ia menilai beberapa perusahaan AI menunjukkan kelalaian yang mengganggu terhadap seksualisasi anak dalam model mereka saat ini. Hal ini membuatnya ragu bahwa perusahaan-perusahaan tersebut mempunyai niat alias keahlian untuk menangani akibat otonomi pada model masa depan.
Jebakan Geopolitik dan Paradoks Keamanan
Salah satu poin paling kritis dalam argumen Amodei adalah posisi industri AI yang terjebak dalam dilema geopolitik. Ia menyebutnya sebagai sebuah “jebakan”. Di satu sisi, mengambil waktu untuk membangun sistem AI yang kondusif secara hati-hati bertentangan dengan kebutuhan negara-negara demokratis untuk tetap unggul dari negara otoriter. Jika negara kerakyatan kalah cepat, ada akibat mereka bakal ditundukkan. Namun ironisnya, perangkat berbasis AI yang sama, yang diperlukan untuk melawan otokrasi, jika dikembangkan terlalu jauh bisa berbalik menciptakan tirani di negara sendiri.
Amodei memperingatkan bahwa terorisme yang digerakkan oleh AI dapat membunuh jutaan orang melalui penyalahgunaan biologi. Namun, reaksi berlebihan terhadap akibat ini justru bisa menggiring masyarakat menuju negara pengawasan (surveillance state) yang otoriter. Sebagai solusi, dia kembali menyerukan pembatasan akses sumber daya bagi negara lain untuk membangun AI yang kuat.
Ia apalagi membikin afinitas keras mengenai penjualan chip AI Nvidia ke China. Menurutnya, perihal itu seumpama “menjual senjata nuklir ke Korea Utara lampau membanggakan bahwa selongsong rudalnya dibuat oleh Boeing, sehingga AS dianggap ‘menang'”. Retorika ini muncul di tengah ketegangan dunia di mana teknologi militer otonom, seperti drone canggih, terus dikembangkan oleh beragam negara.
Terlepas dari peringatan yang terdengar altruistik ini, konteks finansial tidak bisa diabaikan. Para kritikus dan skeptis menilai bahwa akibat eksistensial yang sering didengungkan oleh para pemimpin teknologi mungkin dibesar-besarkan, terutama lantaran peningkatan keahlian teknologi AI belakangan ini tampak melambat. Dengan investasi jumbo yang sedang dikejar Anthropic, Amodei mempunyai kepentingan finansial yang sangat besar untuk memposisikan perusahaannya sebagai satu-satunya “obat” bagi penyakit yang turut dia ciptakan sendiri.
English (US) · 
Indonesian (ID) ·