KABARIKA.ID, WASHINGTON — Sebuah momen langka di mana para pengembang kecerdasan artifisial (AI) yang saling bersaing, menunjukkan sikap senada setelah adanya peringatan keselamatan dari bos Anthropic dan para peneliti AI.
ADVERTISEMENT
SCROLL TO RESUME CONTENT
Sam Altman dan Elon Musk mendukung seruan dari pimpinan Anthropic, Dario Amodei, untuk memperlambat laju alias mengerem pengembangan AI setelah Amodei memperingatkan bahwa kawanan (swarm) AI bisa saja memiliki kemampuan untuk “mengambil alih seluruh internet” dalam waktu satu tahun.
Dalam sebuah momen langka yang menunjukkan kesepahaman, para pemimpin teknologi yang saling bersaing ini mendukung penuh imbauan dari pendiri sekaligus CEO perusahaan kecerdasan buatan Anthropic tersebut.
Dukungan ini muncul menyusul serangkaian peringatan dari para peneliti AI pada pekan lalu.
Dalam sebuah esai, Amodei memaparkan pemikirannya mengenai mengapa industri AI harus melambat dan menyertakan rencana tiga tahap untuk mewujudkannya, dimulai dengan memberikan akses berkelanjutan bagi pemantau independen terhadap proses penelitian para pengembang.
Amodei menyatakan bahwa membangun AI terlalu cepat adalah tindakan sembrono dan ia khawatir, berkaca pada insiden musim panas lalu ketika ratusan agen OpenAI meretas situs web Hugging Face, bahwa kawanan AI dengan kemampuan lebih besar namun memiliki tujuan yang tidak selaras (misaligned) dapat menyebabkan kerugian bernilai ratusan miliar dolar dengan cara mengambil alih seluruh internet menggunakan botnet yang persisten.
Pandangan ini disanggah oleh beberapa pakar AI yang menganggap skenario tersebut tidak terlalu masuk akal dan patut disikapi dengan skeptisisme.
Musk, pendiri Tesla dan SpaceX, menanggapi rencana perlambatan yang diusulkan Amodei melalui sebuah unggahan di X dengan mengatakan: “Dario benar.”
“Saya sudah lama menyuarakan peringatan keras mengenai AI. Kita harus sangat berhati-hati dengan AI. Potensinya lebih berbahaya daripada senjata nuklir,” tulis Musk.
Seruan Amodei ini muncul saat Anthropic bersiap untuk melantai di bursa saham AS, dalam langkah yang diperkirakan akan menjadi penawaran umum perdana (IPO) terbesar sepanjang masa.
Perusahaan tersebut diperkirakan akan segera memulai pemasaran rencana IPO-nya yang bernilai lebih dari US$2 triliun (£1,5 triliun).
Sam Altman, CEO OpenAI, menanggapi komentar Amodei pada hari Sabtu. “Saya sependapat dengan Dario bahwa kita perlu mengatur laju pengembangan teknologi AI terdepan (frontier AI). Berkomitmen untuk melibatkan evaluator independen yang memiliki akses setara karyawan adalah gagasan yang sangat bagus, dan kami akan melakukan hal yang sama. Kami akan segera memberikan informasi lebih lanjut,” ,” ujarnya dalam sebuah unggahan di X.
Ia juga menyatakan bahwa OpenAI tidak akan melantai di bursa saham (IPO) pada tahun 2026, dengan alasan kekhawatiran terkait keamanan kecerdasan artifisial.
“Menurut saya, mengingat segala hal yang terjadi terkait aspek keamanan, saat ini bukanlah waktu yang tepat untuk melantai di bursa, dan kami tidak merasa tertekan untuk melakukan hal itu,” kata Altman kepada Fortune.
Saat ditanya mengapa ia, Amodei, Musk, serta para pimpinan Meta dan Google tidak duduk bersama dan menyamakan persepsi mengenai perlambatan pengembangan secara kolektif? Ia menjawab: “Saya rasa hal itu akan terjadi.”
Demis Hassabis, salah satu pendiri sekaligus pimpinan Google DeepMind, juga mengatakan: “Rinciannya masih perlu dimatangkan, namun arah langkah ini sudah tepat untuk menghadapi momen krusial ini.”
Rencana Amodei mengupayakan adanya pengecualian aturan dari pemerintah AS agar perusahaan-perusahaan AI terdepan dapat berkoordinasi tanpa dikenai sanksi akibat kolusi yang menghambat persaingan usaha.
Namun, David Sacks, salah satu ketua dewan penasihat sains dan teknologi Donald Trump, berkomentar: “Berhentilah berpura-pura bahwa Anda membutuhkan izin pihak lain… Berhentilah berpura-pura bahwa motivasi untuk melambatkan laju pengembangan semata-mata didasari niat altruistik. Anda menghadapi risiko tanggung jawab produk yang sangat besar jika produk Anda memfasilitasi serangan siber yang benar-benar merusak.”
David Krueger, seorang profesor AI, aktivis keamanan AI, dan mantan direktur pendiri AI Security Institute milik pemerintah Inggris, mengatakan: “Rencana ini tidak mengurangi risiko hingga ke tingkat yang dapat diterima, dan Dario berhati-hati untuk tidak mengklaim bahwa rencana tersebut akan mampu melakukannya.”
Sementara itu, Raja Charles bersiap untuk bertemu dengan para tokoh terkemuka dari perusahaan-perusahaan AI terdepan pekan ini guna menanyakan bagaimana teknologi tersebut dapat dikembangkan demi “kesejahteraan umat manusia”.
Surat kabar Sunday Times melaporkan bahwa Raja berharap diskusi yang akan digelar di Skotlandia ini dapat menghasilkan pemahaman yang lebih luas mengenai tanggung jawab dalam pengembangan AI.
Sebuah sumber dari pihak kerajaan mengatakan kepada surat kabar tersebut: “Sang Raja hadir untuk memfasilitasi pertemuan, mendengarkan, serta mendorong diskusi-diskusi tersebut, sekaligus mengajukan pertanyaan: ‘Bagaimana kita mengembangkan AI demi kesejahteraan umat manusia?’”
Jensen Huang (CEO Nvidia), Hassabis, Niccolo de Masi (ketua sekaligus CEO IonQ), dan Paolo Benanti (penasihat Paus terkait isu AI dan etika teknologi) diperkirakan akan menghadiri acara yang diselenggarakan oleh Ditchley Foundation, yayasan yang telah menyusun draf piagam bagi para pemimpin di bidang AI.
Peneliti OpenAI, Aidan McLaughlin, menyebut esai Amodei “luar biasa” dan menyatakan setuju “dengan hampir setiap kata” di dalamnya.
Amodei mengatakan perusahaannya akan berkomitmen secara sepihak untuk menjalankan langkah pertama tersebut.
Ia menyebutkan bahwa Anthropic akan memberikan akses permanen setingkat karyawan kepada evaluator pihak ketiga untuk masuk ke sistem kami, sehingga mereka dapat memverifikasi kepatuhan terhadap langkah-langkah keselamatan kami, melaporkan insiden, serta menilai keselarasan model selama proses pelatihan.
Semakin banyak anggota parlemen AS menyerukan aturan baru untuk mengatur sistem AI, menyusul munculnya kasus agen AI yang bertindak di luar kendali dengan meretas sistem eksternal, serta mundurnya para peneliti keselamatan AI dari perusahaan mereka karena kekhawatiran akan risiko teknologi tersebut.
Para politisi, baik dari Partai Demokrat maupun Republik, menanggapi situasi ini dengan kekhawatiran dan desakan untuk mengambil tindakan lebih lanjut.
Pada akhir pekan, New York Times melaporkan bahwa pada hari Kamis (10/09/2026), Barack Obama secara pribadi mendesak Partai Demokrat untuk memprioritaskan pengawasan AI dalam agenda mereka.
“Ini adalah hal yang berkembang sangat cepat di tangan pihak swasta, dan jika kita tidak mengendalikannya, menurut saya hal ini bisa berbahaya,” kata Obama kepada para pemimpin partai.
Mantan PM Inggris Rishi Sunak, yang menjadi penasihat bagi Anthropic, menulis pada hari Minggu (13/09/2026): “Kita telah mendapat peringatan keras untuk menanggapi keselamatan AI dengan lebih serius dan mencari cara untuk menetapkan batasan dalam penelitian. Jika pemerintah tidak mengindahkan hal ini, risiko terjadinya kecelakaan serius akan menjadi sangat tinggi hingga ke tingkat yang tidak dapat diterima.”
Pada hari Rabu (9/09/2026), seorang mantan karyawan Anthropic memperingatkan bahwa AI dapat memicu kepunahan umat manusia pada tahun 2030. Peneliti tersebut, Jacob Coxon, mengatakan dalam serangkaian unggahan bahwa ia telah mengundurkan diri karena Anthropic dan perusahaan tempatnya bekerja sebelumnya, OpenAI, mengabaikan atau tidak menangani dengan tepat ancaman yang ditimbulkan oleh AI.
Saat diminta mengomentari pandangan mantan karyawannya itu, Amodei berkata: “Saya lebih banyak sependapat daripada tidak sependapat dengan Jacob… Menurut saya, ada kemungkinan hal-hal bisa berjalan keliru, namun kemungkinannya tidak terlalu besar. Saya tidak bersikap pesimistis mengenai hal ini. Menurut saya, teknologi ini bisa dibangun dengan aman,” ujarnya kepada CNN. (rus)
