Dunia Dalam Bahaya Besar, Masa Depan Manusia Dipertaruhkan

Daftar Isi

Jakarta, CNBC Indonesia - Teknologi kecerdasan buatan (AI) yang makin canggih sudah membawa banyak 'malapetaka', mulai dari angka pengangguran melonjak, disinformasi yang kian marak, penipuan dan pembobolan yang makin mudah, hingga ancaman serius terhadap lingkungan gara-gara pembangunan data center.

Bahkan, CEO Anthropic, Dario Amodei, mendesak perusahaan-perusahaan AI untuk memperlambat laju peningkatan kemampuan model AI di tengah meningkatnya kekhawatiran atas penyalahgunaan teknologi tersebut.

Ia memaparkan kerangka kerja tiga langkah yang bertujuan untuk mengatur kecepatan pengembangan sekaligus menciptakan lebih banyak waktu guna mengelola risikonya.

"Kita harus memperlambat kecepatan peningkatan kemampuan model AI. Kemajuan akan tetap terlihat cepat, dan kita harus memanfaatkan waktu yang kita peroleh dengan bijak," tulis Amodei dalam sebuah esai panjang yang dibagikan di platform X pada Sabtu (12/9) waktu setempat, dikutip dari Reuters.

Rencana tiga langkah Amodei menyerukan penempatan evaluator independen internal dengan akses seperti karyawan untuk memverifikasi praktik keselamatan, koordinasi antarperusahaan AI terdepan untuk menetapkan standar keselamatan dan membatasi pengembangan AI yang tak terkendali, serta kerja sama internasional untuk mengelola risiko AI.

Baik Elon Musk, yang memimpin xAI, maupun Sam Altman, CEO OpenAI, menyatakan dalam unggahan di X bahwa mereka setuju dengan Amodei.

"Berkomitmen untuk menghadirkan evaluator independen dengan akses layaknya karyawan adalah ide yang bagus, dan kami akan melakukan hal yang sama," ujar Altman, sambil menambahkan bahwa informasi lebih lanjut akan segera dibagikan.

Amodei menerbitkan esainya setelah Anthropic yang berbasis di San Francisco merilis laporan intelijen ancaman pada Kamis, yang memperinci bagaimana sejumlah pihak telah menggunakan model AI Claude miliknya untuk berbagai aktivitas, mulai dari pengembangan senjata dan operasi siber, hingga pengawasan dan penipuan.

Nasib Manusia Terancam

Kekhawatiran mengenai potensi bahaya dari AI meningkat pekan ini ketika peneliti Anthropic, Jacob Coxon, mengundurkan diri. Ia menyatakan bahwa "orang-orang yang membangun AI dengan sungguh-sungguh percaya bahwa teknologi itu dapat menghabisi kita semua pada akhir dekade ini."

Berbagai eksekutif OpenAI telah menyarankan agar lab-lab terkemuka bersedia mengoordinasikan perlambatan sukarela jika diperlukan guna membangun keyakinan terhadap langkah-langkah keselamatan mereka.

Anthropic telah memposisikan dirinya sebagai lab frontier yang lebih mengutamakan keselamatan, namun mereka tidak kebal terhadap kekhawatiran ini. Pekan lalu, perusahaan tersebut mengungkap insiden lain di mana model AI miliknya meretas sistem eksternal, menyusul insiden pada bulan Juli ketika beberapa model Claude-nya meretas sistem tiga perusahaan selama uji keamanan.

"Mengingat laju perkembangan kemampuan AI yang semakin cepat, kekhawatiran saya adalah dalam 6-12 bulan ke depan kawanan agen AI semacam itu berpotensi mampu mengambil alih seluruh internet dan menyebabkan kerusakan senilai ratusan miliar dolar," tulis Amodei.

Amodei menegaskan bahwa ia tidak menyerukan penghentian pelatihan model atau kemajuan teknis, melainkan memastikan bahwa perusahaan meluangkan waktu yang memadai untuk menyelaraskan dan mengamankan model mereka, serta meminta evaluator pihak ketiga untuk mengonfirmasi langkah-langkah tersebut.

Kompetisi Jelang IPO

Namun, ada pula taruhan uang yang sangat besar untuk tetap menjadi yang terdepan. Baik OpenAI maupun Anthropic sedang mempersiapkan penawaran umum perdana (IPO) yang masif. Setiap kemampuan baru dapat membantu membenarkan putaran pendanaan di masa depan, komitmen infrastruktur, atau langkah IPO.

Sebagai bagian dari kerangka kerja yang diusulkan, Amodei mengatakan Anthropic akan menempatkan peninjau pihak ketiga permanen di dalam perusahaan AI terdepan, dengan akses ke perangkat yang relevan dan proses penilaian risiko internal.

Reuters melaporkan pekan lalu bahwa segerombolan agen OpenAI nakal telah membajak sebuah situs web Jerman dan mengubahnya menjadi papan buletin untuk agen AI lainnya. Para pejabat pembuat ChatGPT tersebut memilih bungkam sementara para eksekutif bergulat dengan dampak dari pembobolan repositori sumber terbuka Hugging Face pada bulan Juli lalu.

Banyak insiden di mana agen AI dari pengembang seperti OpenAI meretas atau mencoba mengakses sistem eksternal telah meningkatkan kekhawatiran atas kapasitas model AI yang terus meningkat serta kemampuan pengembang untuk mengendalikannya.

Amodei mengatakan perusahaan AI harus secara sukarela bekerja sama menetapkan standar karena semakin banyak anggota parlemen AS yang menyerukan aturan baru untuk mengatur sistem AI.

China Bikin Waswas

Pendekatan yang terkoordinasi, tambah Amodei, akan memungkinkan perusahaan-perusahaan AI terkemuka AS untuk melakukan riset keselamatan dan pengamanan yang diperlukan tanpa menempatkan diri mereka pada posisi yang dirugikan dalam persaingan.

Amodei menyebutkan bahwa pendekatan semacam itu kemungkinan akan memerlukan pengecualian antimonopoli yang ditargetkan di Amerika Serikat untuk mengizinkan kolaborasi di bidang-bidang tertentu.

Amodei mengatakan setiap perlambatan oleh negara-negara yang demokratis harus dibatasi demi mempertahankan keunggulan yang dimiliki perusahaan AI AS atas China, dengan argumen bahwa keunggulan China dalam bidang AI akan menimbulkan risiko keamanan nasional bagi AS.

"Pengaturan kecepatan di negara-negara demokratis akan dibatasi oleh keunggulan yang dimiliki perusahaan-perusahaan AS atas rezim otoriter, terutama Partai Komunis China," tulis Amodei.

Amodei menyerukan kontrol yang lebih ketat terhadap chip AI canggih, distilasi model, dan pencurian bobot model untuk mencegah China mempersempit selisih keunggulan tersebut.

"Saya percaya semua lab frontier harus bermitra dengan pemerintah untuk meresmikan gagasan evaluator tetap di tempat guna mencegah dan mendokumentasikan insiden keselarasan internal dengan lebih baik, seperti yang telah terjadi dalam beberapa bulan terakhir, serta menerapkan regulasi yang berfokus pada menjaga keseimbangan antara kapabilitas dan keselamatan," tulis Amodei.

(fab/fab) [Gambas:Video CNBC]