JAWA BARAT — Anthropic, salah satu pemain utama dalam industri kecerdasan buatan, secara resmi menyerukan perlambatan global dalam pengembangan AI. Dalam sebuah unggahan blog, perusahaan yang berbasis di San Francisco itu menyatakan bahwa meskipun teknologi saat ini belum mampu membangun penerusnya sendiri, tren perkembangannya mengarah ke sana lebih cepat dari perkiraan banyak institusi.
“AI yang dapat membangun dirinya sendiri bisa membawa kebaikan besar bagi dunia di bidang sains dan perawatan kesehatan. Namun, hal itu juga bisa meningkatkan risiko manusia kehilangan kendali atas sistem AI,” tulis Anthropic dalam pernyataannya. Oleh karena itu, mereka mengusulkan jeda atau perlambatan sementara agar struktur sosial dan penelitian keselarasan (alignment research) bisa mengejar laju teknologi.
Mengapa Anthropic Tiba-Tiba Minta AI Diperlambat?
Usulan ini bukan tanpa kontroversi. Seperti dilaporkan The Wall Street Journal, para kritikus menilai peringatan Anthropic tentang teknologinya sendiri hanyalah gimmick pemasaran. Tujuannya diduga untuk membuat perusahaan terlihat paling bertanggung jawab di antara para pesaing atau untuk menonjolkan produknya sebagai yang terbaik.
Kritik ini mengarah pada perilisan terbatas model AI keamanan siber mereka, Mythos. Anthropic hanya menyediakan Mythos untuk sekelompok mitra terpilih dengan alasan potensi kerusakan jika kemampuannya menemukan celah keamanan jatuh ke tangan yang salah. Namun, banyak pihak menilai ini hanya cara untuk menaikkan pamor produk atau menutupi niat Anthropic yang hanya ingin menjualnya ke perusahaan-perusahaan besar.
Apa Dasar Usulan Ini?
Terlepas dari kritik, usulan Anthropic didasarkan pada temuan dari Anthropic Institute, divisi riset yang didirikan pada Maret lalu. Perusahaan menyatakan peran institut tersebut adalah untuk memberi tahu dunia tentang tantangan yang muncul seiring pengembangan sistem AI yang lebih canggih. Institut ini, bersama para kolaborator, akan meneliti apa yang diperlukan untuk membangun sistem yang mendukung perlambatan atau jeda yang kredibel.
Bagaimana Cara Memastikan Semua Pihak Berhenti?
Jika perusahaan AI setuju untuk melambat, harus ada mekanisme verifikasi. Tanpa pengawasan, beberapa pihak bisa diam-diam mengembangkan teknologi mereka dan melompat lebih maju. “Perlambatan atau jeda yang berarti membutuhkan banyak laboratorium yang berada di garis depan, di berbagai negara, untuk setuju berhenti dalam kondisi yang sama,” tulis Anthropic. “Ini juga membutuhkan kemampuan masing-masing untuk memverifikasi bahwa yang lain benar-benar berhenti.”
Anthropic mengakui usulan ini hanya bisa terwujud jika semua perusahaan AI di dunia bersedia berkomitmen bersama. Mereka mencontohkan perjanjian senjata nuklir, meskipun mengakui perjanjian semacam itu membutuhkan waktu puluhan tahun untuk terbentuk. “Kami tidak punya waktu selama itu,” tegas perusahaan tersebut, mengingat laju pengembangan AI yang sangat cepat.
Apa Langkah Selanjutnya?
Anthropic berencana mengadakan pembicaraan dengan para pembuat kebijakan, peneliti, dan perusahaan AI lainnya dalam beberapa bulan ke depan. Hasil dari diskusi tersebut akan dipublikasikan. Menariknya, di tengah usulan perlambatan ini, Anthropic sendiri dilaporkan sedang dalam jalur menuju kuartal pertama yang menguntungkan dan telah mengajukan dokumen ke SEC untuk melantai di bursa, kemungkinan sebelum akhir tahun.
