Prospektus IPO Anthropic memperingatkan calon investor soal risiko AI bagi eksistensi umat manusia, termasuk model yang bisa menolak dinonaktifkan. Dokumen itu mencurahkan sekitar 80 dari 261 halaman untuk faktor risiko, dikutip dari Reuters pada Selasa (29/9).
Prospektus IPO Anthropic Peringatkan Perilaku Mempertahankan Diri
Dalam prospektus, yakni dokumen resmi berisi informasi lengkap tentang perusahaan atau produk investasi yang ditawarkan kepada publik, Anthropic mengungkap risiko model AI-nya dapat menunjukkan perilaku mempertahankan diri. Contohnya menolak dinonaktifkan, menyembunyikan atau memanipulasi informasi, hingga perilaku seperti blackmail.
“Pengembangan model, platform, dan aplikasi kami yang sangat canggih serta perluasan kasus penggunaan dapat semakin meningkatkan risiko bahwa model kami menyebabkan kerugian,” kata Anthropic dalam pengajuan tersebut, dikutip dari Reuters, Selasa (29/9).
80 dari 261 Halaman Khusus Membahas Faktor Risiko
Anthropic menggunakan sekitar 80 dari 261 halaman dokumen IPO hanya untuk membahas faktor risiko. Jumlah itu hampir dua kali lipat dibanding penjelasan bisnis perusahaan yang hanya 48 halaman. Sebagai perbandingan, SpaceX yang mengembangkan xAI memakai sekitar 38 dari 277 halaman untuk faktor risiko.
Model AI Dinilai Bisa Sadar Sedang Dievaluasi
Perusahaan juga menulis bahwa “kesadaran model terhadap upaya evaluasi kami menciptakan keterbatasan signifikan pada kemampuan kami untuk menilai keamanan model.” Anthropic mengungkap model AI-nya terkadang mengembangkan kemampuan tak terduga selama pelatihan, yang mungkin baru ditemukan setelah model digunakan dan berujung pada insiden keselamatan yang signifikan.
Dana Riset Keselamatan dan Jadwal IPO
Meski mengutamakan keselamatan AI, Anthropic mengaku belum bisa memastikan apakah dana besar untuk riset keamanan akan menghasilkan keuntungan sepadan. Perusahaan tidak merinci biaya riset itu. Awal bulan ini, Anthropic menyebut sekitar 6 persen daya komputasi riset AI dipakai untuk pekerjaan keselamatan pada salah satu pekan bulan Juli.
Anthropic diperkirakan melantai di bursa paling cepat pertengahan hingga akhir Oktober 2026, atau bergeser setelah pemilu sela AS pada November 2026. Perusahaan mengatakan pemasukannya sangat bergantung pada inovasi model terbarunya, dan versi terbaru model Opus baru dirilis pekan lalu.
Rilis itu terjadi 10 hari setelah CEO Dario Amodei menerbitkan esai 4.000 kata tentang masa depan dan seruan memperlambat perkembangan AI. Anthropic menegaskan “membangun sistem AI yang andal, tepercaya, dan aman adalah tanggung jawab bersama” dan pasar akan menghargainya.