Jabarpos.id – Dunia teknologi global tengah dikejutkan oleh pengakuan mengejutkan dari Anthropic, perusahaan pengembang kecerdasan buatan (AI) di balik model populer Claude. Dalam dokumen prospektus menjelang penawaran umum perdana saham atau Initial Public Offering (IPO), perusahaan ini secara terbuka mengungkapkan adanya risiko "eksistensial" yang mungkin ditimbulkan oleh teknologi yang mereka ciptakan sendiri.
Pernyataan ini dianggap sangat tidak lazim bagi sebuah perusahaan yang tengah bersiap melantai di bursa saham dengan valuasi fantastis, yang diperkirakan menyentuh angka US$2 triliun. Alih-alih hanya memaparkan risiko pasar atau persaingan bisnis biasa, Anthropic justru memberikan peringatan keras bahwa AI yang sangat canggih berpotensi menimbulkan bencana katastrofik bagi umat manusia.
Selain ancaman terhadap peradaban, Anthropic juga menyoroti betapa rentannya bisnis mereka terhadap dinamika politik dan kebijakan pemerintah. Dalam dokumen yang dikutip dari laporan Reuters tersebut, perusahaan menjelaskan bahwa sikap atau persepsi pemerintah terhadap teknologi AI dapat berdampak sistemik. Hal ini tidak hanya memengaruhi hubungan perusahaan dengan mitra, tetapi juga bisa merembet ke seluruh ekosistem pelanggan komersial mereka.
Also Read
Meski Anthropic mengklaim bahwa pendapatan dari kontrak pemerintah saat ini masih sangat kecil, yakni di bawah 1 persen dari total pendapatan tahunan, mereka tetap waspada. Perusahaan memberikan contoh nyata mengenai bagaimana interaksi dengan otoritas dapat menjadi bumerang. Salah satu insiden yang dicatat adalah pembatasan operasional model mereka oleh pemerintah yang sempat terjadi, meskipun akhirnya dicabut oleh Departemen Perdagangan. Anthropic memperingatkan bahwa tindakan serupa bisa saja terulang kembali di masa depan.
Ketidakpastian ini semakin diperparah dengan meningkatnya pengawasan ketat dari regulator. Saat ini, Komisi Perdagangan Federal (FTC) Amerika Serikat dilaporkan tengah melakukan penyelidikan lintas industri yang menyasar perusahaan-perusahaan raksasa AI, termasuk Anthropic. Isu keamanan AI kini bukan lagi sekadar perdebatan teknis, melainkan telah menjadi isu keamanan nasional dan global.
CEO Anthropic, Dario Amodei, sebelumnya telah menyerukan agar industri AI memperlambat laju pengembangannya demi alasan keamanan. Hal ini muncul menyusul laporan mengenai aktivitas peretasan yang dilakukan oleh agen AI otonom yang tidak terkendali. Namun, upaya regulasi ini menghadapi tantangan politik yang besar. Dalam pertemuan baru-baru ini, Amodei sempat bertemu dengan Presiden Donald Trump, namun Trump cenderung menolak seruan untuk memperketat regulasi AI.
Kini, para investor yang tertarik pada IPO Anthropic dihadapkan pada dilema besar: potensi keuntungan dari teknologi masa depan yang luar biasa, atau risiko menghadapi teknologi yang mungkin suatu saat nanti sulit untuk dikendalikan oleh manusia itu sendiri. Melansir laporan dari jabarpos.id, pengakuan jujur ini menjadi catatan penting bagi arah perkembangan teknologi dunia ke depan.
