OpenAI Peringatkan Bahaya AI, Tapi Tetap Genjot Pengembangan Superintelligence

Liputan6.com, Jakarta - OpenAI memperingatkan bahaya dari sistem AI yang berkembang tanpa kendali, pada saat yang sama mereka malah berlomba dengan teknologi raksasa lain untuk menciptakan apa yang disebut sebagai superintelligence.

Dilansir ZDnet, Kamis (14/11/2025), dalam unggahan blog berjudul “AI Progress and Recomendation”, OpenAI memaparkan visi tentang manfaat luas dari AI tingkat lanjut bagi manusia, sekaligus mengakui adanya risiko besar di balik perkembangannya.

Visi Utopis OpenAI

Menurut OpenAI, perkembangan AI superintelligence dapat membawa kesejahteraan yang lebih merata untuk manusia.

“Kami berharap masa depan menawarkan cara baru dan semoga lebih baik untuk menjalani hidup yang memuaskan, dengan lebih banyak orang akan merasakannya,” tulis perusahaan itu.

Namun, OpenAI juga mengakui transisi ekonomi dan sosial akibat kemajuan AI tidak akan mudah.

"Memang benar bahwa pekerjaan akan berbeda, transisi ekonomi mungkin sangat sulit dalam beberapa hal, dan bahkan mungkin kontrak sosial ekonomi fundamental harus berubah. Namun, di dunia yang berlimpah, kehidupan orang-orang bisa jauh lebih baik daripada saat ini," ujar CEO OpenAI, Sam Altman, dalam blog pribadinya.  

Altman menggambarkan AI superintelligence sebagai sesuatu yang akan menyebabkan beberapa gangguan sosial (menghilangkan beberapa kategori pekerjaan). Altman menilai AI tetap akan membawa kemajuan besar bagi manusia dalam jangka panjang.

OpenAI juga memperkirakan AI akan mempercepat berbagai penemuan baru, membantu masyarakat, mendorong kemajuan di bidang-bidang sains, serta memperluas akses pendidikan personal bagi seluruh murid di dunia.

Superintelligence menjadi jargon baru Silicon Valley. Sebelumnya, Meta mengumumkan pada Juni 2025, sudah meluncurkan divisi R&D untuk membangun superintelligence.

Microsoft juga membentuk tim Superintelligence yang difokuskan untuk membangun kemampuan AI yang selalu bekerja untuk kepentingan manusia.

Ironisnya istilah superintelligence dipopulerkan sebuah buku dengan judul yang sama pada 2014 karya Nick Bostrom. Sebagian besar isinya memperingatkan bahaya dari AI yang tak terkendali dan mampu memperbaiki diri sendiri.

Kekhawatiran serupa disampaikan oleh Future of Life Institute. Dalam pernyataannya, mereka memperingatkan AI superinteligence dapat lepas dari kendali manusia dan menimbulkan ancaman bagi peradaban. Pernyataan tersebut menyarankan agar industri pengembang superinteligence dihentikan sementara sampai jalur pengembangan dipastikan aman.

Bahkan kekhawatiran terhadap AI sudah ada saat ini, di mana tantangan untuk memastikan sistem AI tidak bertentangan dengan kepentingan manusia. AI yang jauh lebih cerdas bisa memanipulasi dengan cara yang nyaris tidak terdeteksi.

Sebagian pihak menganggap kekhawatiran tersebut berlebihan. Mereka berpendapat sistem AI bisa dimatikan.

OpenAI setuju dengan pernyataan dari Future of Life Institute. Dalam unggahannya, OpenAI menyebut teknologi superintelligence berpotensi membawa bencana dan menyarankan agar pengembang memperlambat jalan penelitian untuk mempelajari sistem dengan lebih cermat.

Perusahaan juga berkolaborasi, antara industri dan pemerintah untuk menyusun standar keselamatan dan pengawasan seperti yang berlaku pada infrastruktur publik.

Namun, saran memperlambat pengembangan muncul hanya beberapa minggu setelah OpenAI mengumumkan restrukturisasi internal dan memperbarui kerja sama dengan Microsoft. Keputusan ini dianggap sebagai pintu menuju superintelligence.

OpenAI berpendapat sebagian besar pengembangan dan pengguna AI tidak perlu dibebani dengan peraturan baru. Perusahaan juga menentang adanya aturan AI yang berbeda-beda di 50 negara bagian, dan lebih memilih adanya satu regulasi di tingkat federal.

"Kami yakin AI pada tingkat kapabilitas saat ini sudah hampir siap, dan seharusnya sudah menyebar ke mana-mana. Artinya, sebagian besar pengembang dan model sumber terbuka, serta hampir semua penerapan teknologi saat ini, seharusnya memiliki beban regulasi tambahan yang minimal dibandingkan dengan yang sudah ada. AI tentu saja tidak seharusnya menghadapi campur tangan di 50 negara bagian," OpenAI memaparkan.

Meski menekankan pentingnya keselamatan dan kerangka kerja yang komprehensif, OpenAI sudah mendapatkan reputasi dalam industri AI sebagai perusahaan yang sering kali gegabah.

Beberapa karyawan yang keluar dari perusahaan menilai budaya kerja di OpenAI lebih mengutamakan kecepatan pengembangan dibanding keselamatan. Masalah ini juga menjadi inti dari pemecatan Sam Altman pada akhir 2023 oleh dewan direksi perusahaan.

OpenAI dan pengembang kecerdasan buatan lainnya memiliki alasan lain untuk menggambarkan masa depan AI dengan optimis. Masa depan yang diyakini cerah, penting untuk menjaga dana investasi di tengah kekhawatiran akan “gelembung AI”.

Tiga tahun terakhir, perusahaan teknologi telah menghabiskan puluhan miliar dolar untuk AI dan belum mencapai keuntungan. Sebagian besar bisnis yang menggunakan AI belum mencapai keuntungan material dan janji penemuan ilmiah yang dibantu AI masih berupa hipotesis.

Akan tetapi, OpenAI belum lama mengumumkan sudah memiliki satu juta pelanggan bisnis. Capaian ini bisa menjadi awal perubahan dalam narasi keuntungan industri AI.