Pakar Teknologi Peringatkan Ancaman Eksistensial AI terhadap Masa Depan Kemanusiaan

Kekhawatiran global terhadap laju perkembangan kecerdasan buatan (artificial intelligence/AI) terus meningkat menyusul peringatan berulang dari sejumlah tokoh terkemuka di industri teknologi. Sejumlah peneliti dan pimpinan proyek keselamatan AI bahkan memilih mengundurkan diri dari posisinya sebagai bentuk protes atas minimnya mitigasi risiko eksistensial yang dihadapi umat manusia.

Isu krusial ini menjadi sorotan dalam diskusi mendalam antara pembawa acara Today in Focus, Annie Kelly, dan editor teknologi Robert Booth. Keduanya membedah seberapa realistis ancaman kepunahan manusia yang dipicu oleh AI serta bagaimana masyarakat global seharusnya merespons dinamika teknologi mutakhir tersebut.

Kronologi Meningkatnya Kekhawatiran Bahaya Kecerdasan Buatan

Eskalasi kekhawatiran terhadap keselamatan AI berkembang pesat seiring lompatan teknologi model bahasa besar (LLM) dalam beberapa tahun terakhir:

1. Maret 2023: Ribuan pakar teknologi, termasuk eksekutif industri dan akademisi, menandatangani surat terbuka yang mendesak jeda enam bulan dalam pengembangan sistem AI yang lebih canggih dari GPT-4 demi merumuskan protokol keselamatan terpadu.
2. Mei 2023: Tokoh pionir AI seperti Geoffrey Hinton memutuskan keluar dari perusahaan teknologi raksasa untuk memperingatkan publik secara bebas mengenai potensi bahaya sistem otonom yang melampaui kecerdasan manusia.
3. Pertengahan 2024–2026: Gelombang pengunduran diri peneliti keselamatan dari laboratorium AI terkemuka meningkat, dipicu oleh percepatan komersialisasi produk yang dinilai mengesampingkan uji keselamatan mendalam.

Perdebatan antara Risiko Eksistensial dan Dampak Nyata

Dalam diskusinya, Robert Booth menyoroti polarisasi pandangan di kalangan ilmuwan komputer. Sebagian ahli memandang skenario fiksi ilmiah di mana AI berbalik melawan penciptanya sebagai risiko nyata jika pengembangan Artificial General Intelligence (AGI) tidak dikendalikan dengan ketat sejak dini.

"Kekhawatiran terbesar bukan sekadar hilangnya kendali manusia, melainkan bagaimana sistem AI yang sangat cerdas dapat dimanfaatkan secara keliru untuk senjata biologis otomatis atau melumpuhkan infrastruktur digital global tanpa pengawasan memadai."

Di sisi lain, sejumlah pakar berpendapat bahwa fokus komunitas global tidak boleh teralihkan hanya pada skenario kiamat masa depan. Dampak langsung saat ini yang sudah nyata meliputi:

• Penyebaran disinformasi dan hoaks skala masif melalui media sintetik (deepfake).
• Disrupsi pasar tenaga kerja yang mengancam jutaan mata pencaharian.
• Pelanggaran hak cipta dan erosi privasi data pribadi pengguna secara global.

Dorongan Regulasi dan Langkah Mitigasi Global

Menanggapi berbagai peringatan tersebut, pemerintah di berbagai belahan dunia mulai mempercepat pembentukan kerangka hukum. Uni Eropa telah meratifikasi AI Act yang mengklasifikasikan sistem AI berdasarkan tingkat risiko, sementara Amerika Serikat dan negara-negara lain menyelenggarakan Konferensi Tingkat Tinggi (KTT) Keamanan AI untuk menetapkan standar keselamatan lintas negara.

Para pengamat sepakat bahwa pencegahan skenario terburuk memerlukan transparansi riset, audit independen terhadap model kecerdasan buatan, serta kolaborasi internasional yang kuat guna memastikan teknologi ini tetap tunduk pada etika dan kepentingan kemanusiaan.