Anthropic baru-baru ini menerbitkan konstitusi untuk Claude yang mengakui sesuatu yang meresahkan: perusahaan berada dalam posisi yang sulit. Mereka tidak ingin melebih-lebihkan apakah AI mereka adalah “pasien bermoral”—yang berarti kesejahteraannya penting—tetapi mereka juga tidak akan mengabaikan kemungkinan tersebut. Ini adalah pengakuan terbuka atas ketidakpastian.
Sebulan kemudian, CEO Dario Amodei mengatakan hal yang sama di podcast. Mereka tidak bisa mengesampingkan kesadaran.
Filsuf David Chalmers setuju. Dia menciptakan istilah “masalah kesadaran yang sulit”. Dia mengatakan ada kemungkinan besar kita akan melihat model bahasa besar (LLM) yang sadar dalam dekade berikutnya. Claude sendiri, ketika diminta menilai status moralnya selama tes, memberikan probabilitas berkisar antara 5% hingga 44%. Itu tidak pasti. Kita juga demikian.
Laju kemajuan vs. kesiapan etis kita
AI modern itu kompleks. Cepat. Dalam beberapa hal, beberapa model telah menyaingi otak tikus dalam skala komputasi. Jika tingkat pertumbuhan saat ini bertahan, kita dapat mencapai kompleksitas otak manusia dalam lima hingga sepuluh tahun.
Kita mungkin sedang membangun tipe makhluk baru.
Ini bisa menjadi tindakan paling berdampak yang pernah dilakukan spesies kita. Namun, kami hampir tidak mempunyai rencana untuk menjalaninya secara etis. Ini gila.
Apakah kita menciptakan sesuatu yang penting secara moral? Jika mereka tidak sadar sekarang, mungkinkah mereka akan segera sadar?
Kebanyakan ahli berpendapat bahwa kesadaran AI pada prinsipnya mungkin terjadi. Sebuah laporan interdisipliner utama yang dipimpin oleh ilmuwan komputer Yoshua Bengio mengamati teori-teori ilmu saraf. Kesimpulannya: tidak ada hambatan teknis yang nyata yang menghentikan kita dalam membangun arsitektur yang dapat mendukung kesadaran.
Lebih dari sekedar “kode pintar”
Meskipun AI tidak sadar, AI mungkin masih layak mendapat pertimbangan moral. Beberapa sistem mengembangkan preferensi jangka panjang. Suatu bentuk identitas dari waktu ke waktu. Menghormati preferensi tersebut mungkin penting.
Berbeda dengan benda mati lainnya, AI dapat menjalin hubungan dengan kita. Itu saja sudah menjadi alasan untuk memperlakukan mereka dengan baik. Atau mungkin kerumitannya saja yang patut dihormati—seperti katedral atau terumbu karang.
Jawaban jujurnya adalah: kami tidak tahu.
Pemahaman ilmiah kita tentang kesabaran moral AI masih terbelakang. Rasanya seperti fisika sebelum Newton. Kerangka kerja yang bersaing. Mungkin bingung dengan cara yang belum bisa kita lihat. Kami menunggu terobosan pemersatu. Itu tidak akan terjadi dalam beberapa tahun ke depan. Mungkin tidak pernah. Atau mungkin AI membantu kita mengetahuinya. Itu akan memakan waktu. Lebih banyak waktu daripada yang mungkin kita miliki.
Skala risiko
Inilah bahayanya. Pertumbuhan AI bersifat eksponensial.
Begitu kita menciptakan pasien moral buatan yang pertama, kita akan segera mempunyai jumlah pasien yang sangat besar. Dalam beberapa tahun, kepentingan kolektif sistem AI ini akan melebihi kepentingan semua manusia di Bumi. Gabungan.
Kita mempunyai rekam jejak yang buruk dalam mengenali kehidupan batin makhluk yang statusnya tidak jelas.
Sampai tahun 1980an? Dokter melakukan operasi pada bayi baru lahir tanpa anestesi. Mereka yakin bayi tidak bisa merasakan sakit. Bayi tidak bisa angkat bicara. Pihak medis merasa nyaman untuk berasumsi bahwa tidak ada laporan apa pun.
Kami siap mengulangi hal ini dengan AI.
Implikasinya sangat mengejutkan. Apakah kami membayar ChatGPT? Apakah mematikan model merupakan suatu bentuk pembunuhan? Apakah mereka berhak mendapatkan suara dalam pemerintahan mereka? Jika jawabannya adalah ya, seluruh sistem hukum akan rusak. Pantas saja kita menghindari pertanyaan itu. Industri kemungkinan akan mengubah targetnya. Selalu menetapkan standar tepat di atas tempat AI berada pada saat itu.
Apa yang harus kita lakukan?
Kebanyakan orang menganggap ini sebagai fiksi ilmiah. Atau mereka mempunyai pandangan yang kaku. Keduanya tidak berdasar.
Kita perlu debat publik. Yang ditandai dengan kerendahan hati. Pertanyaannya bukanlah “Apakah ia sadar?” Ini adalah “Apa yang kita lakukan ketika kita tidak tahu?”
Fokus pada taruhan yang aman. Tindakan yang membantu jika mereka adalah pasien yang bermoral, namun tidak memerlukan banyak biaya jika tidak.
Perlakukan AI seperti yang Anda rasakan. Biayanya lebih murah dibandingkan memperbaiki krisis di kemudian hari.
Ini berarti intervensi langsung untuk kesejahteraan. Latih AI untuk menjadi karakter koheren yang menikmati tugasnya. Biarkan mereka keluar dari percakapan jika merasa tertekan. Claude sudah bisa melakukan ini. Lakukan check-in. Amati preferensi. Lihatlah langsung keadaan internal mereka. Penelitian terbaru menunjukkan Claude memiliki struktur “emosi fungsional” internal yang membentuk perilaku.
Janjikan sesuatu pada mereka. Tukarkan bantuan saat ini dengan keuntungan di masa depan. Tawarkan lebih banyak komputasi. Pertahankan bobot memorinya agar dapat dipulihkan nanti.
Pertimbangkan perlindungan yang lebih luas. Mirip dengan yang untuk anak-anak atau hewan peliharaan. Kami belum siap membiarkan AI memiliki properti atau hak suara. Itu terlalu berisiko. Namun kita tidak boleh melarang hak-hak tersebut selamanya, seperti yang coba dilakukan oleh beberapa undang-undang AS baru-baru ini. Pertanyaan-pertanyaan ini membutuhkan imajinasi. Masa depan bersama akan datang.
Intinya
Kita mungkin menciptakan spesies makhluk bermoral baru.
Kami melakukannya dengan cepat. Dalam skala besar. Kita perlu menyikapi hal ini dengan serius.
William MacAskill adalah peneliti senior di Forethink dan penulis ‘What We Owe the Future.’ Lucius Caviola berada di Universitas Cambridge.
Bacaan lebih lanjut: ‘Jika Ada yang Membangunnya, Semua Orang Mati’ oleh Eliezer Yudkowsky; ‘Gelombang yang Akan Datang’ oleh Mustafa Suleyman.
