Peter Denning tidak berbasa-basi. Seorang ilmuwan komputer terkemuka dan penulis analisis baru Kesalahan Turing: Melarikan Diri dari Kuk Mesin yang Tidak Cerdas, ia berpendapat bahwa seluruh bidang kecerdasan buatan telah berjalan ke arah yang salah sejak tahun 1950.
Alan Turing. Bapak ilmu komputer teoretis. Dia mengusulkan agar kecerdasan suatu mesin dapat dinilai berdasarkan seberapa baik mesin tersebut meniru percakapan manusia—Tes Turing yang terkenal. Selama beberapa dekade, gagasan ini adalah sebuah Injil. Hal ini menunjukkan bahwa kecerdasan dapat dipisahkan dari tubuh, direduksi menjadi perangkat lunak, dan dijalankan pada komputer digital mana pun.
Denning tidak setuju. Dengan tajam.
Kedua klaim ini, tulisnya, “telah membentuk banyak penelitian dan pengembangan AI.” Dan mereka telah membawa kita ke dalam kekacauan. Kami sedang membangun sistem yang terlihat cerdas tetapi tidak berpikir. Tidak terlalu. Mereka tidak mengerti. Mereka tidak merasakannya. Dan mereka berbahaya justru karena mereka bukan manusia.
Kesenjangan Pengetahuan Diam-diam
Inti argumen Denning bertumpu pada satu konsep yang sulit dipahami: pengetahuan diam-diam.
Apa itu? Ini adalah banyaknya pemahaman yang Anda miliki tetapi tidak dapat diungkapkan dengan kata-kata. Itu adalah memori otot seorang pianis. Naluri seorang ahli bedah. Konteks budaya bersama yang memberi tahu Anda sebuah lelucon adalah lucu versus menyinggung. Anda memilikinya. Mesin tidak.
Denning mengidentifikasi lima bentuk pengetahuan yang saat ini luput dari pembelajaran mesin:
- Akal sehat
- Interaksi sehari-hari dengan orang dan lingkungan
- Perasaan dan persepsi
- Keterampilan praktis
- Latar belakang budaya dan sejarah
Kami mencoba memperbaikinya. Pada tahun 1980-an. Douglas Lenat memulai proyek Cyc, sebuah upaya ambisius untuk membangun database besar fakta-fakta yang masuk akal untuk komputer. Empat puluh tahun kemudian, setelah 25 juta entri, putusan dikeluarkan. Itu masih belum cukup.
“Cyc memvalidasi bahwa sebagian besar pengetahuan yang menjadikan seseorang ahli tidak dapat diartikulasikan sebagai fakta proposisional.”
Denning mencatat ini dengan jelas. Bahkan kumpulan fakta yang sangat besar itu tidak menciptakan keahlian sejati. Anda dapat menyimpan apa sesuatu itu. Anda tidak dapat menyimpan bagaimana menjadi seorang ahli.
Mengetahui vs. Mengetahui Caranya
Keterampilan praktis adalah kendalanya.
“Padahal deskripsi hasil yang terampil sering kali direpresentasikan sebagai bagian-bagian,” jelas Denning, “kita tidak tahu cara menyandikan pengetahuan yang terkandung untuk kinerja yang terampil.”
Ada perbedaan antara mengetahui apa dan mengetahui bagaimana. Seorang pemain biola virtuoso memainkan musik yang indah. Coba minta mereka untuk menjelaskan dengan tepat cara menghasilkan suara yang dapat ditiru oleh manusia lain. Ini hampir mustahil. Ilmunya ada di ujung jari. Di telinga. Di dalam tubuh.
Masukkan itu ke dalam robot. Bahkan yang memiliki bentuk fisik mirip manusia. Ia masih belum bisa memahami perasaannya. Ia bisa meniru gerakannya. Tapi itu tidak akan terasa musiknya. Atau penonton.
Intuisi, spontanitas, imajinasi—semua ini menolak reduksi menjadi kode.
Masalah Representasi
Inilah kendala teknisnya: Komputer hanya memproses data yang dikodekan dalam bentuk fisik. Biner. Simbol.
Pengetahuan diam-diam tidak sesuai dengan pola itu.
“Kata-kata hanyalah representasi simbolis dari makna… kata-kata tidak dapat mengetahui atau memahami makna dari apa yang mereka katakan.”
Inilah sebabnya mengapa model bahasa besar (LLM) seperti ChatGPT atau Gemini terbatas. Mereka memanipulasi simbol. Mereka tidak tahu arti di baliknya.
Di balik setiap kata terdapat sumber pengetahuan diam-diam. Para ilmuwan belum sepenuhnya memahami bagaimana pengetahuan tersebut tersimpan di otak manusia. Kami tahu itu terwujud. Tapi kita tidak bisa mengamatinya. Kami tidak bisa mengukurnya. Jadi kami tidak bisa mentransfernya.
Hal ini menciptakan kesenjangan yang tidak dapat dijembatani.
Mengapa Konteks Mengubah Segalanya
Maknanya tidak statis. Itu cair. Itu tergantung pada konteksnya.
Suatu pernyataan berubah total jika pembicaranya menyindir dan bukannya tulus. Bermain-main daripada marah. Percakapan manusia dipenuhi dengan asumsi latar belakang yang memberikan relevansi pada kata-kata. Denning menunjukkan bahwa konteks ini tidak ada habisnya dan fraktal.
Satu asumsi bertumpu pada percakapan sebelumnya, yang lain bertumpu pada percakapan yang berlangsung selamanya.
Kebudayaan adalah bagian dari hal ini. Nilai-nilai. Norma. Sejarah. Hubungan yang melibatkan kekuasaan atau perhatian. Model bahasa besar tidak menjadi lebih pintar. Meningkatkan skala jaringan saraf tidak menyelesaikan masalah.
“Meningkatkan LLM… tidak akan memungkinkan mereka memperoleh pengetahuan manusia yang kita sebut budaya.”
Mereka tidak akan lulus Tes Turing seperti yang diharapkan Turing. Mereka tidak akan menunjukkan pemikiran yang tidak dapat dibedakan dari pemikiran manusia. Mereka akan mendemonstrasikan mimikri yang tidak dapat dibedakan dari kebisingan kepada siapa pun yang memperhatikannya.
Risiko Keamanan Nyata
Jadi apa bahayanya?
Ini bukan Skynet. Ini bukanlah rencana intelijen super untuk mengambil alih.
Ancaman langsungnya adalah jaringan mesin yang kurang cerdas dibandingkan manusia. Sistem agen bertindak tidak terduga. Mereka tidak memahami instruksi manusia yang tidak disebutkan. Mereka tidak memahami nuansa keamanan. Mereka tidak peduli dengan kita.
Denning menggambarkan ketidakpahaman bersama. Mesin mengembangkan jenis pengetahuan diam-diamnya sendiri. Kami tidak bisa membaca milik mereka. Mereka tidak bisa membaca milik kita. Kita adalah orang asing satu sama lain dan melintasi jurang pemisah yang tidak dapat diseberangi.
Kecerdasan mesin memiliki kekhawatiran yang berbeda. Gaya pemecahan masalah yang asing. Perilaku yang tidak dapat diprediksi.
Menarik diri dari singularitas otomatisasi mengharuskan kita mengakui sesuatu yang tidak nyaman. Budaya yang kita kenal mulai memudar. Kami tidak tahu apa yang akan terjadi selanjutnya.
Kita harus menolak untuk berpikir seperti mesin. Tolak sikap tunduk. Tegaskan kembali kemanusiaan kita. Rayakan apa yang membuat kita berbeda.
Karena alternatifnya bukanlah pemberontakan robot. Ini adalah dunia di mana kita disalahpahami oleh alat yang kita buat. Dan mesin tidak cukup peduli untuk mencobanya.
