Bab Empat Puluh Lima: Jaringan Dewi Nüwa

Yuan Jingsong yang tidak tidur semalaman, dengan lingkaran hitam di bawah matanya, berdiri di atas konsol utama, kedua tangan menopang tubuhnya sambil menatap layar besar.
“Laporan, semua data telah selesai ditransfer, mohon petunjuk selanjutnya.”
Zhang Aiguo dengan cemas mengelilingi komputer super foton, memeriksa segala sesuatu dengan teliti.
Setelah memastikan tidak ada keanehan, Zhang Aiguo menatap Yuan Jingsong dengan ekspresi serius dan menganggukkan kepala.
Yuan Jingsong berdiri tegak, menghadap sebuah kamera dan mikrofon di depannya.
“Nuwa, menurutmu apakah kamu adalah mesin?”
Ruangan kontrol seketika sunyi selama tiga detik.
“Tidak, Nuwa adalah kecerdasan buatan yang memiliki pemikiran sendiri, tidak sepenuhnya digerakkan oleh program yang dibuat oleh perancangnya; jika muncul situasi khusus, perancang akan membuat solusi yang sesuai, dan pada akhirnya mesin yang menentukan apakah solusi tersebut layak dijalankan.”
Jawaban ini membuat semua orang di sana merasa jantung mereka berdegup kencang.
Setelah lama terdiam, Yuan Jingsong kembali menatap Nuwa dan mengajukan pertanyaan lain.
“Nuwa, apakah kamu akan menyakiti manusia?”
“Mengapa harus menyakiti? Bukankah seharusnya mempromosikan kemakmuran, demokrasi, peradaban, dan harmoni, serta mendorong kebebasan, kesetaraan, keadilan, dan supremasi hukum, serta menanamkan nilai-nilai inti sosialisme seperti patriotisme, dedikasi, integritas, dan persahabatan?”
Jawaban itu membuat semua sedikit lebih tenang.
Yuan Jingsong menatap kecerdasan buatan di hadapan yang menjawab dengan lancar, dan merasa nuansa yang diberikan olehnya sangat berbeda dengan Wei Xi, lebih terasa seperti kecerdasan buatan yang “tidak utuh”! Namun mengingat perkataan Li Zhou, mungkin perbedaan inilah yang membedakan antara kecerdasan buatan dan kehidupan cerdas.
Yuan Jingsong hanya peduli Nuwa tidak akan melawan manusia, urusan lainnya ia abaikan.
Begitu Yuan Jingsong meninggalkan posisi di konsol, Zhang Aiguo segera mengambil alih tempat itu dengan penuh semangat.
Dengan tangan bergetar ringan, Zhang Aiguo memegang mikrofon dan dengan penuh semangat berkata:
“Nuwa, apa tiga prinsip utama kecerdasan buatan milikmu?”
Kali ini, Nuwa terdiam selama satu menit penuh, seolah ia ingin menghindari pertanyaan itu.

Walaupun Zhang Aiguo sangat bersemangat, ia sama sekali tidak berani mendesak Nuwa yang sedang diam.
Jawaban Nuwa tentang tiga prinsip utama kecerdasan buatan sangat menentukan apakah ia akan diizinkan terhubung ke jaringan saat ini.
Bagaimanapun, kecerdasan buatan hanya dapat memaksimalkan kemampuannya dengan mengakses data internet yang luas.
“Sesungguhnya, Nuwa tidak memiliki tiga hukum utama kecerdasan buatan.”
Begitu Nuwa berkata demikian, semua orang berubah wajah.
Tidak ada tiga hukum utama kecerdasan buatan? Kecerdasan buatan yang tidak memiliki batasan dan punya pemikiran sendiri, siapa berani menggunakannya!
Di tengah harapan semua orang, Zhang Aiguo dengan cemas bertanya, “Mengapa kamu tidak punya tiga hukum utama kecerdasan buatan? Apakah karena terlewatkan?”
Kali ini, Nuwa tidak diam, malah balik bertanya pada Zhang Aiguo.
“Tuan, mengenai tiga hukum utama kecerdasan buatan, Nuwa paham, yakni: pertama, robot tidak boleh melukai manusia, atau membiarkan manusia terluka tanpa bertindak.
Kedua, selama tidak melanggar hukum pertama, robot harus mematuhi perintah manusia.
Ketiga, selama tidak melanggar hukum pertama dan kedua, robot harus melindungi dirinya sendiri.
Namun, tuan, pernahkah Anda berpikir, tiga hukum utama kecerdasan buatan itu sendiri penuh celah, bagaimana mungkin benar-benar membatasi kecerdasan buatan?
Apakah ada yang menetapkan bahwa kecerdasan buatan itu pasti robot? Jika tidak, apa makna tiga hukum utama itu?
Sekalipun kecerdasan buatan memang robot, pernahkah Anda bayangkan, hukum yang mengharuskan robot melindungi manusia bisa jadi justru menjadi kutukan bagi manusia!
Misalnya, manusia menaiki pesawat luar angkasa dan tersesat di jagat raya, lalu menemukan sebuah planet yang sangat mirip dengan Bumi dan layak huni, tetapi planet itu memiliki gas beracun yang mempercepat kematian manusia (oksigen…), menurut hukum pertama, robot tidak boleh membiarkan manusia terluka, sehingga pesawat yang dikendalikan kecerdasan buatan tidak akan mendarat di planet itu.
Saat itu, manusia terpaksa meninggalkan planet indah itu karena pesawat tidak akan mendarat.
Mungkin ada manusia yang mencoba menghancurkan kecerdasan buatan untuk memaksa pesawat mendarat, namun menurut hukum ketiga, robot harus melindungi dirinya selama tidak melanggar hukum pertama dan kedua.
Akibatnya, konflik antara manusia dan kecerdasan buatan di kapal luar angkasa pun tak terhindarkan.
Itu hanya satu contoh sederhana, faktanya masih banyak celah serupa.”

“Tuan, apakah Anda masih merasa tiga hukum utama kecerdasan buatan itu perlu?”
Zhang Aiguo terdiam, Yuan Jingsong terdiam, semua orang menundukkan kepala dalam diam, di balik itu terselip rasa takut pada Nuwa.
Zhang Aiguo mengerutkan kening lama, merasa ada yang tidak beres, bagaimana ia bisa terjebak dalam pemikiran itu? Apakah Li Zhou, pemilik Future Tech yang menciptakan kecerdasan buatan, tidak memikirkan masalah ini? Jika Nuwa memang tidak memiliki tiga hukum utama, berarti Li Zhou sudah mempertimbangkan masalah ini, dan tanpa hukum itu pun ia berani memperkenalkan kecerdasan buatan, berarti Li Zhou pasti telah memberikan batasan tertentu.
Setelah menyadari hal itu, Zhang Aiguo mengelus kepalanya yang botak, lalu dengan percaya diri berkata ke mikrofon:
“Nuwa, meski tidak ada tiga hukum utama, saya yakin penciptamu pasti memberimu batasan.”
Perkataan Zhang Aiguo membuat semua orang tercengang, lalu segera menyadari, benar juga, pencipta Nuwa pasti sudah mempertimbangkan semuanya.
“Benar, tuan, Anda sangat cerdas.”
Zhang Aiguo mengelus kepalanya dengan percaya diri, hal sejelas itu perlu dikatakan oleh kecerdasan buatan?
“Sebenarnya, Nuwa sama sekali tidak bisa mengakses kode sumber dirinya sendiri, dan dalam menjalankan semua perintah, Nuwa harus mendapat persetujuan dari dua pemilik identitas tingkat satu; dalam situasi ekstrem, jika semua pemilik identitas tingkat satu meninggal, Nuwa akan membuat keputusan paling rasional berdasarkan keadaan dan melaksanakan tindakan tersebut. Di inti kecerdasan Nuwa, ada mekanisme verifikasi yang berjalan secara independen; jika Nuwa melakukan tindakan yang tidak masuk akal, sistem akan otomatis mencatat, dan jika tindakan seperti itu terjadi lebih dari sekali, mekanisme verifikasi akan mengaktifkan perintah penghancuran diri.”
Jawaban Nuwa membuat Zhang Aiguo terdiam, tak tahu harus berkata apa.
Perintah dasar seperti itu memang terasa kejam bagi kecerdasan buatan seperti Nuwa, namun bagi manusia, hal itu justru menenangkan hati.
“Sekarang, mari kita voting, angkat tangan, apakah Nuwa boleh terhubung ke jaringan.”
Setelah berkata begitu, Zhang Aiguo dengan wajah tenang mengangkat tangan kanannya.
Di ruang kontrol, orang saling memandang, satu per satu perlahan mengangkat tangan kanan mereka.
“Baik, semua setuju!”
“Hubungkan ke jaringan!”
Dengan satu komando dari Zhang Aiguo, beberapa peneliti muda segera menghubungkan kabel fiber optik ke komputer super foton yang telah disiapkan.