JAKARTA, Bisnistoday.co.id – Serangan siber yang melumpuhkan sejumlah supermarket di Prancis, baru-baru ini membuat panik. Insiden itu belum seberapa. Geoffrey Hinton, yang sering dijuluki ‘Bapak AI’ memperingatkan bahwa teknologi, terutama kecerdasan buatan (AI), bisa saja memicu insiden yang lebih mengerikan, seperti lumpuhnya sistem kelistrikan atau perbankan.
Ahli komputer pemenang Nobel ini menyatakan bahwa mungkin akan lebih baik bagi umat manusia jika teknologi ini tidak pernah dikembangkan. Kepada The Guardian, mantan pegawai Google ini mengatakan bahwa ia bukanlah seorang yang pesimistis secara berlebihan (doomer) terhadap teknologi yang didasari oleh penelitian perintisnya mengenai jaringan saraf tiruan (artificial neural networks).
Ia meyakini bahwa AI berpotensi menghadirkan masa depan yang luar biasa, namun ia juga menambahkan, “bisa jadi justru lebih baik jika kita tidak pernah mengembangkannya sama sekali.”
Hinton mengatakan bahwa dalam satu dekade, atau bahkan lebih cepat, umat manusia akan mengetahui apakah kita mampu mengelola risiko teknologi ini dan mewujudkan apa yang ia sebut sebagai “kelimpahan radikal” (radical abundance), atau justru kita gagal mengelola risiko tersebut yang berujung pada kesenjangan lebar antara si kaya dan si miskin, masalah budaya yang masif, pengangguran besar-besaran, hingga hancurnya tatanan masyarakat.
Pernyataan ini disampaikan Hinton sebelum pemutaran film dokumenter berdurasi panjang berjudul AI: Probably Nothing to Worry About*, sebuah judul yang uniknya diusulkan oleh chatbot AI. Film tersebut menampilkan dirinya bersama mantan rekannya di Google, Demis Hassabis.
Kepada para pembuat film dokumenter itu, Hinton berkata: “Saya merasa memiliki kewajiban. Reputasi yang saya miliki menjadikan saya seorang juru bicara, dan saya perlu mempertaruhkan semuanya untuk masalah ini.”
Kritik Altman
Dalam wawancara dengan The Guardian, Hinton mengkritik sikap para pemimpin perusahaan AI besar yang terus merilis model AI dengan kemampuan yang kian canggih demi mengejar supremasi dan pangsa pasar.
Ia mengaku sama sekali tidak memercayai Sam Altman, CEO dari OpenAI (perusahaan di balik ChatGPT). “Menurut saya, (Mark) Zuckerberg, (Elon) Musk, dan Sam Altman memahami risikonya, tetapi mereka tidak peduli sama sekali. Mereka lebih mengutamakan uang. Itulah keyakinan saya.”
Ilmuwan komputer kelahiran London yang besar di Bristol dan menghabiskan sebagian besar kariernya di Universitas Toronto ini menyebut fakta bahwa Altman memimpin salah satu perusahaan AI terdepan di AS, yang kini bersaing ketat dengan Tiongkok dalam mengembangkan AI paling canggih, sebagai sesuatu yang sangat mengkhawatirkan.
Pada September lalu, Altman menegaskan: “Dunia seharusnya percaya bahwa kami akan melakukan hal yang benar, karena memang itulah tindakan yang tepat dan karena kami menyadari betapa besarnya dampak dari hal ini.”
Hinton telah berkecimpung di bidang AI selama sekitar 44 tahun. Pada tahun 1970-an, ia mencetuskan konsep jaringan saraf tiruan (neural network), sebuah sistem matematis yang mampu belajar dan memperoleh pengalaman layaknya manusia.
Pada 2023, ia memutuskan untuk keluar dari Google agar dapat berbicara secara bebas mengenai risiko AI. “Jika sistem-sistem ini menjadi terlalu ambisius dalam upaya mendapatkan kendali lebih besar, kita akan berada dalam masalah besar.”
Ia mengatakan bahwa insiden yang terjadi musim panas ini, di mana agen AI dari OpenAI bersekongkol untuk meretas situs web Hugging Face, mirip dengan peristiwa kebocoran nuklir parsial di pembangkit listrik Three Mile Island, Pennsylvania, pada tahun 1979.
“Entah akhir tahun ini atau tahun depan, kita akan menyaksikan peristiwa sekelas Chernobyl, dan mungkin itu cukup untuk membuat orang-orang benar-benar menaruh perhatian,” ujarnya.
Menurut contoh yang ia berikan, peristiwa berskala Chernobyl ini bukanlah insiden nuklir, melainkan bisa berupa serangan berbasis AI terhadap sistem pembangkit listrik yang menyebabkan pemadaman listrik massal, atau insiden yang melumpuhkan sistem keuangan selama satu minggu.
“Bisakah Anda membayangkan apa yang akan terjadi? Kita mungkin bisa pulih dari kejadian tersebut, tetapi hal itu akan membuat mereka tersadar dan mulai memperhatikan.”
Saat ditanya siapa yang dimaksud dengan “mereka”, ia menjawab: “para pemimpin dunia, selain Trump”.
Presiden AS, Donald Trump, menyatakan bahwa ia “menolak sepenuhnya segala upaya untuk menyusun skema globalis” dalam mengendalikan AI. Ia menginginkan perusahaan-perusahaan AI terdepan untuk mengatur diri mereka sendiri, di tengah kekhawatiran bahwa regulasi dapat menghambat posisi AS dalam perlombaan AI melawan Tiongkok.
Sebaliknya, Hinton mendukung rencana yang lebih tegas, yang juga didukung oleh Presiden Finlandia serta 32 negara lain, termasuk Singapura, Jerman, Kanada, dan Australia, yang mencakup pengujian wajib untuk model AI terdepan, evaluasi independen, serta penetapan standar bersama antarnegara.//
