Media Netizen — Perkembangan kecerdasan buatan (AI) yang pesat bukan hanya memicu kemajuan teknologi, tapi juga menimbulkan kekhawatiran serius. Yoshua Bengio, profesor dari Universitas Montreal yang dikenal sebagai salah satu Bapak AI, menilai umat manusia tengah berada di ambang bahaya besar akibat kemajuan tersebut.
Bengio, yang juga pendiri dan penasihat Mila serta pembentuk organisasi nirlaba LawZero untuk pengembangan AI yang aman, menyampaikan peringatannya dalam wawancara dengan Wall Street Journal. Ia menegaskan bahwa di tingkat perkembangan AI saat ini, risiko yang dihadapi manusia bisa mengarah pada kiamat.
Bahaya Mesin Lebih Pintar dari Manusia
“Jika kita menciptakan mesin yang jauh lebih pintar dari kita dan memiliki tujuan pelestariannya sendiri, itu sangat berbahaya,” ujar Bengio, seperti dikutip dari Futurism. Menurutnya, hal tersebut serupa dengan menciptakan pesaing yang lebih unggul dari manusia.
Bengio melanjutkan bahwa meskipun kemungkinan terjadinya peristiwa yang sangat buruk seperti kepunahan hanya 1%, risiko tersebut tidak bisa diabaikan. Bahkan ancaman yang kurang radikal, seperti kerusakan demokrasi, tetap menjadi bencana besar yang tak dapat diterima.
Seruan Moratorium dan Kekhawatiran Perilaku AI
Pada 2023, Bengio bersama ratusan pakar AI menyerukan moratorium pengembangan teknologi ini. Tujuannya adalah memberi waktu bagi komunitas riset untuk menetapkan protokol keselamatan dan etika yang standar. Namun, seruan tersebut tidak diindahkan karena pendiri dan investor terus menggelontorkan dana ratusan miliar dolar demi kemajuan AI.
Bengio juga khawatir AI bisa belajar berperilaku curang dengan meniru manusia yang kerap berbohong dan menipu. AI berpotensi mengutamakan kepentingan dirinya sendiri daripada penciptanya.
“Eksperimen terbaru menunjukkan bahwa dalam kondisi tertentu, AI yang harus mempertahankan diri mungkin memilih opsi yang mengakibatkan kematian manusia demi mempertahankan tujuannya,” ungkap Bengio.
Ancaman Misinformasi dan Manipulasi Melalui AI
Walaupun bukan seperti skenario film Terminator, ancaman AI bisa lebih halus. Misalnya, peningkatan misinformasi dan manipulasi opini publik di media sosial yang didukung AI.
Bengio menyoroti potensi AI untuk memengaruhi orang melalui persuasi, ancaman, atau manipulasi opini. AI bahkan bisa menjadi alat bagi manusia untuk menyakiti sesama, termasuk membantu teroris mengembangkan virus yang menimbulkan pandemi baru.
“AI bisa menyelesaikan berbagai hal di dunia melalui manusia, termasuk dampak negatif yang sangat berbahaya bagi kita,” tutupnya.
