Kedua-dua belah penyelidikan kecerdasan buatan: Kemajuan menakjubkan dan potensi risiko
Bidang penyelidikan kecerdasan buatan (AI) baru-baru ini menyaksikan banyak kemajuan yang menakjubkan, tetapi ia juga telah menimbulkan kebimbangan tentang potensi risikonya. Walaupun ada yang percaya bahawa syarikat teknologi utama seperti OpenAI, Anthropic dan Google menghadapi cabaran kerana mereka kekurangan bahan latihan berkualiti tinggi untuk memacu pembangunan sistem AI, Creative AI, sebaliknya, terus bergerak ke hadapan.
Baru-baru ini, Ketua Pegawai Eksekutif OpenAI Sam Altman berkata bahawa kecerdasan am buatan (AGI) mungkin dicapai lebih awal daripada jangkaan, yang akan membawa perubahan besar kepada dunia. Menurut Roman Yampolskiy, penyelidik keselamatan AI dan pengarah Makmal Keselamatan Maklumat di Universiti Louisville, terdapat 99.999999% kemungkinan AI akan menamatkan tamadun manusia. Dia percaya satu-satunya cara untuk mengelakkan hasil ini adalah dengan tidak membina AI.
Memasang "butang henti lembut global" pada perkakasan global mungkin merupakan penyelesaian kepada masalah ini. Pengasas bersama Ethereum Vitalik Buterin mencadangkan idea untuk melakukan penutupan lembut perkakasan global untuk membeli lebih banyak masa bagi dunia untuk bersedia untuk perubahan yang dibawa oleh AI. "Dalam masa genting, mengurangkan kuasa pengkomputeran dunia sebanyak 90-99% dan kembali kepada operasi biasa dalam masa 1-2 tahun, kami boleh lebih bersedia untuk proses ini."
Sebaik sahaja dimulakan, ini akan menjadi pendekatan yang mengganggu kerana ia boleh memberi kesan yang besar kepada ekonomi dan masyarakat global. Tetapi, Danlin percaya, ia berbaloi untuk dicuba. “Kalau boleh beli 1-2 tahun pun sudah memadai, sebab dalam masa itu kita boleh buat perubahan ketara,” katanya.
