การวิจัยปัญญาประดิษฐ์ทั้งสองด้าน: ความก้าวหน้าที่น่าทึ่งและความเสี่ยงที่อาจเกิดขึ้น

เมื่อเร็วๆ นี้สาขาการวิจัยปัญญาประดิษฐ์ (AI) ได้เห็นความก้าวหน้าที่น่าทึ่งมากมาย แต่ก็ทำให้เกิดความกังวลเกี่ยวกับความเสี่ยงที่อาจเกิดขึ้นเช่นกัน แม้ว่าบางคนเชื่อว่าบริษัทเทคโนโลยีรายใหญ่ เช่น OpenAI, Anthropic และ Google เผชิญกับความท้าทายเนื่องจากขาดสื่อการฝึกอบรมคุณภาพสูงเพื่อขับเคลื่อนการพัฒนาระบบ AI ในทางกลับกัน Creative AI ก็ยังคงเดินหน้าต่อไป

เมื่อเร็วๆ นี้ Sam Altman ซีอีโอของ OpenAI กล่าวว่าปัญญาประดิษฐ์ทั่วไป (AGI) อาจประสบความสำเร็จเร็วกว่าที่คาด ซึ่งจะนำการเปลี่ยนแปลงครั้งใหญ่มาสู่โลก ตามที่ Roman Yampolskiy นักวิจัยด้านความปลอดภัยของ AI และผู้อำนวยการห้องปฏิบัติการความปลอดภัยของข้อมูลแห่งมหาวิทยาลัย Louisville มีโอกาส 99.999999% ที่ AI จะยุติอารยธรรมของมนุษย์ เขาเชื่อว่าวิธีเดียวที่จะหลีกเลี่ยงผลลัพธ์นี้ได้คือการไม่สร้าง AI

การติดตั้ง "ปุ่มซอฟต์สต็อปสากล" บนฮาร์ดแวร์ส่วนกลางอาจเป็นวิธีแก้ปัญหานี้ได้ Vitalik Buterin ผู้ร่วมก่อตั้ง Ethereum เสนอแนวคิดที่จะดำเนินการปิดระบบฮาร์ดแวร์ทั่วโลกแบบนุ่มนวลเพื่อซื้อเวลามากขึ้นสำหรับโลกเพื่อเตรียมพร้อมสำหรับการเปลี่ยนแปลงที่เกิดจาก AI “ในช่วงเวลาที่สำคัญ การลดพลังการประมวลผลที่มีอยู่ของโลกลง 90-99% และกลับสู่การทำงานปกติภายใน 1-2 ปี เราสามารถเตรียมพร้อมสำหรับกระบวนการนี้ได้ดีขึ้น” เขากล่าว

เมื่อเริ่มต้นแล้ว วิธีนี้จะถือเป็นแนวทางก่อกวนเนื่องจากอาจส่งผลกระทบอย่างมีนัยสำคัญต่อเศรษฐกิจและสังคมโลก แต่ Danlin เชื่อว่ามันคุ้มค่าที่จะลอง “ถ้าเราซื้อได้ 1-2 ปีก็เพียงพอแล้ว เพราะในเวลานั้นเราสามารถเปลี่ยนแปลงครั้งสำคัญได้” เขากล่าว