Хиймэл оюун ухааны судалгааны хоёр тал: Гайхалтай ахиц дэвшил ба болзошгүй эрсдэл
Хиймэл оюун ухааны (AI) судалгааны салбарт сүүлийн үед олон гайхалтай дэвшил гарсан ч болзошгүй эрсдэлийн талаар санаа зовоож байна. Зарим нь OpenAI, Anthropic, Google зэрэг томоохон технологийн компаниуд хиймэл оюун ухааны системийг хөгжүүлэх өндөр чанартай сургалтын материал дутмаг тул бэрхшээлтэй тулгардаг гэж үзэж байгаа ч Creative AI нь эсрэгээрээ урагшилсаар байна.
Саяхан OpenAI-ийн гүйцэтгэх захирал Сэм Алтман хиймэл ерөнхий оюун ухаан (AGI) нь төсөөлж байснаас эрт хүрч магадгүй бөгөөд энэ нь дэлхийд томоохон өөрчлөлт авчрах болно гэж мэдэгджээ. Луисвиллийн их сургуулийн Мэдээллийн аюулгүй байдлын лабораторийн захирал, хиймэл оюун ухааны аюулгүй байдлын судлаач Роман Ямпольскийн хэлснээр хиймэл оюун ухаан хүн төрөлхтний соёл иргэншлийг устгах магадлал 99.999999% байна. Ийм үр дагавраас зайлсхийх цорын ганц арга бол хиймэл оюун ухаан бүтээхгүй байх явдал гэж тэр үзэж байна.
Глобал техник хангамж дээр "глобал зөөлөн зогсоох товчлуур" суулгах нь энэ асуудлыг шийдэх шийдэл байж болох юм. Ethereum-ийн үүсгэн байгуулагч Виталик Бутерин AI-ийн авчирсан өөрчлөлтөд бэлтгэхийн тулд дэлхий дахинд илүү их цаг зарцуулахын тулд дэлхийн техник хангамжийг зөөлөн хаах санааг санал болгов. "Дэлхийн тооцооллын хүчин чадлыг 90-99 хувиар бууруулж, 1-2 жилийн дотор хэвийн үйл ажиллагаандаа эргэн орох эгзэгтэй мөчид бид энэ үйл явцад илүү сайн бэлтгэгдэж чадна."
Нэгэнт эхэлсэн бол энэ нь дэлхийн эдийн засаг, нийгэмд чухал нөлөө үзүүлж болзошгүй тул эвдэрсэн арга байх болно. Гэхдээ оролдох нь зүйтэй гэж Данлин үзэж байна. "Хэрвээ бид 1-2 жил худалдаж авч чадвал хангалттай, учир нь энэ хугацаанд бид томоохон өөрчлөлт хийх боломжтой" гэж тэр хэлэв.
