人工智能（AI）研究領域最近出現了許多驚人的進展，但也引發了對其潛在風險的擔憂。雖然一些人認為，主要技術公司如OpenAI、Anthropic和Google面臨著挑戰，因為他們缺乏高質量的訓練資料來推動AI系統的發展，但是另一方面，創造性AI繼續向前邁進。
最近，OpenAI CEO Sam Altman 表示，人工一般智慧（AGI）可能比預期的早達成，這將對世界帶來重大變化。根據AI安全研究者和路易斯維爾大學資訊安全實驗室主任Roman Yampolskiy的說法，有99.999999% 的機會，AI 將終結人類文明。他認為唯一能避免這種結果的是不建造AI。
在全球硬體上安裝一個「全球軟停鈕」可能是解決此問題的一個方法。Ethereum联合创始人Vitalik Buterin提出了一個想法，即對全球硬體進行軟性關閉，從而買得更多時間讓世界準備好應對AI帶來的變化。「在一個危急時刻，減少全球可用計算力90-99%，並在1-2年內恢復正常運行，我們可以更好地為這個過程做好準備。」他說。
一旦開始，這將是一種具有破壞性的方法，因為它可能會對全球經濟和社會造成重大影響。但是，但林認為，值得嘗試。「如果我們能夠買到1-2年的時間，那就足夠了，因為在那段時間內，我們可以做出重大變化。」他說。
