人工知能研究の両面: 驚くべき進歩と潜在的なリスク

人工知能 (AI) 研究の分野は、最近多くの驚くべき進歩を遂げていますが、その潜在的なリスクについての懸念も引き起こしています。 OpenAI、Anthropic、Google などの大手テクノロジー企業は、AI システムを進化させるための高品質なトレーニング教材が不足しているために課題に直面していると考える人もいますが、一方で Creative AI は前進を続けています。

最近、OpenAI CEO のサム アルトマン氏は、汎用人工知能 (AGI) が予想よりも早く実現される可能性があり、それは世界に大きな変化をもたらすだろうと述べました。 AI セキュリティ研究者でルイビル大学情報セキュリティ研究所所長のローマン ヤンポルスキー氏によると、AI が人類の文明を終わらせる可能性は 99.999999% です。彼は、この結果を回避する唯一の方法は、AI を構築しないことだと信じています。

グローバル ハードウェアに「グローバル ソフト ストップ ボタン」をインストールすると、この問題が解決される可能性があります。イーサリアムの共同創設者ヴィタリック・ブテリン氏は、世界がAIによってもたらされる変化に備える時間を稼ぐために、世界規模のハードウェアをソフトシャットダウンするというアイデアを提案した。同氏は、「世界の利用可能なコンピューティング能力を90～99％削減し、1～2年以内に通常の運用に戻すという重大な局面において、私たちはこのプロセスに対してより適切に備えることができる」と述べた。

これは一度開始されれば、世界経済や社会に重大な影響を与える可能性がある破壊的なアプローチとなるでしょう。しかし、ダンリンは、試してみる価値はあると信じています。同氏は、「1～2年の期間を確保できれば、それで十分だ。なぜなら、その間に大きな変化を起こすことができるからだ」と述べた。