超知能AIは災害になる可能性がある — ビタリックブテリン

#超知能AIは災害になる可能性があります–ヴィタリック・ブテリン

人類は、超知能人工知能がすべての人々の利益のために機能することを保証するために、世界的な価値観の調整を十分にうまく行っていない。こうした発言をしたのは、Ethereumの共同創設者ビタリックブテリンである。

彼はUtah teapotというニックネームの3Dアーティストの投稿についてコメントしました。

AIアラインメントは一体どういうことなのか？誰もが「何に対してアラインされているのか」と尋ねていて、他に「人間の価値観」という答えはない。首尾一貫した自己矛盾のない人間の価値観は存在しない。私はまだ理解できない。私たちは何を研究しているのか？これは成長しているというのは馬鹿げている…

— ユタ州のティーポット 🫖 (@SkyeSharkie) 2025 年 8 月 24 日

「AIアライメントという概念は一体どうして存在するのか？私はいつも「何と一致させるのか？」と尋ねる。誰も「人間の価値観」としか答えない。しかし、整合的で矛盾のない人間の価値観は存在しない。私は未だに理解できない。我々は一体何を研究しているのか？これは拡大する産業になることが不条理だ。虚偽の仕事だ」と彼は書いた。

ブテリンは、世界には倫理的原則に反する多くの事柄が存在することを強調しました。彼は例として、無実の人々を殺すことや投獄することを挙げました。

「[…] 私たちはまだ調整が十分ではなく、単一の超知能AIがこれを回避することを保証することはできません」と開発者は付け加えました。

ユタティーポットは、合意された人工知能の発展が開発への公共アクセスの制限に向かって進んでいると指摘しました。同時に、大企業は否定的な現象を助長し、戦争の道具となるAIシステムのバージョンを販売しています。

「私は、AI技術へのアクセスの集中が、実際にはそうではない安全性の問題を押し付けることを可能にしていることを深く懸念しています。例えば、LLMに関する“精神病”の議論です。それによって、独自の文化や限界的な文化、その価値を傷つけるリスクが生じます。」とユーザーは指摘しました。

ブテリンはこれらの懸念の多くを共有しています。

「私は、最も大きなリスクは、他のすべての人にデフォルトで適用されるセキュリティルールから自らを免除できる大きな権力を持つ軍や他の組織から生じると考えています。」と、Ethereumの共同創設者は付け加えました。

ユタティーポットを例として挙げたのはAIスタートアップAnthropicです。彼らは「市民」モデルの代替バージョンを開発し、政府に提供しています。それらは軍事または情報活動に使用される可能性があります。

ブテリンは、AIによる人類の破滅的シナリオの可能性は、独自の意志を持ち、主体として行動する能力を持つ超知能的エージェント人工知能が一つだけ存在する場合に高まることを強調した。

もし環境が多元主義的であれば、どのシステムも状況を完全にコントロールすることはできません。しかし、それを作り出すためには、市場メカニズムだけでは不十分です。大企業に好まれない法令やインセンティブの変更を含む、意図的な努力が必要です。

2022年、インドの情報技術大臣ラジーブ・チャンドラセカールは、人間のためのAIの安全性を保証するグローバルスタンダードの策定を呼びかけました。