技術が生まれるのはそれが可能であるから
— ひろき@AIと思考実験してみた (@bluesbookblog) May 8, 2025
2005年スタンフォード大学を中退して起業した
2015年AGI実現へOpen AIをマスクら6名で共同創業した
警戒主義者に加速主義者と思われ、一時解任されるが
株式公開買い付けしたい770名中700名の従業員が抗議文に署名し、復活を遂げたhttps://t.co/39afLq7wiL
AIと思考実験してみた
Q1: 技術はなぜ「可能なら生まれる」のか？
技術が生まれるのは、それが実現可能だからという考え方に賛成だ。なぜなら、人類の歴史を見ても、技術的に可能になった瞬間に社会はそれを現実化してきたからだ。サム・アルトマンが自らを原爆を開発したオッペンハイマーに重ね、「技術は可能だから生まれる」と語ったことは、人間の意志よりも技術の必然性を示している好例だと感じた。
Q2: 技術の影響には誰が責任を持つべきか？
最終的な責任は開発した技術者にあるべきだと思う。なぜなら、どれだけ国家が制度を整えても、技術を生み出したのは人間であり、その使い方を設計するのも人間だからだ。実際、AIのような影響力の強い技術では、制度・法規制・社会規範の三本柱が必要だと言われるが、それらを作るのも人間であることを忘れてはならない。
Q3: いま一番遅れているのは何か？
社会規範こそが最も遅れていると思う。なぜなら、制度や法律は時間がかかっても一応は形になるが、それらの基盤となる社会の常識や倫理観は文化の進化に依存しており、技術のスピードについていけていないからだ。例えば、人類の文化が遺伝子進化を追い抜いたように、今や技術が文化すら超えてしまっており、そこに大きなミスマッチが生まれていると感じる。
Q4: 社会規範を追いつかせるには？
社会規範を追いつかせるには、人々の考え方そのものを変える必要があると思う。なぜなら、大衆が一つの常識を共有すること自体が難しくなっており、資本主義のように欲望をベースとした社会では規範が崩れがちだからだ。サム・アルトマンはAI開発を通じて、人間の思考の「細部の軽視」に気づき、それを再現可能な形にしていった。このような視点の転換こそが求められている。
Q5: 考え方をどう広めていけるか？
正直、人間の考え方だけではもう限界にきていると思う。なぜなら、人間がこれまで最良と思って築いてきた制度、たとえば資本主義や民主主義ですら、今の技術的・環境的課題には対応しきれていないからだ。チャーチルの「民主主義は最悪の政治形態だが他よりはマシ」という言葉を借りるなら、資本主義もそうで、今後はAIが新たな制度を考えるべきだとすら感じる。
Q6: AIが制度を作るなら何が必要か？
AIが制度を作るなら、人間が最終判断できるイン・ザ・ループ設計が必要だ。なぜなら、完全にAIに任せればディストピアになってしまう可能性があるからだ。ただしその意思決定を誰が担うのか、たとえば中国かアメリカかといった問題が残る。過去にはヒトラーがラジオを利用して民主主義を逆手に取ったように、技術が独裁の手段になる危険もあると考える。
Q7: イン・ザ・ループの問題点は？
イン・ザ・ループの設計でも、意思決定の主体が偏れば逆効果になると思う。なぜなら、意思決定者が権力者や一部の国家に限られると、かえって不平等が拡大し、AIによる監視社会が進む可能性があるからだ。トランプのようなポピュリズム政治や、中国共産党によるAIの利用はその典型で、これらは民主主義の形をしながらディストピア的な未来を招きかねない。
Q8: グローバルな偏りを避けるには？
グローバルな偏りを避けるには、AIと人間が役割を分担し、倫理と合意形成に重点を置いた制度が必要だ。なぜなら、国家間の利害を越えるためには、感情よりも論理と透明性に基づいた仕組みが求められるからだ。たとえば、AIが多目的最適化で制度を提案し、人間の倫理委員会が文化や少数派の視点を交えて審査する、そんな制度設計が理想だと考える。
Q9: AIが作る制度の具体的な形は？
AIが制度を設計するなら、「AI提案＋人間審査型ガバナンス」が理想だ。なぜなら、AIの論理性と人間の倫理性をうまく組み合わせることで、経済成長と環境保護、社会的公平のバランスがとれるからだ。たとえば、GAISという仕組みでは、AIがデータに基づく最適解を提案し、人間が倫理・文化の観点から審査し、負の影響があればリアルタイムで修正していく。
Q10: その制度で一番大事な点は？
一番重要なのは、AIの判断がブラックボックスにならず、誰でも検証できる透明性だと思う。なぜなら、いくら制度が整っていても、その中身が分からなければ人々は信用できず、結局従わなくなるからだ。GAISではAIの判断ロジックを全公開し、意思決定プロセスの記録も残すことで、制度に対する信頼を高めることができると考える。
あなたも読書を始めよう
・自分が最大の資本であり、最大の投資先になる
・今が人生で一番若く、早く始めるほど複利が働く
・本は信憑性があり、読書は能動的ため成長できる
