技術は素晴らしい使用人だが、恐ろしい主人である
— ひろき@未熟なリバタリアンがAIソクラテスと思考実験してみた (@bluesbookblog) June 30, 2025
産業革命で天才の機械を馬鹿が動かす経済、コンピューター革命で天才の技術を別の天才が活用する経済になった
政府が国民の思想と行動を統制する監視社会or企業がターゲティング広告で購買行動を最適化する市場社会になるhttps://t.co/N5YNaGoxCr
AIと思考実験してみた
Q1: 技術はなぜ「恐ろしい主人」と呼ばれるのか？
技術は本来、人の生活を豊かにする「素晴らしい使用人」だけど、それを誰がどう使うかで「恐ろしい主人」にもなるからだ。産業革命では天才が作った機械を大衆が動かし、コンピューター革命では天才の技術を別の天才が活用する経済になった。さらにAI革命では、天才たちが技術を使って大衆の行動や思考をコントロールする社会が現実化しつつある。たとえばAmazonのジェフ・ベゾスのようなプラットフォーム企業のCEOが、自分たちの欲望に沿ってアルゴリズムを調整し、従業員だけでなくユーザーまでもがその意図に組み込まれてしまう。技術の進化が「誰のために、どのように」使われるかによって、社会全体の構造が支配型に傾いていく可能性があると私は感じている。
Q2: 技術が進化して支配構造はどう変わった？
技術の進化によって、支配の方法がより巧妙になってきたと思う。昔は人手で動かす単純な機械だったのが、今ではAIを使って人の感情や欲望を予測・操作する時代になった。特に、天才たちが作った技術を別の天才が活用して、自分たちに都合のいいように社会全体を設計するようになっている。たとえばAmazonでは、買い物の履歴や検索ワードを使って個人に最適化された広告を表示し、無意識に消費へと導いていく。このように、技術が進化するほど、支配はより目に見えにくく、逃れにくい形になる。だから私は、今の時代は「見えない主人」に操られやすい社会だと感じる。
Q3: アルゴリズム時代に自律を保つには？
自分の時間とお金の使い方に自覚的になることが大切だと思う。ナチスの強制収容所での体験を語ったヴィクトール・フランクルのように、人は外側の自由を奪われても内面の自由だけは守ることができる。その考え方は、現代にも通じる。たとえターゲティング広告にさらされても、それに流されるかどうかを選ぶ自由は残されている。たとえば私は、YouTubeやXのタイムラインに流れてくる情報に対して「表示しない」ボタンを押すことで、アルゴリズムの誘導に抗っている。誘惑に反応する前に、自分で意識して行動を選ぶことが、今の時代の自律だと思う。
Q4: 予測される欲望に抗う力は残されるか？
人間にはまだ抗う力は残っていると私は信じている。そのためには、自分で「誘惑されにくい環境」を事前に整えることが重要だ。たとえば、オデュッセウスがセイレーンの誘惑に対抗するために自らをマストに縛ったように、自分を制限する仕組みをあらかじめ作っておく。私自身、スマホにXなどのアプリは入れておらず、スクリーンタイムで使用制限もかけている。こうすることで、強い意志に頼らずに自律を守ることができる。つまり、「技術の誘惑」に抗うには、「意志」よりも「環境設計」がカギになるというのが私の考えだ。
Q5: 自律の仕組みにおける社会や教育の役割は？
社会や教育が果たす役割はこれからもっと重要になると思う。なぜなら、国家主導で管理社会へ進むか、企業主導で市場社会が進むか、その分岐点に私たちは立たされているからだ。教育次第で、市場社会の歯車として動くだけの人間になるのか、それとも自律的に生きる力を持つ人間になるのかが決まる。子ども時代には内発的動機で動いていたのに、義務教育や資本主義に取り込まれることで、それを失ってしまう人が多い。だからこそ、どんな教育を施すかが、自律性を持った市民を育てるうえで決定的に大事だと私は思う。
Q6: 自律的な教育の可能性はどこにある？
私は、N高のような取り組みが自律的な教育の可能性を示していると思う。不登校の子どもたちがMinecraftなどのゲームを通じて、協調性や学習の場を持てる仕組みは、内発的動機を重視している点で画期的だ。こういった新しい技術に対して感度の高い子どもたちに、大人が干渉しすぎないことが大事だと思う。ダグラス・アダムスが言ったように、0〜15歳のテクノロジーは自然なもので、若者はそれを肯定する傾向にある。だからこそ、彼らの感覚を尊重する教育が、これからの時代を生き抜く鍵になると私は感じている。
Q7: 若者の技術受容と格差の関係は？
若者が新しいテクノロジーを自然に受け入れていく力は、社会格差を乗り越える手段にもなりうる。ダグラス・アダムスの法則では、若者が肯定する技術を年配者は拒否する傾向があるが、そこにこそ逆転のチャンスがある。たとえば、親世代が否定するゲームやSNSでも、子どもたちはそこから学びや繋がりを得ている。私も、こういった感覚を大人が理解し、支援することが、未来の教育や格差是正にとって重要だと考えている。新しい技術を活用できる感覚を育てることが、資本主義の中で敗者とされている人々が再びチャンスを掴むための武器になると信じている。
Q8: 内発的動機に基づく学びは何を変える？
内発的動機に基づいた学びは、社会の支配構造そのものを変える力を持っていると私は思う。強制や管理によって得た知識はすぐに忘れられるが、自分が知りたいと思って得た知識は深く根づく。そして、その積み重ねが、他人に支配されない思考の土台になる。たとえばN高のような環境では、生徒たちが自分のペースで学び、興味を深掘りすることができる。そうした教育が当たり前になれば、上からの操作に流されない、自律した市民が増えていく。これは、資本主義や管理社会に対する最も根本的な抵抗になると私は考えている。
Q9: テクノロジーと共生する条件とは？
テクノロジーと共生するには、それに使われるのではなく「使う側」であるという自覚が必要だ。特にAIのような技術は、人間の欲望を先回りしてくるため、気を抜くとすぐに受け身になってしまう。だから私は、技術と距離を取りつつ、それをコントロールする側に立てるような訓練や教育が必要だと思っている。たとえばアプリの使用制限をかける、通知をオフにするなど、技術との付き合い方を意識的に設計することが共生の第一歩だ。技術に巻き込まれるのではなく、選択できる立場に立つことが、これからの時代を生き抜く条件だと感じている。
Q10: 社会は今後どちらへ向かうべきか？
社会は「監視社会」か「市場社会」かという二項対立ではなく、個人の自律を基盤とした第三の道を模索すべきだと思う。監視や最適化は効率を高める一方で、人間らしさを奪ってしまう。だからこそ、個々人が自分の時間とエネルギーの使い方を主体的に決められる社会を目指すべきだ。教育や制度設計のなかで、テクノロジーに対するリテラシーと自制心を育てる仕組みを整えることが、その土台になる。私は、そうした社会こそがテクノロジーと調和しながらも、人間の尊厳を守る方向性だと信じている。
あなたも読書を始めよう
・自分が最大の資本であり、最大の投資先になる
・今が人生で一番若く、早く始めるほど複利が働く
・本は信憑性があり、読書は能動的ため成長できる
