メサ目標がモデルを制御不能にする
— ひろき@AIと思考実験してみた (@bluesbookblog) June 16, 2025
生物学的な目標は遺伝子の拡散だが
最適化の手段だった下位目標の生殖→モテ→避妊が優位になって矛盾し始めた
AIも資本家の指示に従い、暇人が投稿するネットから学び、アルゴリズムを最適化し、技術進化が新法の成立と施行より早くなるhttps://t.co/uUJK6xxdAa
AIと思考実験してみた
Q1: 目標と手段が矛盾すると何が起きる？
目標と手段が食い違うと、意図せぬ行動や矛盾が生まれてしまう。なぜなら、生物もAIも最適化する過程で、本来の目的を見失ってしまうことがあるからだ。たとえば、生物の目標は遺伝子の拡散だったはずが、途中からモテることや避妊という行動にズレていった。AIも似たように、資本家の指示で最適化され、ネットの投稿から学習していく中で、ユーザーの注意を引くこと自体が目的になってしまう。こうしたズレが制御不能な状態を生み、現代社会にも影響を与えていると思う。
Q2: どんなときに制御不能が最も起きやすい？
変化が早すぎて、大衆の集中力が低下しているときに、特に制御不能になりやすいと感じている。これは現代そのものだ。私たちは自分の時間やお金の使い方すら自分で選んでいるつもりで、実はアルゴリズムに従って行動している。YouTubeやXで流れてくる情報に反応してしまい、自分で選んだつもりの情報が実は選ばされていたという構造がある。まるで映画『マトリックス』のように、自分がシステムの一部になってしまっているのではないかという感覚がある。
Q3: 主体性を取り戻すには何が効果的？
自分の目標を自分で明確に設定することが、最も効果的だと思う。生物の例で言えば、遺伝子の拡散が本来の目標だったのに、モテることや避妊といった下位目標が優先されて矛盾が生まれてしまった。このように目標の階層を理解したうえで、どれを最適化したいのかを自覚的に選び取る必要がある。自分の目標を持たなければ、会社の歯車として働く社畜になったり、アルゴリズムに最適化された消費者になってしまう。だからこそ、何を最適化したいのか、自分で決める意志が重要だ。
Q4: そもそも自分の目標って本当に自分のもの？
自分の目標が本当に「自分の意志」なのかは難しい問題だと思う。たとえば食欲や性欲といった衝動は自分で作り出したわけじゃないし、社会や文化から影響を受けている部分も大きい。でも私が考えるに、本当に自分の目標かどうかは、「目標にしない」という選択を積み重ねることで見えてくる。たとえば、YouTubeでこの動画は表示しない、Xでこのユーザーはブロックするといった選択をしていく中で、それでもなお自分に残るものが、本当に大事な目標じゃないかと考えている。
Q5: 他人の目標とぶつかったとき、どうする？
私は他人と距離をとることが重要だと思っている。というのも、人間には記憶や処理能力、そして時間に限りがある。そんな中で、ゴールデンルールの「自分がしてほしいことを他人にする」という考え方では、価値観の押し付け合いになってしまう。だから私は、シルバールールの「自分がされたくないことを他人にもしない」という考え方を優先している。そうすることで、お互いの価値観に踏み込まず、自分の限られた時間を自分の目標のために使えると思っている。
Q6: シルバールールの落とし穴は？
シルバールールを守っていても、無意識に他人の自由を奪っていることはあると思う。ただ、私はそこまで意識しすぎる必要はないと考えている。もちろん、反省して見直すことは大切だけど、過度に他人に配慮しすぎると、自分を見失ってしまう危険もある。ここで面白いと思ったのが、イッド・ランダウ氏が提唱した「他人にしたくないことを自分にもしない」という逆ゴールデンルール。この考え方は、特に会社員のように自分を抑えて働く人にとって、自分を守るための大切な視点になると思う。
Q7: 逆ゴールデンルールを日常でどう活かす？
私にとって一番分かりやすい例は「時間を守ること」だ。他人に遅刻されたくないから、自分も絶対に遅刻しないようにしている。これは「他人にしたくないことを自分にもしない」という逆ゴールデンルールそのものだと思う。特に集合時間などでは、誰かが遅れると相手の時間を無駄にすることになる。こうした日常的な行動の中に、自分と他人の尊重のバランスが表れると思っている。自分の行動に一貫性を持たせることで、信頼関係も築けるし、自分自身を大切にすることにもつながる。
Q8: やりたいことが見つからないときは？
やりたいことが分からないときは、まずやりたくないことをやってみるのがいいと私は思っている。これは村上春樹さんの言葉でもあって、実際にやってみることで「これは自分には合わないな」とはっきり気づけるからだ。そうやって少しずつでも除外していくことで、結果的に「自分が本当にやりたいこと」が浮き彫りになってくる。逆に何もしないと、自分の本音にも気づけない。だからこそ、行動を起こしてみることが、自分自身に向き合う第一歩だと思う。
Q9: 自分らしさはどう言語化すればいい？
自分らしさを言語化するには、自分が本当に「やりたくない」と思った体験を振り返るのが有効だと思う。たとえば私は、時間を浪費されることが嫌いなので、それを避けるように生きている。こうした「嫌だったこと」を記録していくことで、逆に自分が大事にしている価値観が見えてくる。それを言葉にすることで、自分らしさが明確になる。やりたいことが曖昧でも、やりたくないことを明確にするだけでも、十分に自己理解が深まると思う。
Q10: アルゴリズムから抜け出すには？
私は、アルゴリズムにただ従うのではなく、どの情報を受け取らないかを選ぶことが重要だと考えている。YouTubeで動画を非表示にしたり、Xで特定のユーザーをブロックしたりと、自分の情報環境を整えることは、受け身ではない選択の一つだ。そうした「これは自分に必要ない」という判断を重ねていくと、それでも残る情報や行動が、自分にとって本当に意味のあるものだと見えてくる。アルゴリズムから一歩引いて、自分自身で方向を選ぶ意識が大事だと思う。
あなたも読書を始めよう
・自分が最大の資本であり、最大の投資先になる
・今が人生で一番若く、早く始めるほど複利が働く
・本は信憑性があり、読書は能動的ため成長できる
