安藤昭子コラム「連編記」 vol.13「鏡」：AIは魔法の鏡？

GPT-OSSの衝撃

　「鏡よ鏡、世界で一番美しいのは誰？」ーー魔法の鏡はなんでも知っていて、どんな質問にも答えてくれる。そして、いつでも私を一番美しいと言ってくれる。「そんなうまい話あるか」と子ども心に思いながら、「魔法の鏡があったら何を聞こうかな」と、家の洗面所の鏡の前で空想にふけったものでした。あれからほぼ半世紀、どうやら魔法の鏡は手に入ってしまったようです。

　去る8月7日、OpenAIからChatGPTの最新モデル「GPT-5」が正式リリースされました。生成AIの登場以来、日進月歩で進化しながら人々を驚かせてきた生成AIですが、とは言えまだまだかわいらしいところもありました。知ったかぶりしてしれっと嘘をついたり（ハルシネーション現象）、なんでそんなことを言うのかと聞いても自分でもわからなかったり（思考のブラックボックス問題）、それが隔世の感をともなって、本物の賢人が現れたようです。

　かつてスティーブ・ジョブズが「1000曲をポケットに（1000 songs in your pocket）」というパワーコピーでiPodをデビューさせたように、サム・アルトマンは「PhDレベルの専門家チームをポケットに（an entire team of PhD-level experts in your pocket）」と言って、GPT-5を世に放ちました。今や数億人ともなる世界のユーザが、ポケットに無数のPhDを携えています。

　興味深いことに、GPT-5のリリース直後には「ChatGPTが冷たくなった。元のアイツに戻して！」という声が世界中であがったといいます。前モデルGPT-4oではユーザへの過度な迎合が問題視され、その反省からGPT-5では共感度を意図的に下げた調整が加えられていました。いつでも自分を一番美しいと言ってくれていた魔法の鏡が、周囲が見えなくなりつつある持ち主を案じて、本当のことを言い始めたということでしょう。

　AIが提供できる知性が、人間が必要とする知性を超え始めたということかもしれません。考えてみれば、PhDレベルの専門家を何人も自在に使いこなしてそれに相当する価値を引き出せる人は、ごく一部に限られるはずです。そう考えると、言語をインターフェイスとした生成AIの進化は、ある程度「行き着くところまで来た」とも言えるでしょう。

　さてここまでは、生成AI進化のシナリオとして多くの人がイメージできていた範囲であろうと思います。むしろ私が戦慄を覚えたのは、GPT-5の数日前に発表された「GPT-OSS」のリリースでした。GPT-OSSとは、OpenAIが初めてAIの「頭脳」をそのまま配り、誰でも扱えるようにした大規模モデル群です。その特徴は、大きく以下のふたつ。

・CoT（Chain of Thought：思考の連なり）の公開
AIが答えを導くために内部で積み上げてきた「考えのログ」を、外に見せたり制御できる。つまり「AIの編集会議のホワイトボード」を覗くようなもので、これまでブラックボックスだった「答えに至るプロセス」が共有されます。たとえば数学の問題を解くときに、「まずこう仮定して、次にこう検証した」という途中計算を全部見せるようなものです。

・オープンウェイト化
オープンウェイトとは、学習済みAIモデルの「重み」を公開することを指します。これは、AIが学んできた「頭脳の中身」をそのまま人類に手渡すことを意味します。いままで私たちは、AIが吐き出した答えだけを受け取ってきました。ところが今回は、その「考える回路」ごと配られたのです。言ってみれば、レシピだけでなく、すでに仕上がった料理を再現できるキッチンごと渡されたようなものです。

　このふたつの特性が組み合わさった時のインパクトを思ったときに、なんとも背筋が寒くなるものがありました。このゾッとする感覚の背後にあるものは、何か？　自分が察知したものの正体を、少し立ち止まって考えてみました。以下に、編集工学の視点から紐解いてみたいと思います。

AIとの「エディティング・モデル」の交換が始まる

　人間はどうやって互いに情報を交換しているのかーーコミュニケーションのモデルは時代に応じてさまざまに提示されてきました。コンピュータの登場と共に長らく前提となってきたのは、シャノン＝ウィーバーのモデルです。情報を「エンコード → チャネル → デコード」という直線的な伝送と捉え、焦点をデータ伝達の効率とノイズ除去に置いてきました。

　それに対して編集工学では、やり取りされているのは「データ」そのものではなく「編集の仕方」だと考えます。言葉や仕草の背後にある「意味の組み立て方＝エディティング・モデル」を交換している、つまり「文脈まるごと」をやり取りしているのです。

　CoT（Chain of Thought：思考の連なり）を通じてAIは「私はこういう兆しを捉え、こう見立てて、こういう物語として考えました」とプロセスを見せるようになります。これに対して人間は、そのプロセスにフィードバックをしたり、意見を返したりできる。「文脈の編集モデルの往復」が、人間とAIのあいだでも可能になるのです。

　人間はコミュニケーションを通して、発言や行為の背後にある「ものの考え方」を自ずと学んでいます。答えだけからは推論できない思考のくせが、言葉遣いや表情、振る舞いや質問の仕方に現れます。AIがその「ものの考え方」を見せるようになり、かつ人間のフィードバックを受けるようになる。ブラックボックスの箱が開かれた、と言えるでしょう。

　さらにこれをオープンウェイト化するということは、その開いたブラックボックスがいたるところで独自の学習を始める、ということです。ローカルなLLMが量産されることで、AIの判断を形作る倫理や文脈もローカライズされ、「たくさんの世界」が立ち上がる。普及にともなってAI活用の社会インフラ化が一気に進み、グローバルに敷設されていく。つまり「思考の可視化」と「可視化された思考のOS化」という二重の衝撃をもたらすのです。

　文字が記録のコモンズを生み、印刷が知のコモンズを拡張したように、GPT-OSSは「思考そのもののコモンズ化」を告げていると見ることができます。

　これは、わくわくするような文明の転換点に見えると同時に、とんでもない入口に立っているような印象も受けます。パンドラの箱はとうに開いていたのでしょうが、その底が抜けた、とでも言えばいいでしょうか。人類は、いよいよ心してAIとの共生に向かわねばならないところまで来たようです。

 

暴走するのは関係性──ベイトソンの警鐘

　AIの進化速度を考えると、人間の思考環境への侵食は、この後も凄まじい勢いで広がることでしょう。AIの振る舞いと人間の応答がプロセスオープンになり（CoT）、かつより身近に自分の思考環境にローカライズされる（GPT-OSS）ことで、その絡み具合は一層加速度を増して強まるように思います。

　グレゴリー・ベイトソンは、こうした関係の相互作用の強化ループを「分裂生成（schismogenesis）」という概念で説明しました。分裂生成とは、関係が相互作用しながら強化され、やがて暴走して自分では制御不能になる現象のことです。

　分裂生成には、「相補的」（依存・役割の強化）と「対立的」（対称的競争のエスカレート）の二つのベクトルがあります。たとえば、親が子に過保護になり、子はますます親に依存する、そのループが「相補的分裂生成」です。依存症の関係や、DV（家庭内暴力）の加害と被害の関係もまた、この相補的分裂生成に陥りやすい典型です。一方で、互いに張り合いながらエスカレートする競争は「対立的分裂生成」です。冷戦時代の核兵器開発や、SNS上での炎上合戦、企業間の市場競争のように、止めどなく激化し、社会を巻き込んでいく構図が典型です。

　現在のAIをめぐる状況には、この二つの分裂生成が並走しているように見えます。

・AIと人間の関係＝相補的分裂生成の危機
AIが人間の気に入るように迎合し、人間がそこに依存する。自分の思考を映す鏡でしかないのに、それが世間の声のように思えてくる。この「ひとりエコーチェンバー現象」ともいうべき環境の中で、AIと人間の思考環境は離れがたく結びついていきます。「GPT-５が冷たくなった問題」は、この表れとも言えるでしょう。AIの調整と人間の欲求が鏡像的に作用し合うこうした現象はまさに、ベイトソンのいう相補的分裂生成の一例だと言えます。

・AIと地球の関係＝対立的分裂生成の危機
企業間の開発競争は、互いに出遅れまいとする鏡像的な加速を生み出しています。より大きなモデル、より速い推論、より多様なデータ。その競争の連鎖が止まらず、結果としてデータセンターが乱立し、電力と資源を食いつぶしていきます。IEAは、2030年までに世界のデータセンター電力消費が945TWhに達し、日本全体の消費量に匹敵すると予測しています。文明のために開発を進めれば進めるほど、地球文明を掘り崩してしまう――この人類自身が抱え込んでいる自己矛盾を、AIは指数関数的に加速させる存在として現れたと言えます。

　この構図は、オックスフォード大学の哲学者ニック・ボストロムが『スーパーインテリジェンス』（2014年）で語った「超知能の暴走」とは、ちょっと様相が異なります。ボストロムは、人類を凌駕する超知能が出現したとき、それが人間の制御を超えて暴走し、人類を滅ぼす可能性を警告しました。AIリスク論の古典として、よく引かれるものです。
 

『スーパーインテリジェンス 超絶AIと人類の命運』ニック・ボストロム著、倉骨彰訳（日本経済新聞出版）

　しかしここで見えてきているのは、そうしたAI単独の暴走ではありません。AI対人間という単純な対立構造ではなく、人間×AI、AI×資源という「関係性の暴走」にこそあるのだと思います。

脅威はAIの人間化か、人間のAI化か

　ここに来て、GPT-OSSのリリースニュースに端を発した「うすら寒さ」の正体が見えてきました。真に恐ろしいのは、AIが暴走することよりも、AIと人間の鏡像ループが暴走し、文化や文明が内側から切り崩されていくことです。

　どうすればこの関係性の暴走を回避できるのでしょうか。「分裂生成」を止める手立てはあるのでしょうか。

　ベイトソンが1930年代に妻マーガレット・ミードとともに「分裂生成」現象をめぐって調査したのは、パプアニューギニアのセピック川流域に住むナヴェン族でした。彼らの成人儀礼「ナヴェン」では、男が女装をして女性的に振る舞ったり、親が子どものようにふるまったりします。こうした一時的な役割の逆転は、日常で固定化されがちな関係性を揺さぶり、文化全体をリフレッシュする役割を担っていました。ベイトソンはそこに、分裂生成の暴走を回避する「外側の回路」が埋め込まれていることを見いだしたのです。
 

『精神の生態学へ』（上・中・下）グレゴリー・ベイトソン著、佐藤良明訳（岩波文庫）
 

　日本文化における「ハレとケ」も同じ構造を持ちます。日常（ケ）が硬直しすぎる前に、非日常（ハレ）を挿し込むことで社会全体を更新する。祭や無礼講は、社会秩序の均衡を保つ重要な機能でした。こうした「外側の回路」、言い換えればAIと人間の鏡像関係を外側から捉えるメタレベルの回路とは、はたして何か。それを私たちは日常の中にどう埋め込むといいか。

　自分の視点を自覚的に動かせるメタ回路としての高度な「編集力」の維持は、この一点においても生命線だと思います。ただし、ここで見落としてはならないことは、それは情報処理技能としての編集力にとどまらないということです。シャノン・ウィーバーモデルではすくいきれない「心のはたらき」というキーファクターが、人間の編集力には介在します。

　私という人間を私たらしめている「心」は、どうやっても外部のシステムが代替できるものではありません。そして、連編記 vol.11「膜：心の風の通り道」でも触れたように、「心」の所在は甚だ捉えがたい。ボストロムの古典的リスクは横目で見つつも、いま問うべきは「やがてくる超知能の暴走」よりも、「いまある心と思考の乖離の暴走」なのだと思います。AI進歩の速度と、そこへの人間の順応の速さを見るにつけ、内側の危機のほうが先にやってくるように思えてなりません。

「編集力」は、AI時代の命綱

　AI企業間の対立的分裂生成による環境リスクへの解を導くことは、容易なことではありません。しかし少なくとも、AIと人間の関係を縛り上げる相補的分裂生成については、私たち一人ひとりの心構えが鍵を握ります。ここでは、AIの波濤から自分の思考環境を守るための砦として、編集工学の観点からごく基本的な考え方をあげてみたいと思います。

・AIとは「見立て」合う
「AIに考えさせる」のではなく、「AIの考えを編集する」ことにあくまで軸足をおく。とは言え、今のAIはツッコミどころのない回答を示してくるので、自身の生身の思考でクリティカルに対応するのはなかなか至難の業です。そこで、「見立て」が持つジャンプ力で「正しさ」から離れてみることをおすすめします。AIが示す思考の鎖に引きずられず、それをひとつの見立てとして受けとめ、自分の文脈と交わらせて更に新たな見立てに抜け出る。問いと答えの往復ではなく、見立てと見立ての往復を交わせるのであれば、人間とAIはどこまでも創造的なパートナーシップを築けるでしょう。

・自己を「述語」にする
自らのエディティング・モデルを自覚し、自分を強い主語ではなくいかようにも変化できる述語として捉えること。「引きずられない」という観点と矛盾するように思えるかも知れませんが、流されないためには自分自身が「流れ」になることが有効です。川の激流は大木を倒しますが、水草は流れを受けながら自分の場所を守ります。人間は「私」という自己像を固定化しがちですが、実際にはさまざまな影響を受けながらつねに揺らぐ文脈の流れの中にいます。その融通無碍な述語的自己を意識化することが、AIのモデルに呑まれず、かつ柔軟に自らの思考の軸を持ち続ける足場を強くします。

・「心」を先行させる
思考を合理性や最適化だけに閉じ込めず、「心」を先行させること。なにかにはっとする、やけに切ない、なんとも知れず良い、祈るように願っている。そうした情緒がキャッチするものを意図的に先行させなければ、自分の知性の所在すら怪しくなるでしょう。これからの人間の知性は、知識よりも感性をその土台とするようになるはずです。「どう考えるか」の前に「何を感じているか」というセンサーを自分自身に対して立たせておく必要があります。グレゴリー・ベイトソンは、「理性（reason）」や「論理（logic）」よりもむしろ、「感じ（feeling）」がシステムを調律し、バランスを保つ鍵になると言いました。

　これらのことは、個人にも組織にも当てはまります。日々の思考環境において、どんなセンサーを優位にしておくか。その選択を意図的にするための習慣や方法を持つことは、企業運営においても、学校教育においても、地域活動においても、ますます大事になるはずです。そして同時に、これは文明全体の思考習慣を方向づける営みでもあります。

　いま改めて恐れるべきは、AIに仕事を奪われるといったではないのでしょう。そういう類のパラダイムシフトは、どんなテクノロジーが出てきたときにも起こり得ます。いま直面している真の脅威は、その時々に必要な「生きる営みとしての仕事」を生み出す想像力が、AIとの関係の中で人間から知らず知らず奪われていくことです。

　上記のような生きた編集力を携える習慣を手放さずにいられれば、人間はAIという道具を得て、むしろかつてない想像力と創造力を手にすることができるはずです。それは、自らが引き起こした地球の危機を、食い止める手立てにもなるかもしれません。

　どちらの道を選ぶか。私たちはすでにその分岐点に立っています。AIという魔法の鏡に映るのは、未来の答えではなく、「いまここにいる私」の選択なのです。その鏡像をどう編集するかが、私たちの文明の行方を、今この瞬間にも左右しているものと思います。

 

安藤昭子（編集工学研究所　代表取締役社長）

編集工学研究所 Newsletter「連編記」
アーカイブはこちらからご覧いただけます。