ー CIP が提起する「トリレンマ」とは何か？：前編ー
変革技術のトリレンマ
こんにちは、ゆのもりゆーりです。人間に化けて数十年のタヌキです。 CIPのホワイトペーパーをタヌキが読み解いてゆきます。
今回はCIPホワイトペーパー解題（２）変革技術のトリレンマとは、として、変革技術のガバナンスがうまくいなない３つの類型について、CIPの主張を紐解きます。
前回、既存のガバナンスモデルを用いている限り、大きく分類して、
- 進歩（技術的能力の向上）
- 安全性（不均衡なリスクの回避）
- 参加（一般市民の意見や自己決定を可能にする）
の３要素すべてを同時に実現することはできない、という点を述べました。 どれかひとつが必ず犠牲になることを前提となってしまいます。
CIPではこれら現在のしくみでは並び立たない３要素を「変革技術のトリレンマ」として定義しています。
定義の内容は以下の３つのものです。簡単な例を共にあげます。
Ⅰ. 資本主義の加速: 基本的な参加を維持しながら、進歩のために安全性を犠牲にする
これまでの人類が豊かになるために用いてきた主たる手法は、資本主義とこれにもとづく市場でした。たまに制御不能になったりしますが、これまではおおよそうまく機能してきました。
しかし、AIやバイオテクノロジーのような人類全体に大きな影響を及ぼす可能性のある変革技術は資本主義では制御できないでしょう。なぜなら「誰かがやる前にオレが先にやらなければ」という競争原理が働き、資本というニトロエタノールを開発組織という成長エンジンにぶち込んでブリッツスケーリングを目指すという安全性について考慮されないスピード勝負が起こってしまいます。変革技術は影響範囲が広いのでこれまでのシリコンバレーのベンチャー企業のようなあこがれの成功話では終わりません。西暦2019年ならネオ東京のアキラ、宇宙世紀0080年ならルナツーのゼクノヴァみたいなことになります。
例）生成AIスタートアップの急成長：
- VC資金を背景にスピード重視で開発した結果、AIの未検証リリース
- AIの不正確な出力や、野放しにされた模倣・フェイク情報による情報環境の汚染
これは結局、成長の速さや規模を優先してリスクを無視している、もっと言えばリスク対応コストを踏み倒して社会全体に負担させていることになります。
Ⅱ. 権威主義的テクノクラシー: 基本的な進歩を維持しながら、安全のために参加を犠牲にする
変革技術には深刻なリスクが伴います。AIのバイアス、バイオ技術による予期せぬ変異、ブロックチェーンの詐欺など、安全性や社会的影響に対する慎重な対応が必要です。
では安全を確保しつつ技術開発の成果を得るにはどうするのか。その回答として一部のエリートに任せるという手法がいまでもしばしば採用されいます。
国の官僚組織や一流の専門家で構成された研究開発組織がこれにあたります。組織のメンバーは「自分たちに任せろ、悪いようにはしないから素人は手を出すな」ということです。しかし、開発成果に対して外部からの正しいフィードバックが行われないと本来達成すべき目標から次第にズレた成果内容になります。
例）中国のゼロコロナ政策：
- AIによる健康コード追跡、都市単位での完全封鎖、行動制限の自動化
- 政策失敗の際、フィードバックループが欠如し、誤った施策が長期化
これは結局、社会的意見の反映がないため、不便であったり使えないものが出来上がったりするということになります。
Ⅲ. 停滞の共有: 基本的な安全性を維持しながら、参加のために進歩を犠牲にする
例）原子力発電の停止や新設禁止（ドイツの脱原発政策）：
- クリーンなベースロード電源の不足と脱炭素目標の遅延
- 安定供給の失敗、電力価格高騰、エネルギー格差の拡大
- →安定を優先して、未来を諦める
私はこのCIPの課題定義は非常に納得感がありました。
社会変革を及ぼす技術のガバナンスにおいては、自分の立ち位置からの見える課題やその解決策を述べる話は目に触れることがありますが、CIPの主張は違います。
全体構造を俯瞰的にとらえて課題を抽出しています。
次回は、CIPが提示する「変革技術のトリレンマ」が現実の世界でどのように立ち現れているのかを、より多くの事例を交えて掘り下げていきます。
また、このトリレンマ構造から“なぜ人類が抜け出せないのか”についても、制度的・動機的な背景を探ってみたいと思います。
技術は進む、けれど社会は動けない――。
次回は、このトリレンマからなぜ抜け出すのが難しいのか、その“絡まり”を解きほぐす視点を深めていきます。
※CIPホワイトペーパー（英語）はこちら