変革技術とは
こんにちは、ゆのもりゆーりです。人間に化けて数十年のタヌキです。 CIPのホワイトペーパーをタヌキが読み解いてゆきます。
今回はCIPホワイトペーパー解題（１）として、変革技術とは何か、また誰がどのように管理しているのか、そこにどんな問題が起きるているのか、について考えます。
CIPのいう「変革技術（Transformative Technology、TTs、トランスフォーメイティブ・テクノロジー）」とは社会を大きく変える技術を指しています。例えば以下のようなものです。
- AI（汎用人工知能、判断の自動化）
- バイオテック（遺伝子編集、合成生物学）
- ブロックチェーン・暗号技術（自律的な金融・組織ガバナンス）
変革技術は、膨大な数の人々に影響を与え、長期的な文明の軌道を変える技術です。一般的な技術とは一線を画しています。
2010年代にだったら、シンギュラリティ（技術的特異点）で実現されるはずの技術でしょうか。 変革技術は人類にキラキラの未来世界やいびつなディストピアを想像させてくれます。
これらの変革技術開発が実現するかもしれない未来のイメージは、一部の人々や、彼らが所属する別々の組織・集団によって、かなり狭い範囲の前提やあいまいな仮定に基づいてバラバラに決定されていると考えられます。
これはかなり危険なことだと思います。
変革技術へのガバナンスの限界
どのように危険なのでしょうか。これらの変革技術が、誰によりどのようにコントロールされているのかをみてみましょう。
変革技術のガバナンス（統治・管理） には大きく、以下の３つの観点が同時に成立されることが要求されます。
- 変革技術の発展を維持・加速するためのガバナンス
- 変革技術を安全に開発・利用するためのガバナンス
- 変革技術を公共の利益にかなうものとするためのガバナンス
なぜこれらが必要かと問われるならば、変革技術は人間の生活に及ぼす影響が広く深い技術であり、だれもがその恩恵を受けられるべきで、またその悪影響からだれも逃れられないからです。
これらの三つの要求を、現在用いられているガバナンスモデルに適用すると、バラバラな管理主体によってそれぞれの要求を満たすためだけの管理が行われていることがわかります。以下に代表的な例をあげます。
- 変革技術の加速
- 変革技術の開発を加速したい場合、市場経済の評価に基づいて「投資家による選別と強化」が行われます。変革技術の投資において主導的な役割を果たすのはベンチャー・キャピタル（VC）です。
- 安全性の向上
- 変革技術の乱用を防ぎ社会全体の安全性を向上させる場合には「政府・官僚組織による規制と管理」が行われます。
- 市民の意見の反映
- 公共材・公共サービスの変革技術の適用に、市民の意見の反映をするのであれば「代議制民主主義」による間接的な意見の反映が行われます。
これら既存のガバナンスモデルを用いて、広範囲に及ぶ技術の影響を別々の主体が統治しようとする限り以下のような問題の発生は免れないでしょう。以下に簡単な例をあげます。
- 投資家による選別と強化
- 市場経済の視点からいかに儲けるか、利益と成長に重点が置かれて意思決定されます。
- その結果公的な意見（倫理性）の軽視や、これまでの規制がカバーしていない不安全な技術開発が行われる可能性があります。
- 政府・官僚組織による規制と管理
- 一部の専門知識をもった専門家が意思決定することが安全性につながるとしてされます。
- その結果、プライバシーの監視や、行動規制など、市民の権利侵害が起こる可能性があります。
- 代議制民主主義
- 広く公平性に重点がおかれて意思決定される。その結果、高度技術の説明や影響の想定などを伴う大規模な調整が必要となり、技術の進歩に悪影響を及ぼす可能性があります。
既存ガバナンス手法と犠牲になる要素の例（あくまで例）
| 主なガバナンス主体の例 | 観点 | 犠牲になる要素 |
|---|---|---|
| 変革技術保持企業・ベンチャーキャピタル | 技術加速 | 安全性（規制の軽視） |
| 官僚機構・規制当局 | 安全性 | 市民参加（専門家の支配） |
| 代議制民主主義・権威集団 | 市民参加 | 技術加速（合意の不全） |
なんだか抽象的でよくわからん？…そですね。
手っ取り早く理解するためにの映画で似たような話を探してみましょう。（私はタヌキですが映画が好きです。）以下の映画はこれらの問題が誇張されて表現されているのでわかりやすいかもしれません。
- 映画ロボコップ２では、オムニ社によってヌーク中毒の哀れなケインはサイボーグに改造されてひどい目にあいました。（規制の軽視）
- 映画アキラでは、こっそり超能力の研究をしていたことがばれた大佐は周りから激詰めされて思わずクーデーターをおこしてしまいました。（専門家の支配）
- 映画ドントルックアップでは、人類はわぁわぁと日々スキャンダルを追いかけているうちに彗星が地球に激突してしまいます。（合意の不全）
…むしろわからん、すみません。
変革技術は、もたらされる結果の範囲が大きいため、人類が長い歴史の中で作って使ってきたガバナンスモデルが通用しません。
多くの人間はこの問題に気づかないでいるか、あるいはこれまでのルールに固執して意図的に無視していると思われます。
次回は、CIPが提示する「変革技術のトリレンマ」が現実の世界でどのように現象しているのかを、事例を交えて掘り下げます。
※CIPホワイトペーパー（英語）はこちら