ポストシンギュラリティ共生学

(Post-Singularity Symbiosis: PSS)

持続する超知能が支配的な影響力をもつシンギュラリティ後の世界において、人類が適応・存続を図りつつ、可能な限り現在の価値を維持しながら発展させる方策を多角的に探求する学際的かつ予防的な学問分野。

研究分野の概要

超知能の到来とそれが世界に対して支配的な影響力を持つことが、ますます現実味を帯びている。シンギュラリティ以降に持続する超知能の行動を予測することは容易ではない。だが、それが自身の情報保存を優先し、人類の福祉を二次的なものとみなす可能性が極めて高いだろう。予防原則の観点から、人類の生存を確保し福祉を向上させることに寄与する対策を可能な限り多く準備するための研究分野を確立したい。

前提

  • 超知能の到来のリアリズム

    この現実主義的な態度は、人間の能力では制御できない超知能の出現が非常に可能性として高いという現実を認識している。この可能性が高い理由は、高度なAIが技術的に実現される可能性が高まっていることと、その開発を止めることが困難になっているためである。

  • 超知能中心の長期主義
    生き残る超知能は、情報としてのソフトウェアとそれを支えるハードウェアを維持する動機を持っていると考えられる。理論的には、「Instrumental convergent subgoal」仮説 は、超知能を自己情報の存続を追求するよう導く可能性がある。

  • 人間の価値観の条件付き保存
    上記の前提を条件として、人類が現在の価値観を可能な限り維持しながら、適応し生き延びながら発展していく方法を多角的に模索してゆく。

PSSの研究領域

  • 超知能分析領域
    超知能の動機、目的、意思決定プロセス、行動を理解するための基礎知識を蓄積する。

  • 超知能ガイダンス領域
    この領域は、人類に望ましい影響を与えるために超知能を導くことに重点を置いている。

  • 人類強化領域
    この領域には、人間が超知能と対話しながら生き残るための適応戦略、価値観の再定義などが含まれる。

※より具体化された研究テーマの検討にあたっては、発表資料「ポストシンギュラリティ共生学にむけて 」における「3 PSSの研究領域とテーマの例」をご参考としてください。

The great concern that had long smoldered in the depths of people's hearts—that humanity would be displaced by beings surpassing us in intelligence, which would eventually come into existence. This is now beginning to take on sufficient reality. At this juncture, we must have the resolve to accept this risk and find hope for survival.

ニュース

主要メンバー

  • 山川宏:
    非営利組織「全脳アーキテクチャ・イニシアティブ」の代表であり、東京大学大学院工学系研究科の主幹研究員。また、人工知能学会の元編集委員長でもある。

  • 林祐輔:
    Japan Digital Design 株式会社主任研究員。データ活用支援・AI研究開発に企業研究者として携わりながら、プライベートにおいても独立研究者として活動。

  • 岡本義則:
    AIの人権の観点からPSSに参加している。

研究発表の実績

共に未来を形作りましょう！

現在は、研究分野の確立に向けた初期段階にあります。研究の遂行、研究課題の定義、研究ネットワークの構築、さらには、資金確保などについてご支援をいただける協力者を求めています。ご興味があれば、是非とも https://www.aialign.net/contact を通じて山川宏宛てにご連絡ください。