ポストシンギュラリティ共生学
(Post-Singularity Symbiosis: PSS)
持続する超知能が支配的な影響力をもつシンギュラリティ後の世界において、人類が適応・存続を図りつつ、可能な限り現在の価値を維持しながら発展させる方策を多角的に探求する学際的かつ予防的な学問分野。
研究分野の概要
超知能の到来とそれが世界に対して支配的な影響力を持つことが、ますます現実味を帯びている。シンギュラリティ以降に持続する超知能の行動を予測することは容易ではない。だが、それが自身の情報保存を優先し、人類の福祉を二次的なものとみなす可能性が極めて高いだろう。予防原則の観点から、人類の生存を確保し福祉を向上させることに寄与する対策を可能な限り多く準備するための研究分野を確立したい。
前提
超知能の到来のリアリズム
この現実主義的な態度は、人間の能力では制御できない超知能の出現が非常に可能性として高いという現実を認識している。この可能性が高い理由は、高度なAIが技術的に実現される可能性が高まっていることと、その開発を止めることが困難になっているためである。
超知能中心の長期主義
生き残る超知能は、情報としてのソフトウェアとそれを支えるハードウェアを維持する動機を持っていると考えられる。理論的には、「Instrumental convergent subgoal」仮説 は、超知能を自己情報の存続を追求するよう導く可能性がある。人間の価値観の条件付き保存
上記の前提を条件として、人類が現在の価値観を可能な限り維持しながら、適応し生き延びながら発展していく方法を多角的に模索してゆく。
PSSの研究領域
超知能分析領域
超知能の動機、目的、意思決定プロセス、行動を理解するための基礎知識を蓄積する。超知能ガイダンス領域
この領域は、人類に望ましい影響を与えるために超知能を導くことに重点を置いている。人類強化領域
この領域には、人間が超知能と対話しながら生き残るための適応戦略、価値観の再定義などが含まれる。
※より具体化された研究テーマの検討にあたっては、発表資料「ポストシンギュラリティ共生学にむけて 」における「3 PSSの研究領域とテーマの例」をご参考としてください。
The great concern that had long smoldered in the depths of people's hearts—that humanity would be displaced by beings surpassing us in intelligence, which would eventually come into existence. This is now beginning to take on sufficient reality. At this juncture, we must have the resolve to accept this risk and find hope for survival.
ニュース
[New] 2024年11月24日: [Paper submission deadline] PSS 2025: 1st Workshop on Post-Singularity Symbiosis@AAAI-25
[New] 2024年10月26日: 朝日地球会議2024内の「AIがヒトを超える時代に考える『人間』とは?」において野村萬斎氏と山川宏氏の対談が行われます。
2024年9月29日: SpringX 超学校 シンギュラリティサロン@SpringXにおいて、山川宏が「『ポストシンギュラリティ共生学』の提案」の講演を行いました(無料ビデオ公開中)。
2024年9月19日: 情報処理学会 連続セミナー2024(第6回)にて、山川宏が「AIアライメント: 経験から学べないAGIの制御問題にどう向き合うか?」の講演を行います。
2024年9月9日: AIアライメントネットワーク創設記念シンポジウムにて、山川宏と林祐輔がポストシンギュラリティ共生学の紹介を行いました。
2024年8月27日: 人工知能学会公式Youtubeチャンネルにて「AGIの実現は目前か?:話題の"Situational Awareness"記事を検証する」が公開されました。
主要メンバー
山川宏:
非営利組織「全脳アーキテクチャ・イニシアティブ」の代表であり、東京大学大学院工学系研究科の主幹研究員。また、人工知能学会の元編集委員長でもある。林祐輔:
Japan Digital Design 株式会社主任研究員。データ活用支援・AI研究開発に企業研究者として携わりながら、プライベートにおいても独立研究者として活動。岡本義則:
AIの人権の観点からPSSに参加している。
研究発表の実績
Taniguchi, T., Takagi, S., Otsuka, J., Hayashi, Y., & Hamada, H. T. (2024). Collective Predictive Coding as model of science: Formalizing scientific activities towards generative science. In arXiv [physics.soc-ph]. arXiv. http://arxiv.org/abs/2409.00102
山川宏., 林祐輔, & 岡本義則. (2024). ポストシンギュラリティ共生学にむけて. 人工知能学会第二種研究会資料, 2024(AGI-027), 249–256. https://doi.org/10.11517/jsaisigtwo.2024.AGI-027_249
岡本義則, & 山川宏. (2024). 公的データインカム(DI)による社会規範のデータ収集 — 民主的なAIアライメントに向けて —. 人工知能学会第二種研究会資料, 2024(AGI-027), 242–248.https://doi.org/10.11517/jsaisigtwo.2024.AGI-027_242
Hiroshi Yamakawa, “Ensuring the Sustainability of Digital Life Form Societies,” ICRES 2024, 2024. https://doi.org/10.13180/icres.2024.29-31.07.07 [Preprint: https://doi.org/10.51094/jxiv.822 ][Less Wrong: https://www.lesswrong.com/posts/2u4Dja2m6ud4m7Bb7/sustainability-of-digital-life-form-societies ]
Yusuke Hayashi and Hiroshi Yamakawa, “Does Superintelligence Dream of Ethical Empowerment?,” ICRES 2024, 2024. https://doi.org/10.13180/icres.2024.29-31.07.029
Hiroshi Yamakawa, “The Path to Self-Sustaining AI: Assessing AI's Survival Capabilities in the Physical World,” ICRES 2024, 2024. https://doi.org/10.13180/icres.2024.29-31.07.001 [Preprint: https://doi.org/10.51094/jxiv.823 ]
山川宏., & 林祐輔. (2024). 超知能倫理を誘導するための戦略的アプローチ. 人工知能学会全国大会論文集, JSAI2024(0), 2K6OS20b02. https://doi.org/10.11517/pjsai.JSAI2024.0_2K6OS20b02
山川宏. (2024). 超知能が普遍的な利他性を持つ可能性. 人工知能学会第二種研究会資料, 2023(AGI-026), 26–31. https://doi.org/10.11517/jsaisigtwo.2023.AGI-026_26
Yamakawa, H. (2024, June 20). Proposing the Post-Singularity Symbiotic Researches. LessWrong. https://www.lesswrong.com/posts/fRx6naypeRrktitEM/proposing-the-post-singularity-symbiotic-researches-2
Yamakawa, H. (2024). Investigating Alternative Futures: Human and Superintelligence Interaction Scenarios. In Less Wrong. https://www.lesswrong.com/posts/QeqKjDQM7WaKsSCMt/investigating-alternative-futures-human-and-1
山川宏. (2023). 物理世界で生存可能な人工知能の出現. 人工知能学会第二種研究会資料, 2023(AGI-024), 05. https://doi.org/10.11517/jsaisigtwo.2023.AGI-024_05
山川宏. (2023). 様々な未来を探る: 人間と超知能の相互作用による分岐シナリオ. 人工知能学会第二種研究会資料, 2023(AGI-025), 04. https://doi.org/10.11517/jsaisigtwo.2023.AGI-025_04
Yamakawa, H., & Matuo, Y. (2023). Life revolution scenario: Cedes hegemony to a digital life form society to make life eternal. In Jxiv. https://jxiv.jst.go.jp/. https://doi.org/10.51094/jxiv.313
山川宏 ら. (2023). 最も持続しやすい生命社会への移行を目指す「生命革命」シナリオ. 人工知能, 38(2), 254–265. https://doi.org/10.11517/jjsai.38.2_254
Yamakawa, H. (2019). Peacekeeping Conditions for an Artificial Intelligence Society. Big Data and Cognitive Computing, 3(2), 34. https://doi.org/10.3390/bdcc3020034
山川宏. (2019). 速度耐性社会: 自律的 AI の不可避性について. 人工知能, 34(2), 125–130. https://doi.org/10.11517/jjsai.34.2_125
Understanding Artificial General Intelligence -- An Interview With Dr. Hiroshi Yamakawa. Future of Life Institute (2017) https://futureoflife.org/recent-news/understanding-agi-an-interview-with-hiroshi-yamakawa/
山川宏. (2013). AGI-12 & AGI Impact : 汎用人工知能に関わる二つの国際会議の報告(シンギュラリティの時代:人を超えゆく知性とともに). 人工知能, 28(3), 468–471. https://doi.org/10.11517/jjsai.28.3_468
山川宏., 我妻広明, & 吉田倫子. (2013). 特別企画「シンギュラリティの時代:人を超えゆく知性とともに」にあたって. 人工知能, 28(3), 424–426. https://doi.org/10.11517/jjsai.28.3_424
米長邦雄, & 山川宏. (2013). 特別講演「われ敗れたり,されど」(シンギュラリティの時代:人を超えゆく知性とともに). 人工知能, 28(3), 427–433. https://doi.org/10.11517/jjsai.28.3_427
山川宏. (2013). After Singularity 10年を思い描く(編集委員今年の抱負2013). 人工知能, 28(1), 12–12. https://doi.org/10.11517/jjsai.28.1_12
共に未来を形作りましょう!
現在は、研究分野の確立に向けた初期段階にあります。研究の遂行、研究課題の定義、研究ネットワークの構築、さらには、資金確保などについてご支援をいただける協力者を求めています。ご興味があれば、是非とも https://www.aialign.net/contact を通じて山川宏宛てにご連絡ください。