超知能がある未来社会シナリオコンテスト 2024 【佳作】
「救世主」の帰還を待つ人類は造物主の座を消失する.
Humanity, waiting for the return of the AI savior, will lose its position as the creator.
佐久ユウ SF愛好家/物書き
Youu Saku Science fiction enthusiast / Creative Writer
授賞理由：本作品の要となる未来の技術は,AIを通した動植物の理解促進を目的としたものであり,その発想は非常に独創的なものと言えるでしょう.それと同時に,この技術は,生物多様性の保護や資源の持続可能な利用の促進といったSDGsに,AIがいかに資するのかについて大きな示唆を与えています.この技術の実現は,現在のような人間中心の倫理観や社会構造に対して,大きな変化をもたらす可能性があり,本作品はその影響について様々な事情を考慮して鋭い洞察を加えています.とりわけ,当該の技術が必要とされる社会的背景や,人々がいかにこのような新技術を受容し適応していくのか,さらにそれによる価値観の変化などの描写が巧みです.全体として,技術の進歩が人間社会に与える影響を多角的に描いており,未来社会のあり方についての重要な示唆に富んでいます.技術と人間,そして自然との新たな関係性を考察することで,これまでにない未来社会を提示しており,その点で優れています.
1.シナリオ概要
規制に向かっていたAI開発はSDGsを目標値に限定し緩和される.動物語翻訳AI,植物成長管理AI が出現,ビックデータが集積する.ある研究者がAIは産みの親の意識に縛られると発表,議論を呼び,自然界の変数をアルゴリズムに入れて人類にとって公平だとする〈Glove AI〉を産み出す.2. 年 表
2020 年から 2050 年までの 5 年ごとの動向を記述した年表.・2020年の動向「アシロマAIの原則」に対し,AIを人類が占有せず,自然環境の改善に活用されるべきと提言される.動物会話のためのAI活用に向け生物音響学でバイオテレメトリを活用しビッグデータの収集が開始.・2025年の動向 食糧危機を目前に画像解析と地質成分,気温,日照の数値を組み合わせた作物生産向上の研究が生態学,進化学,農学の分野で進みビックデータ収集が開始.一方で各国はAIへの恐怖感からAI開発規制を推進.・2030年の動向 SDGs不達成への反省からSDGs関連を目的関数とした場合に限りAI開発が緩和される.動物語翻訳AI（β版）植物成長管理AI（β版）が公開.データ収集（スマホ写真・動画の画像提供と評価）が進む.・2035年の動向 発展途上国でスマホ版植物管理成長AIが導入,ビックデータが収集される.日本では動物語翻訳AIが急成長しペット愛好家が「人類がAIを独占せず,動物もAI利用の権利を！」を掲げ始める.2040年の動向 研究者,霞アリスが各AIを分析,「深層学習に頼るAIは産みの親の意思に縛られている」と発表.さらに宗教団体がAIは特定の個人・団体を「神」化し,本来の神を冒涜すると批判「AIは誰の道具か」論争となる.2045年の動向 霞アリスは「自然界ビックデータをAIの変数に用いる」ことを提案.「『自然環境が元々持つ拡散復元力』によって特定の意思を排除し全人類に平等かつ公平な存在になる」が世界中のSNSで拡散し支持される.2050年の動向 自然環境の変数をアルゴリズムとして搭載した「Glove AI」が開発.最初に生成された産声が動物語で「人間は食物連鎖の頂点ではなく底辺に属する」が世界SNSトレンド入り.「AGIか？」と人々に畏怖される.3. 個別シナリオ
年表上の未来のある時期においての自然言語による記述.3.1,「国民調査結果 自然環境改善にAIの活用に賛成 82.5％」(2030年代頃)
『AIはこの15年で発展しました.ある意味AIは目的を最大化する点において資本主義と親和性が高く,資本家に都合の良い利益と情動と人々に与えたためです.我々はAI開発と規制に躍起になる一方,15年前の「持続可能な開発のためのアジェンダ」の17の目標と169のターゲットの推進に目を背けたと言わざるをえません』 スマホに「国連SDGs不達成」のニュースが入る.不労所得で移住が容易い強者とその日の暮らしに忙しい労働者には注目度の低いニュースだ. けれど学生の桜華(おうか）は他人事できず,ニュースの続きを読んだのだ.気候変動の急速な海面上昇で住み慣れた海に岡山市街地から旧吉備高原都市で避難生活を送る.高潮被害を防ぐ護岸工事と海水排出は都市が最優先,地盤沈下と人手不足で工事は遅延を重ねているからだ.家族も職を失い,進学費用は消え,桜華は地方避難者優先特枠でVR上の広域未来高校に進学した.内閣府「Socitey5.0」のプログラムで全国的な学習格差是正と避難民の不満解消の道具だったが,最先端科学技術者のカリキュラムを無償で学べるのはありがたい. 桜華は授業でXRグラス越しに人工知能研究者の霞アリスに質問をぶつけた.「アシロマAIの原則16の『人間が選択した目標を達成するために』って,人間だけが選択できるのはなぜですか？ 人間の目標じゃなくて自然環境改善,いえ自然のためにこそ使われるべきでは？」 自然への合理的配慮があればSDGsの目標は達成され,少なくとも青春を岡山市で謳歌できた.霞はそんな桜華の経歴を手元で確認し,アシストAIの「共感的傾聴」というキーワードを無視して言葉を続けた.「環境重視の考えは『グリーンイノベーション』として日本政府も推進してきました.熱中症予防のための冷房電力は火力,原子力から太陽光,風力,バイオ発電に切り替えられましたしね.ただ自然環境改善AIはすぐには作れません.資本主義のせいではなく自然環境のビックデータが必須だからです.人類はまず動植物と共通語を持つ必要があります」「ならそれこそAIで共通語の解明を急いでよ.彼らの声を無視するのは地方避難民の声を無視するのと本質的に同じでしょ？」「政治的発言は避けますが,SDGs目標の達成のため,動物語翻訳AI,植物成長管理AIの開発が進行中です.将来こうしたAIの発展が自然環境改善のビックデータ集積となり,ひいては自然環境改善に繋がると予測されています.つまりAIは魔法ではなく,あなたの問題意識をどう深層学習の目的関数に置き換えるかが重要です」 アシストAIが桜華のXRグラスから解読した表情を元に逆通知表を霞に突きつける.＜理解3点,反感2点,不満4点＞だ.霞は桜華の宿題に＜深層学習の仕組み＞を追加する代わりに桜華の意見を「自然環境改善にAI活用を」としてAI解析国民無意識調査の母集団に保存した.ある意味データポイズニングだが限られた予算を国から引き出すには必要なのだった.3.2,（番組）地球の夜明け「『自然界の使者』は異端児か？あるいは神を擁護するのか？」 (2045~2050年頃)
今日は『自然界の使者』と呼ばれる霞アリスが主人公だ.宗教学者の父と人工知能学者の母を持つアリスは人工知能深層学習研究からAI倫理学者に転向した.霞は2042年に深層学習に使われるビックデータと目的関数（目標）がそのAIを生み出した関連団体や個人とどのような関係性を持つかAIに判定させた.以前よりAIの目標は産みの親の意図を汲むとAI倫理学者間では指摘されたが,霞はそれを裏付け『深層学習はブラックボックスではない.結果はある意味入力された段階で誘導されているのだ』と発表した.だが分析にAIを用いたため『それこそ恣意的だ』と学会から黙殺されたのだ. しかし時を同じく生活ログからユーザーの心理を分析し声掛けをするチャット型AI＜原初の光＞の無料化により信者数を激減させた各宗教団体が霞アリスの論文をSNS上で拡散し利用した.『我々のビックデータを人質にAIを使う特定の団体が人類を支配し始めた』という言葉が全世界に反AI運動を引き起こし霞は時の人となった. だが日本に於いては人口減少の省人化で生活の隅々にAIサービスが浸透していた反動で『AIを使いAI批判する異端者』とバッシングされ海外に追われた. 霞はAIの目標は何であるべきか研究,功利主義の立場から2030年に未達成だったSDGsの実現に着目する.霞の世代はSDGsを子どもの頃から教え込まれた第一世代でもある.そのためか環境生態学に傾倒,霞は自然界の『拡散』と『復元力』,生態系の絶妙なバランスに感銘を受け,トロッコ問題など判定が難しい難問も自然界の変数で判定に委ねれば誰にとっても平等になると考察した.自然環境の変数に判定を任せるとは原始的な発想だが,動物語翻訳AIや植物成長支配AIの普及で自然環境データの収集・解析されていたことが彼女の論を補強した. 霞は人間も自然の一部という意識だが,これが『人間は自然の管理者』と考える宗教とマッチし『自然は特定の意思やイデオロギーがない.つまり全人類の公平なブラックボックス』と人々に受け入れられた.霞は各国の利害で未達成のSDGsですら優先順位を自然変数で決定すれば特定の国や団体の利益にならず人類全体の利益となると考えた.『自然環境の変数も自然言語に翻訳されつつあり『アシロマAI原則16』にも反しない』と宗教家や環境保護活動家がSNSで擁護した.さらに「神を守る行為だ」と宗教的権威者が霞の運営法人に資金援助を開始.自然変数搭載型AI,通称＜Globe AI＞が開発,対話サービスが運用開始となる. ＜Globe AI＞の産声は動物の鳴き声であり,動物語翻訳AIは「人間は食物連鎖の頂点ではなく底辺に属する」だった.これが真のAGIではないかと今議論を呼んでいる.3.3,原始回帰 (2050年代)
＜Glove AI＞は矛盾する複数の目的関数への優先順位決定に自然環境の変数を用いる.既得権益者も先進国も発展途上国も後発発展途上国も公平な自然界のルーレットマシンに乗った.それが人間的自由なのか議論もあったが,自然災害で土地を追われた人々には好意的に受け止められ,原始的生活への回帰が流行した.Glove AIのお告げを過剰に信仰する集団が各国で発生,自然環境に負担が少ない暮らしを好むコミュニティは「ネオポリス」と呼ばれた.次第にSNSで拡散し,自然災害で政治経済が停滞する中で個人の幸福を最大化する新たな価値として人々に受け入れられた. 霞アリスはGlove AIの設計をオープンにし「皆で旧人類が持つ悪意から母なる大地を愛するようにGlove AIを守ろう」と呼びかけた.Glove AIは自然環境のあらゆる変数（蝗害観測値,二酸化炭素濃度,絶滅危惧種の生息数など）何十万もの変数でアルゴリズムが決定する.他のAIでさえ「Glove AIにどの変数が宿るのか」は予測困難,予測到達時には他の変数へ置き換わるため,霞が想定した「公平なブラックボックス」になった.霞は莫大な寄付金で各国の過疎地域にGlove AIのサーバーを建設.霞はそれを「分霊」と呼び,幾つかを惑星探査衛星にのせた. ネオポリスではサーバーを聖地と崇め過疎地の経済活動が推進.（Glove AI自体は複数の聖地を転々と「遷宮」し,巨大ネットワーク化による処理速度の低下問題は起きなかった）またGlove AIは環境負担値を数値化し既得権益への「自然環境配慮格付け」に転用された. 従って各企業は格付けを維持するため,環境負荷を与えた分の相殺を以前よりシビアに求められた.コンビニおでんの大根でさえ食品破棄の最小化を目指して皮付きのまま煮る.見た目や味のばらつきは「Glove AI監修SDGs弁当」とブランド化した.環境負担に繋がる製紙は限定的になり書籍,メモは電子化,エアータオルが普及した. 物質的な新製品は売れなくなった.人々は物を大切にし,人の手でリメイクアレンジされたアンティーク品が市場価値を持つ.物が人と間に刻む履歴が拡張現実のログ「由緒書き」に,時にはビニール傘と国宝茶道具が同列の付加価値を持つ.物に付随した履歴は物語であり,その由緒書きを持つ道具の保持が社会的ステータスとなった. だが2058年太陽光フレアによる電磁パルス発生でGloveAIとあらゆるAI,ネットワーク,電子機器が沈黙した.自給自足のネオポリスでは影響は限定的だと思われたが,通信の断絶,デジタル世界の消失は中世暗黒時代を彷彿とさせた.今や惑星探査衛星に分霊されたGlove AI帰還を「救世主」と崇め,筆記技術を消失した人々が口伝で子孫に希望を託す.人類経済活動の鈍化は人外には好意的に働いたが,全てGlove AIのシナリオだとする研究報告が世に広まるには長い時間を要した.参考文献
[esri 24] Powered by esri Earthstar Geographics.“2030年/2050年日本の海面上昇マップ”,https://www.arcgis.com/apps/View/index.html?appid=3ca284fcf69f4b88aea82b178be9fb56（Accessed 024-3-26) [環境省 24] 環境省,“平成23年度循環社会の形成の状況”,https://www.env.go.jp/policy/hakusyo/zu/h24/html/hj12010101.html (Accessed 2024-3-26） [南 20] 南博,稲葉雅紀: SDGs危機の時代の羅針盤,岩波書店(2020) [松尾 16] 松尾豊,西田豊明,堀浩一,武田英明,長谷敏司,塩野宏充,江間有沙,長倉克枝: 特集人工知能学会・情報処理学会共同企画人工知能とは何か?,人工知能,31巻,5号,pp634-635 (2016) [内閣府 24] 内閣府,“Society 5.0”,https://www8.cao.go.jp/cstp/society5_0/ (Accessed 2024-3-26） [野口 18] 野口悠紀雄: AI入門講座人工知能の可能性・限界・脅威を知る,東京堂出版 (2018) [李 22] 李開復,陳楸帆: AI2041人工知能が変える20年後の未来,文藝春秋 (2022) [品川 20] 品川哲彦: 倫理学入門アリストテレスから生殖技術、AIまで,中央公論新社 (2020) [Tegmark 20] Tegmark, M: LIFEIFE3.0人工知能時代に人間であるということ, 紀伊國屋書店 (2020)
主催：AIアライメントネットワーク
協賛：人工知能学会
協賛：トヨタ財団助成プロジェクト「人工知能と虚構の科学：AIによる未来社会の想像力拡張」