【開催記録】ALIGN Webinar #11 David A. Dalrymple (davidad) : the Safeguarded AI program at ARIA

ALIGNウェビナー第11回では、英国ARIAの”Safeguarded AI Program”を率いるDavid A. Dalrymple (davidad) 氏をお招きしました。davidad氏は、AI安全性と計算神経科学の分野で卓越した経歴を持ち、Filecoinプロトコルの開発および公共財資金調達のためのHypercertsメカニズムにおいて重要な貢献をしてきました。

• 日時：2024年9月2日（月）8:00 pm-9:00 am （日本時間）

• 参加者：オンラインで40名ほど

本ウェビナーでは、Safeguarded AI Programと全貌と現在の公募状況についての紹介ののち、Safeguarded AI Programの中核になりうる数学的なアイディアについて解説されました。とりわけ「Imprecise Probablity」と呼ばれる確率的事象の新しい数学的な取り扱いが安全保証付きAIの開発に使える可能性、そして従来の数学モデルとの関係性を圏論を用いて整理できる可能性などについて、踏み込んだ解説がなされました。

Safeguarded AI Programについては、ALIGNの高槻リサーチフェローによる解説記事をご覧ください。このプログラムには先日Yoshua Bengio氏のScientific Advisor就任が伝えられたばかりですが、「Bengio氏と話すたびにお互いの考え方が一致していく」とdavidad氏が話していたのが印象的でした。Safeguarded AI Programは英国の研究者、研究機関、スタートアップ企業を中心としながらも、日本を含む海外とも連携していきたいとのことでした。

David A. Dalrymple氏