Yamazaki & Lennon (2019) に関する著者コメント

Tadashi Yamazaki, William Lennon. Revisiting a Theory of Cerebellar Cortex. Neuroscience Research. In Press (Online March 27, 2019).
https://doi.org/10.1016/j.neures.2019.03.001

ついに出版されました。EditorとReviewerの先生方、ありがとうございました。

NSRから招待されたPerspective論文です。Perspective論文は「将来の展望を斬新な切り口で議論いただく場であり、一般的な総説には掲載が困難である大胆な仮説を紹介することも可能」だそうで、この内容がアクセプトされるとしたらここしかなかろうと思っていました。

論文のインスピレーションになったのはBarto, Sutton, Anderson (1983)で、これの図3が小脳皮質の回路に見えたのがきっかけです。完全にノイローゼですね、小脳の。本格的に始めたのは2013年にJSPS Summer ProgramでBill Lennonさんがうちに滞在しているときで、彼といろんな議論をしながら煮詰めていきました。特に分子層介在ニューロンのシナプス可塑性は彼の研究によるものです。

この論文は小脳研究の3つの異なる文脈上にあります。

1. 複数のシナプス可塑性の役割

小脳のシナプス可塑性といえば平行線維–プルキンエ細胞間シナプスの長期抑圧 (PF-PC LTD) ですが、今は様々な細胞に様々な種類のシナプス可塑性が発見されています。それらの小脳学習における役割、特にPF-PC LTDとの関係は不明です。そのため今でも「PF-PC LTDは小脳学習には無関係である」という自分の間違いを永遠に認められない人達や、「PF-PC LTDだけが小脳学習じゃないだろう」という煮え切らない態度の人達が存在します。「色々ある派」は言うことがどれもimplicationばかりで嫌いです。「色々ある」なら、そのうちのどれがメインでどれがサブなのかをちゃんと切り分けなきゃいけない。

なかでも、分子層介在ニューロンのシナプス可塑性はプルキンエ細胞のそれと逆向きなので (LTD <-> LTP)、プルキンエ細胞の学習を補完もしくは代替する機能を有しているように思え、だったらPF-PC LTDは要らないのでは?という議論を誘導しやすくなっています。なので、この2つのシナプス可塑性を同時に考えたときにどういう学習が成立するのか?を考えなきゃいけないと思っていました。

2. 教師信号の起源と意味

教師信号というのは、単に
1. その行動が間違い (もしくは正解) である
ということを伝えるだけではありません。その裏に、
2. 信号を受け取ったとき、修正する方向があらかじめわかっている必要がある
というより大きな前提条件があります。小脳の教師付学習をサポートする実験はVOR, OKRや瞬目反射条件づけであり、反射運動です。反射運動では、教師信号が来たときに修正すべき方向が、あらかじめ回路構造としてハードコーディングされています。なので、問題にはなりません。

一方で、随意運動ではどうかというと、1. は満たしますが、2. は必ずしも満たしません。エラーが起きたときにどう直せばいいのかは、そのタスクが決めることだからです。

さらに、小脳が関与する高次脳機能について考えると、1. も2. ももうよくわかりません。高次脳機能における教師信号ってなんでしょうね。誰が・どのようにして提供してくれるのでしょうか。

ということで、伝統的なMarr-Albus-Itoモデルは反射運動と一部の随意運動まではうまく適用できますが、その先に行こうとすると苦しくなります。全てを教師付学習で説明しようと押し通すのもいいですが、強化学習だと思って試行錯誤を許せば、状況はかなり緩和されます。

3. 大脳皮質や大脳基底核との連関

小脳が小脳だけで完結しているのは反射運動だけで、随意運動になった瞬間から大脳皮質や大脳基底核との連関が始まります。

大脳小脳連関と言えば内部モデルで、運動野から教師信号をもらえば逆モデル (フィードバック誤差学習)、深部感覚からもらえば順モデルになるわけですが、逆モデルはまだちゃんと発見されてないはずですし、順モデルは発見されてるけどあんなに遅延した信号を使って教師付学習していいのか、という疑問があります。内部モデルの役割はそもそも遅延をなくすことですが、普通に教師付学習をやったら遅延を含めて学習してしまいます。

それからやっぱり Doya (1999, 2000) は欠かせないのですが、小脳が教師付学習器だとすると、その御利益みたいなのはよくわからないですよね。2と同じで誰かが教師信号を提供することが前提になるので。また小脳はたくさんの学習器がびっしり並んだ構造をしていますが、教師付学習器がたくさんあっても何がうれしいのかはよくわかりません。

一方強化学習器だとすると、たくさんの学習器があれば並列強化学習ができるし、上位の強化学習器として大脳基底核を考えて組み合わせれば階層型強化学習ができるので、意味が出てきます。また今は深層学習と組み合わせた深層強化学習が席巻しているのはご存じの通りです。なので、大脳皮質 + 大脳基底核 + 小脳で、「階層型(基底核+小脳)超並列(小脳)深層(大脳)強化学習」が実現でき、これが全脳レベルの学習アーキテクチャとなりうるのではないか?と考えています。

それは全脳アーキテクチャ勉強会の人達のやっていることと非常に近いですし、私もつかず離れずでお世話になっております。彼らは既知の神経科学の理論を全て受け入れてその上で理論展開をしていますが、私は彼らが基盤としている理論そのものを更新して、彼らがより大きなインパクトを得られるようにしたいと考えています。理論を作るというのはとても大事で、確固たる理論があるからこそ、小脳研究はここまで発展してきたと言えます。

最近はずっとスパコンと戯れていて、詳細な知見を積み上げて現象を再現するボトムアップの研究をしていますが、理論無きボトムアップ研究は羅針盤無しで大海原に漕ぎ出すようなものです。なぜならやみくもにやってもよくわからない神経活動が得られるだけでどこにも到達できないから。それを解釈したり演繹したりするためには、理論が必要です。

Eric Jonas, Konrad Paul Kording. Could a Neuroscientist Understand a Microprocessor? PloS Comput Biol 13(1): e1005268 (2017)

っていう論文があって一時ちょっと話題になったような気がしますが、チューリングマシンとか、全加算器とか、プログラムカウンタとか、そういう計算機の基本構造というかプログラム可能な計算機の理論を知らなければ、やみくもにあれこれ調べても何もわからないであろうことは明らかです。この論文はちょっと面白いけど、これのおかげでサイエンスが前に進んだとは思えない。サイエンスを前に進めるためには理論が絶対に必要です。

最後にあらかじめ言い訳をしておくと、この理論は間違ってるかも知れません。実験で否定される可能性が高いです。ただし「実験で否定される」ことは理論の宿命であって、別に恐れてはいません。そもそも小脳の理論は死屍累々の山です。否定されたら改訂すればいいだけです。そうして理論と実験が両輪で回っていくことが、神経科学の発展には欠かせないと考えています。そのためにはまず理論サイドがなんか無茶を言わないと。そしてそれは実験家が読んでわかるように、実験家の言葉で書いてあることが大切です。

小脳歩行論文

市村さん (D1)の卒研(!)だった、下肢筋骨格系モデルと小脳モデルを組み合わせた2足歩行モデルの論文が出版されました。

市村大輔, 矢野諭, 山﨑匡. 小脳による足底接地情報の遅れ補償を組み込んだ下肢筋骨格系モデルの歩行シミュレーション. 電子情報通信学会論文誌D Vol.J100-D No.8 pp.808-816, 2017.

ネコ小脳論文に関するコメント

本日付で、オンライン版に掲載されました。関係者の皆様、ありがとうございました。

雑誌のImpact Factorは1.081と、いわゆる医学系の雑誌と比較して低く、論文の内容そのものも神経科学的に新しい知見を加えるわけではないですが、私としてはこの論文はとても大切です。なぜなら、

  1. おそらく神経科学の研究論文としては初めて、本物のHPCの専門誌に掲載されたから
  2. 本物のHPCの専門家とのコラボレーションにより初めて可能になった研究論文だから

です。

1. については、これまでも「京」全ノードを使ったシミュレーションの論文(Kunkel et al. 2014)や、我々のリアルタイム小脳モデルの論文(Yamazaki, Igarashi 2013)等ありましたが、掲載誌はFrontiers in NeuroinformaticsやNeural Networks等の、いわゆる神経科学の専門誌でした。もちろん神経科学としてのインパクトの方を重視したのだと思いますが、一方で、ではいわゆるHPCの専門誌に掲載可能な専門性と強度を持っていたかというと、必ずしもそうではないように思います。我々の今回の論文は、神経科学の多くの人達が聞いたこともないような、スケーリング、キャッシュ階層、通信の隠蔽、並列リダクション、とHPCの言葉を使って書かれたものであり、専門誌に掲載される程度の強度を有しています。分野を超えた論文を書けたことは、私にとって大きな意味があります。

2. については、戎崎先生、牧野先生というGRAPE Projectの2大巨頭と一緒に論文を書く、という栄誉に恵まれました。「異分野融合は大切です」とお題目のように唱える研究者は大勢いますが、実際にそれを実現するのは非常に非常に困難です。まずお互いが同じ言葉を話せるようになるまでにとてつもない時間と労力が必要だからです。大変ありがたいことに、2大巨頭の先生は我々の分野に歩み寄って下さり、共著者の五十嵐さんと私はより一層HPCの研鑽を深めた結果、少しは同じ言葉で話ができるようになりました。そもそも私が菖蒲を使えるようになったのは、戎崎先生が主催するアクセラレータ研究会がきっかけですので、この研究会が存在しなければ、そしてこの研究会に五十嵐さんが私を紹介してくれなければ、今回の論文はありませんでした。チームの勝利です。

これまでの私のキャリアにおけるマイルストーンはYamazaki et al. (2015)で、これを越えるのは当分ないだろうと思っていましたが、今回の論文は新たなマイルストーンです。2015年の初夏に初めて睡蓮を使い始めたときに、こんなに早くこの特別なスパコンの論文を発表する日が来るとは思いませんでした。

次のマイルストーンは、2018年春、1,000億ニューロンからなる世界で初めてのヒトスケール小脳モデルのリアルタイムシミュレーションを実現することです。どうぞお楽しみに。

山﨑 匡

論文採択!

(3/18 追記) ソースコードを公開しました!

(3/3 追記) 出版されました!
http://journal.frontiersin.org/article/10.3389/fnana.2016.00021/full

五水井と山﨑の論文「Real-world-time simulation of memory consolidation in a large-scale cerebellar model」が、Frontiers in NeuroanatomyのResearch Topic “Anatomy and plasticity in large-scale brain models”に採択されました!

GPUを4枚使って100万ニューロンの実時間シミュレーションを行い、1週間の運動学習のシミュレーションを1週間かけて実際に行った論文です。プログラムのソースコードも公開します。詳細は後日追記します。

分子層介在ニューロンのシナプス可塑性論文

山﨑研でJSPSサマープログラムを行ったWilliam Lennon博士の論文が出版されました!小脳の平行線維–分子層介在ニューロン間シナプスの可塑性に関する論文です。おめでとうビル!

Lennon W, Yamazaki T and Hecht-Nielsen R (2015). A Model of In Vitro Plasticity at the Parallel Fiber – Molecular Layer Interneuron Synapses. Front. Comput. Neurosci. 9:150. doi: 10.3389/fncom.2015.00150
http://journal.frontiersin.org/article/10.3389/fncom.2015.00150/abstract

分子層介在ニューロンのシナプス可塑性をきちんとモデル化した仕事は無いので、これは非常にいい仕事です。我々の人工小脳にも今後組み込んでいきます。

PNAS 論文

長い道のりでしたがようやく出版にこぎつけました。

Tadashi Yamazaki, Soichi Nagao, William Lennon, Shigeru Tanaka. Modeling memory consolidation during posttraining periods in cerebellovestibular learning. Proceeding of the National Academy of Sciences of the United States of America, 112(11): 3541-3546, 2015.

あわせて大学からプレスリリースも出しました。

日本語: 小脳における記憶の定着過程の理論を提唱 〜「一夜漬けより毎日コツコツと」の仕組み解明へ〜
英語: Practice makes perfect: a theoretical model of memory consolidation in the cerebellum

論文はオープンアクセスにしたので誰でも読めます。たぶんさらっと簡単に読めると思います。今回はあらゆる事が簡単になるように、特に式のパラメータを可能な限り減らすことに血道をあげました。ですので「なんだ簡単じゃないか」と思ってもらえたら私としては本望です。

いつも通り、論文で使ったプログラムのソースコードは小脳PFにアップロードしてあります。CC-BYで配布するので、興味のある方はご利用下さい。そんな大したものじゃありませんが…。

今回、広報の方が頑張ってくれて、PRのウェブページから雑誌と原論文へのリンクを張りました。新聞でもウェブサイトでも、PRを読んで興味を持っても原論文へそのままアクセスできなかったりとか、酷い場合は掲載誌名すらわからないとか、まあ良くありますよね。それだとなんのための報道なのかわからないので、今回はその辺きちんとしてみました。また電通大では英語でのPRはほとんどしないみたいなのですが(研究大学強化促進事業に採択されててこんなことでいいのか電通大)、それも当然のようにお願いしました。

書籍

伊藤正男先生と本の一章の執筆をご一緒させていただきました。

  1. Masao Ito, Kazuhiko Yamaguchi, Soichi Nagao, Tadashi Yamazaki. Long-Term Depression as a Model of Cerebellar Plasticity. Progress in Brain Research, 210:1-30, 2014.

Consensus Paper

山﨑も執筆陣に参加している論文「Consensus Paper: The Cerebellum’s Role in Movement and Cognition」がついに公開されました。錚々たるメンツです。

Leonard F. Koziol, Deborah Budding, Nancy Andreasen, Stefano D’Arrigo, Sara Bulgheroni, Hiroshi Imamizu, Masao Ito, Mario Manto, Cherie Marvel, Krystal Parker, Giovanni Pezzulo, Narender Ramnani, Daria Riva, Jeremy Schmahmann, Larry Vandervert, Tadashi Yamazaki. Consensus Paper: The Cerebellum’s Role in Movement and Cognition. The Cerebellum, In Press.

 

 

Pages: