トンボに学ぶ [科学と技術一般]
IEEEのSpectrum8月号に興味を惹く記事がありました。
IEEE Spectrum誌8月号の表紙
人間の脳は，860億ものニューロンが並列動作して様々な汎用的能力を発揮するわけですが，他の生き物の脳はそれほど広く能力がないものの，特定のタスクに対しては進化によって磨かれた非常に優れた能力を示すものがいると。むろんどの生物もその優れた適性でもって生き残っているわけですが，この記事ではトンボを取りあげています。トンボが蚊を捕まえるのは，トンボの脳の驚くべき予測能力だそうです。遅い神経伝達信号を使って，わずか6mm3の脳で処理している。これをに学ばない手は無いわけです。
アルバカーキのサンディア国立研究所で著者Frances Chanceらは，ミサイルの迎撃や臭気プルームの追跡などのタスクに最適化されたシステムを設計する為に，トンボの神経系の速度，シンプルさ，効率の利用を研究しているそうです。以下ざっと紹介します。
ニュースになるような人工知能と機械学習の開発は，通常は人間の知能を模倣するか，人々の能力を超えるアルゴリズムである。 ニューラルネットワークでは，医療スキャンでの癌の検出などはすでに専門家とほぼ同様に機能し，その可能性は視覚処理をはるかに超え，コンピュータプログラムAlphaZeroは，世界最高の囲碁プレーヤーだと。
しかしながら，それらの洗練されたシステム開発には大量の処理能力が必要であり，通常最速のスーパーコンピューターとそれらをサポートするリソースを備えた特定の機関でのみ利用でき，そのエネルギーコストはひどいもので，例えば自然言語処理アルゴリズムの開発と学習から生じる炭素排出量は，4台の自動車がその寿命にわたって生成する排出量よりも多いとのことです。
人工ニューラルネットワークの実用のためにそんなに大きくて複雑である必要があるか？と言うのが著者の問いかけです。シンプルさと洗練のバランスをとる必要があると。著者がトンボにこだわるのは，トンボは特定のアプリケーションに正確に適切なバランスを提供する可能性のある脳を持つ動物だからと言うことです。トンボは、追跡する獲物の最大95％を首尾よく捕獲し，1日に数百匹の蚊を食べます。その運動能力は見過ごされてきた訳ではなく，何十年もの間米国の機関では監視ドローンにトンボに着想を得たデザインを使用することを実験してきたのだそうです。今度は，この「小さな狩猟機械」を制御する脳に注目するのだと。
トンボは，囲碁のような戦略ゲームのプレイではなく，獲物の場所を予測する。その計算は非常に高速に実行されて，トンボが獲物に反応して回転を開始するのにかかる時間は50ミリ秒。頭と体の角度をトラッキングしながらこれを行い，獲物以前に旋回のための翼の羽ばたきを知覚する。またトンボが回転すると獲物も動いているように見えるので，自身の動きも追跡する必要がある。単一のニューロンがすべての入力を合計するのに必要な時間（膜時定数）が10ミリ秒を超えることを考えると，目が視覚情報を処理し，筋肉が動くのに必要な時間を考慮に入れると，実際には，ニューロンの3つか4つの層が順番に入力を合計して情報を渡す時間しかない（いわゆる深層学習は出来ない） と。
モデルのトンボは，獲物の回転に応じて向きを変える（左上の図）。 黒丸はトンボの頭を表し初期位置。黒の実線は，トンボの飛行方向を示す。青い点線は，モデルのトンボの目の平面。 赤星はトンボに対する獲物の位置，赤い点線はトンボの視線を示す。 右上の図は，トンボが獲物と交戦しているところ。下の図は，同時に発生するニューロンの活動パターンの3つのヒートマップ。最初のセットは目を表し，2番目は獲物の画像と整列する目のニューロンを指定するニューロン，3番目は運動コマンドを出力するニューロンを表す。
トンボの脳研究により，例えば自動運転車の制御アルゴリズムの効率化によって大量のコンピューティング機器が不要になる可能性や，自律型ドローンの衝突回避，またコンピューターをトンボの脳と同じサイズ（約6mm3）にできれば，虫除けや蚊帳は要らなくなり小さな虫除けのドローンに取って代わられると著者は予想します*。
以下著者が行なった３層のニューラルネットワークの研究内容がやや具体的に紹介されていますが，端折って結論を言えば，非常に単純なアルゴリズムなのだと言うことです。「トンボが行う必要があるのは，昼食時の視線と固定された基準方向の間で一定の角度を維持することだけ」とのことです。これは，「平行航法」を取らないと言う船の衝突回避行動と全く逆だと。ただ三次元的なトンボはもっと複雑な動きをする上に，トンボは自身の位置を知るジャイロを持っていません。
トンボは最終層での動作予測を進化させた可能性があるとしています。
筆者らのトンボ・モデルのニューラルネットワークでは，そこそこの結果を得ているようですが，その検証のためにはこれから様々な検討が必要のようです。
例えば，ハワードヒューズ医学研究所の研究者は，飛行中にトンボの神経系からの電気信号を測定し，分析のためにこれらのデータを送信できるトンボ用の小さなバックパックを開発したそうです。活動中のトンボの生物学的ニューロンの活動パターンとトンボの脳モデルを検証します。
トンボの脳に挿入された電極からの信号をキャプチャするこのバックパックは，ジャネリア・リサーチ・キャンパスのグループリーダーのアンソニーレオナルドによって作成された。
トンボはまたコンピュータに「注意」を実装する方法を教えてくれるとのことです。すなわち気が散りやすい場合は，並列ナビゲーションを使用しない。無関係な入力を破棄する効率的な方法を提供することがあげられると。
また，トンボの脳を研究することの利点としては，新しいアルゴリズムで終わるわけではなく，そのハードウェアの性能にも着目する必要があり，それがシステム設計にも影響を与える可能性も指摘しています。トンボの目は高速で，毎秒200フレームに相当します。人間の視覚の数倍の速度です。むろん空間分解能は比較的低くて人間の目の100分の1程度。感知能力が限られているにも拘らず効果的に狩りをする方法を理解することでより効率的なシステムを設計する方法を示唆すると。
何もトンボだけが今日の，神経に触発されたコンピューター設計に情報を与えることができる唯一の昆虫では無いとも。オオカバマダラは信じられないほど長距離を移動し，生来の本能を使って適切な時期に旅を始め，正しい方向に向かいます。サハラ砂漠のアリは，比較的長い距離を採餌し，帰路は探索路を巣にさかのぼるだけではなく，遠回りの探索路を省いて直接戻るルートを計算します。実は，ミバエが自己配向できるようにする神経回路はすでに他の研究者により特定されているそうで，それらも，おそらく同様のメカニズムを使用しているのかも知れないとのことです。このような神経回路は，低電力ドローンで役立つかもしれないとの事です。
最後に筆者は，これらの昆虫に触発された特殊なコンポーネントの何百万ものインスタンスを並行して実行してより強力なデータ処理や機械学習をサポートできるようなものであるとしたら？と問いかけています。
次のAlphaZeroでは，ゲームプレイを洗練させるために何百万もの蟻のような採餌アーキテクチャを組み込むとか。昆虫は，新世代のコンピュータを刺激すると指摘します。トンボの迎撃のようなアルゴリズムで遊園地の乗り物の動きを制御して複雑でスリリングなダンスの最中でも個々の車が衝突しないようにすることができるとか。
著者は，将来のコンピューターは，「ハイブ・マインド**」という用語に新しい意味を与えるかも知れないと言います。高度に専門化され非常に高効率な極小のプロセッサーの群れが目前のタスクに応じて再構成および展開すると。その現実は近いかもと。
スーパーコンピュータを使って何やら陳腐な結果を出したと言うのとは正反対の話です。
モデルがどんどん複雑化しても当然限界に達します。複雑化したものが優れた結果を示せば良いのですが，複雑化することが目的の様な倒錯した状態になると限界を示す事になります。
歴史は繰り返します。ニューラルネットワークなどと言う現代の研究課題において，音楽で言えばワグナーにより古典的な和声が限界を示し，却ってシンプルな旋法を使った印象派の音楽が出てきたクラシック音楽の歴史と同じような展開を見るような気もします。ジャズの進展でも起こりました。むろん現在では複雑さも単純さもどちらもありですが。
*蚊を捕獲するトンボサイズのドローンが飛び回っている未来というのも少々滑稽な感じはしますが，アメリカ人の蚊の撲滅にかける執念を感じます。むろんそれは彼らの異常なバーベキュー好きから来るものですが。
**Hive mindとはSFで出てくる「集合精神」。個人の思考は失われ，指導者からのテレパシーによって集団の成員が同一の思考を行うことを指す。
アルバカーキのサンディア国立研究所で著者Frances Chanceらは，ミサイルの迎撃や臭気プルームの追跡などのタスクに最適化されたシステムを設計する為に，トンボの神経系の速度，シンプルさ，効率の利用を研究しているそうです。以下ざっと紹介します。
◆
ニュースになるような人工知能と機械学習の開発は，通常は人間の知能を模倣するか，人々の能力を超えるアルゴリズムである。 ニューラルネットワークでは，医療スキャンでの癌の検出などはすでに専門家とほぼ同様に機能し，その可能性は視覚処理をはるかに超え，コンピュータプログラムAlphaZeroは，世界最高の囲碁プレーヤーだと。
しかしながら，それらの洗練されたシステム開発には大量の処理能力が必要であり，通常最速のスーパーコンピューターとそれらをサポートするリソースを備えた特定の機関でのみ利用でき，そのエネルギーコストはひどいもので，例えば自然言語処理アルゴリズムの開発と学習から生じる炭素排出量は，4台の自動車がその寿命にわたって生成する排出量よりも多いとのことです。
人工ニューラルネットワークの実用のためにそんなに大きくて複雑である必要があるか？と言うのが著者の問いかけです。シンプルさと洗練のバランスをとる必要があると。著者がトンボにこだわるのは，トンボは特定のアプリケーションに正確に適切なバランスを提供する可能性のある脳を持つ動物だからと言うことです。トンボは、追跡する獲物の最大95％を首尾よく捕獲し，1日に数百匹の蚊を食べます。その運動能力は見過ごされてきた訳ではなく，何十年もの間米国の機関では監視ドローンにトンボに着想を得たデザインを使用することを実験してきたのだそうです。今度は，この「小さな狩猟機械」を制御する脳に注目するのだと。
トンボは，囲碁のような戦略ゲームのプレイではなく，獲物の場所を予測する。その計算は非常に高速に実行されて，トンボが獲物に反応して回転を開始するのにかかる時間は50ミリ秒。頭と体の角度をトラッキングしながらこれを行い，獲物以前に旋回のための翼の羽ばたきを知覚する。またトンボが回転すると獲物も動いているように見えるので，自身の動きも追跡する必要がある。単一のニューロンがすべての入力を合計するのに必要な時間（膜時定数）が10ミリ秒を超えることを考えると，目が視覚情報を処理し，筋肉が動くのに必要な時間を考慮に入れると，実際には，ニューロンの3つか4つの層が順番に入力を合計して情報を渡す時間しかない（いわゆる深層学習は出来ない） と。
以下著者が行なった３層のニューラルネットワークの研究内容がやや具体的に紹介されていますが，端折って結論を言えば，非常に単純なアルゴリズムなのだと言うことです。「トンボが行う必要があるのは，昼食時の視線と固定された基準方向の間で一定の角度を維持することだけ」とのことです。これは，「平行航法」を取らないと言う船の衝突回避行動と全く逆だと。ただ三次元的なトンボはもっと複雑な動きをする上に，トンボは自身の位置を知るジャイロを持っていません。
トンボは最終層での動作予測を進化させた可能性があるとしています。
筆者らのトンボ・モデルのニューラルネットワークでは，そこそこの結果を得ているようですが，その検証のためにはこれから様々な検討が必要のようです。
例えば，ハワードヒューズ医学研究所の研究者は，飛行中にトンボの神経系からの電気信号を測定し，分析のためにこれらのデータを送信できるトンボ用の小さなバックパックを開発したそうです。活動中のトンボの生物学的ニューロンの活動パターンとトンボの脳モデルを検証します。
また，トンボの脳を研究することの利点としては，新しいアルゴリズムで終わるわけではなく，そのハードウェアの性能にも着目する必要があり，それがシステム設計にも影響を与える可能性も指摘しています。トンボの目は高速で，毎秒200フレームに相当します。人間の視覚の数倍の速度です。むろん空間分解能は比較的低くて人間の目の100分の1程度。感知能力が限られているにも拘らず効果的に狩りをする方法を理解することでより効率的なシステムを設計する方法を示唆すると。
何もトンボだけが今日の，神経に触発されたコンピューター設計に情報を与えることができる唯一の昆虫では無いとも。オオカバマダラは信じられないほど長距離を移動し，生来の本能を使って適切な時期に旅を始め，正しい方向に向かいます。サハラ砂漠のアリは，比較的長い距離を採餌し，帰路は探索路を巣にさかのぼるだけではなく，遠回りの探索路を省いて直接戻るルートを計算します。実は，ミバエが自己配向できるようにする神経回路はすでに他の研究者により特定されているそうで，それらも，おそらく同様のメカニズムを使用しているのかも知れないとのことです。このような神経回路は，低電力ドローンで役立つかもしれないとの事です。
最後に筆者は，これらの昆虫に触発された特殊なコンポーネントの何百万ものインスタンスを並行して実行してより強力なデータ処理や機械学習をサポートできるようなものであるとしたら？と問いかけています。
次のAlphaZeroでは，ゲームプレイを洗練させるために何百万もの蟻のような採餌アーキテクチャを組み込むとか。昆虫は，新世代のコンピュータを刺激すると指摘します。トンボの迎撃のようなアルゴリズムで遊園地の乗り物の動きを制御して複雑でスリリングなダンスの最中でも個々の車が衝突しないようにすることができるとか。
著者は，将来のコンピューターは，「ハイブ・マインド**」という用語に新しい意味を与えるかも知れないと言います。高度に専門化され非常に高効率な極小のプロセッサーの群れが目前のタスクに応じて再構成および展開すると。その現実は近いかもと。
◆
スーパーコンピュータを使って何やら陳腐な結果を出したと言うのとは正反対の話です。
モデルがどんどん複雑化しても当然限界に達します。複雑化したものが優れた結果を示せば良いのですが，複雑化することが目的の様な倒錯した状態になると限界を示す事になります。
歴史は繰り返します。ニューラルネットワークなどと言う現代の研究課題において，音楽で言えばワグナーにより古典的な和声が限界を示し，却ってシンプルな旋法を使った印象派の音楽が出てきたクラシック音楽の歴史と同じような展開を見るような気もします。ジャズの進展でも起こりました。むろん現在では複雑さも単純さもどちらもありですが。
*蚊を捕獲するトンボサイズのドローンが飛び回っている未来というのも少々滑稽な感じはしますが，アメリカ人の蚊の撲滅にかける執念を感じます。むろんそれは彼らの異常なバーベキュー好きから来るものですが。
**Hive mindとはSFで出てくる「集合精神」。個人の思考は失われ，指導者からのテレパシーによって集団の成員が同一の思考を行うことを指す。
コメント 0