アーカイブ

LiDARを活用しあらゆる空間を演出 ARエフェクトアプリ『Effectron』

(株)アフェクションはLiDAR(新型iPad Proより搭載された地形取得センサ)を活用し新たなARエフェクト体験を提供するARカメラアプリ『Effectron』を8月20日リリースした。

●「Effectron」とは?
最新のiPad Proから搭載されたLiDARセンサを使い、取得した地形にエフェクトを描画することで3次元的なエフェクト演出が可能だ。
自宅を映画『TRON』の様なグリッドに覆われた空間にし、オフィスの廊下を洞窟にし探検することもできる。地形に描画するエフェクトは20種類から選択可能。
(ダウンロードURL: https://apps.apple.com/us/app/id1526438768)

●「Effectron」企画意図(スタッフ)
「まずはじめにApp storeの中でLiDARを活用したエンターテイメントアプリがほぼない状態で“一番初めに使えるものを作りたい”というのが動機だった。
また英バンドRadiohead『House of Cards』のミュージックビデオで10年以上前から取得した地形データを視覚化した表現していたのでコンシューマレベルでこういった表現ができたら楽しいのではないかと思い企画した。以前からドローン測量などで地形データに触れる機会が多くその頃から地形エフェクトをやりたいと思っていた。」

●「Effectron」開発について(スタッフ)
「ARはエンターテインメントからバーチャルマーケット、医療など多岐に渡る使用用途がありながらも今までは世間一般に浸透しているとは言い難い状態だった。
しかし、昨今のコロナ禍で仮想現実への期待も確実に大きくなっており、iPadにLiDARが搭載されてARの精度が飛躍的に向上したことからも今後に非常に大きな可能性を感じている。 そのような中で、AR界の空間エフェクトアプリのさきがけとなればいいなという願いを込めてEffectronを制作した。」

●アプリと事業の今後の展望
「アプリのアップデートに加え、昨今増えてきているARライブやVRライブの企画、演出や技術開発を進めている。またxRにとらわれず3DCGのテクノロジーを使った新たな映像表現を利用者に提案したい。」

ニュースリリースサイト:https://prtimes.jp/main/html/rd/p/000000002.000063554.html

USBタイプのプログラマブルBLE/Wi-Fiゲートウェイ「obniz BLE Stick」

(株)CambrianRoboticsは、クラウド上でプログラミングできるUSBタイプのIoTゲートウェイ「obniz BLE Stick」の販売を開始した。

■ obniz BLE Stickについて
「obniz BLE Stick」は、Bluetooth Low Energy(以下、BLE)を採用したセンサ製品と接続し、さまざまなデータを「obniz Cloud(オブナイズクラウド)」で管理できるIoTゲートウェイ。
obniz BLE Stickには、同社開発のobnizOSが搭載されている。BLEの連携に必要なファームウェアやプログラムは全てobniz Cloudに集約。クラウド上にJavaScriptでプログラムを行うことで、BLEデバイス・対応センサ製品の制御ができる。BLEアドバタイズのスキャンはもちろん、複数機器との同時接続や接続とスキャンの両立など、あらゆることをクラウドでプログラム可能。
ゲートウェイ自体をプログラムする必要がないため、デバイスの追加や変更、サービスやキャラクタリスティクスの操作など、個々のゲートウェイのファームウェアを書き換える必要は無い。初期開発はもちろん、運用開始後の仕様変更も容易で、クラウド側で変更・修正を行えば、すぐに全機器に反映することができるという。

■ obniz BLE Stickの特徴
USBから給電し動作するコンパクトなゲートウェイで、PCやモバイルバッテリーからの給電のほか、ACアダプタを用いて家庭用コンセントから給電できる。設置場所やシーンに合わせた使い方が可能。
1. 豊富なクラウド機能が使える
TLS通信やデバイス管理機能、死活監視を、obniz Cloudの標準サービスとして提供。
2. 保守・メンテナンスが容易
当社独自のファームウェアレス技術により、ゲートウェイ自体に書き込まれているのは専用OSのみで、プログラムはデバイス上に存在しない。そのため、機器盗難によるソフトウェア漏洩の可能性はゼロ、セキュアな運用が可能となる。また、BLEデバイスの追加や仕様の変更も、サーバー上のプログラムを修正するだけ。リモートで対応し即座に適用できる。
3. API連携も容易
WebsocketやRESTによるAPI接続が可能で、接続した各種センサの操作・データ取得が容易。各種Webサービスとの連携により、データのビジュアル化、データベースへの保存、データ確認用のアプリの作成も簡単にできる。
4. 多彩なセンサ類に対応
各種ビーコンや赤外線センサ、温湿度センサ、CO2センサなど、多彩なセンサ製品と連携が可能。

■ 仕様
サイズ   :24mm×80mm×11mm
給電方式  :USB TypeA
動作環境  :温度:0℃〜50℃(保管温度:-10℃〜60℃)
動作電圧  :4.5〜5.5v
主な素材  :ABS
Bluetooth®️ :Ver. 4.2 Low Energy
Wi-Fi    :IEEE 802.11 b/g/n (2.4 GHz帯のみ)

ニュースリリースサイト:https://prtimes.jp/main/html/rd/p/000000014.000040376.html

データ駆動型社会の実現に向け、先端システム技術研究組合(RaaS)設立

 東京大学、凸版印刷(株)、パナソニック(株)、(株)日立製作所、(株)ミライズテクノロジーズ(株)は、2020年8月17日(月)に、「先端システム技術研究組合(略称ラース、以下RaaSと表記(注1))」(理事長 黒田 忠広教授)を経済産業省の認可を得て設立した。
 RaaSは、データ駆動型社会を支えるシステムに必要な専用チップのデザインプラットフォームを構築し、オープンアーキテクチャを展開することで、専用チップの開発効率を10倍高める。さらに、3次元集積技術を研究開発し、最新の7nm CMOSで製造したチップを同一パッケージ内に積層実装することで、エネルギー効率を10倍高めるとのこと。

◆背景
 デジタルトランスフォーメーションの実現の鍵を握るのが、フィジカル空間(現実空間)とサイバー空間(仮想空間)をシームレスに繋ぐデータの活用である。すなわち、IoTデバイスでセンシングしたデータを5Gで集め、AIで高度な分析を加えてサービスとして提供する、データ駆動型社会を支えるシステムが求められる。
 デジタル技術は、プラットフォームで発展・普及するため、従来のコストパフォーマンスに加えて、タイムパフォーマンスが重要になる。すなわち、安く高性能であるだけでなく、早く提供することも重要。専用チップを最先端プロセスで製造すると高い性能を得ることができるが、開発には多大な費用と年月を要することが課題だったという。

◆事業の概要
 RaaSの研究開発目標は、専用チップの開発効率を10倍高め、同時に、エネルギー効率を10倍高めること。開発効率を高めるために、専用チップを素早く設計できるアジャイル設計手法を研究開発し、オープンアーキテクチャを展開する。また、エネルギー効率を高めるために、3次元集積技術を研究開発し、世界のメガファウンドリで7nm CMOSで製造したチップを同一パッケージ内に積層実装する。
 たとえば、複数のSRAMチップを3次元集積してDRAM並みに大容量の積層SRAMを実現する。タイミング設計の難しいDRAMに代えて積層SRAMを用いることにより、コンピュータを用いた自動設計で設計効率を改善。さらに、積層SRAMと専用チップを同一パッケージ内に積層実装することで、エネルギー効率を改善する。
このデザインプラットフォームを活用して、各組合員は自らが実現したいシステムを開発して事業化するとのこと。

◆体制
 RaaSは、東京大学、凸版印刷、パナソニック、日立製作所、ミライズテクノロジーズ(株式会社デンソーとトヨタ自動車株式会社が次世代の車載半導体の研究および先行開発を行なう目的で2020年4月に設立した合弁会社)の5組合員で活動を開始する。各社の事業領域(ドメイン)で求められるシステムをテーマに、デザインプラットフォームを共同で研究開発する。加えて、半導体産業界のエコシステムを支えるファブレスSoC事業会社(株式会社ソシオネクストなど)やEDAベンダーがこの活動を支援するという。

◆期待される成果
 誰でも専用チップを素早く設計でき最先端半導体技術で製造できるようにする。すなわち、「シリコン技術を民主化する」。

注1:RaaS
先端システム技術研究組合の英語名のResearch Association for Advanced Systemsの頭文字を繋げて作った略語。 半導体を部品(製品)としてではなく、 システムの中核知識(サービス)として提供することを標榜し、 サービスとしての研究(Research as a Service)のようにラースと読む。

ニュースリリースサイト(TOPPAN):
https://www.toppan.co.jp/news/2020/08/newsrelease200817_2.html

マイクロ波ドップラーセンサを用いた非接触生体計測技術(2)

神戸大学 大学院
システム情報学研究科
准教授 和泉 慎太郎

3.マイクロ波ドップラーセンサを用いた非接触心拍計測

3.1 概要と実測例

電波を対象物に照射すると、対象物の速度に応じてドップラー効果により反射波の周波数が変化する。この現象を利用し、図7に示したように人体に向けてマイクロ波を照射し、反射波を計測することで、心臓の拍動による体表面の微細な振動を検出することができる。内部的には図8に示すように受信信号に送信信号をミキシングし、中心周波数をDCにシフトさせることでドップラー効果による変動成分を抽出する。

図8 ミキシングによるドップラー波の抽出

図9は24 GHzマイクロ波ドップラーセンサ(新日本無線社NJR4233D1)を用いて走行中の車両内で実測した心拍の一例である。リファレンスとして心電図センサを装着して同時に計測を行った。心電図のR波及びT波から予想される心臓の拡張・収縮のタイミングにおいて、ドップラー波に20~40 Hz程度の周波数成分を有する信号が計測されている。

図9マイクロ波ドップラーセンサによる心拍の実測例

3.2 ノイズと心拍抽出

上記の方法により、非接触での心拍モニタリングが可能となる。しかし、ドップラー波にノイズが混入すると、正確な瞬時心拍を抽出することが困難となり、診断結果に大きな影響を及ぼす。特に心拍計測において問題になるのは、計測対象者の体動を計測してしまう体動ノイズと、センサ自体に機械的な振動が加わることで発生する振動ノイズである。
図10は体動ノイズを含む心拍の計測例である。室内環境で距離画像センサとマイクロ波ドップラーセンサを用いて同時に計測を行った。図10上段は胸部に照射した場合のマイクロ波ドップラーセンサの出力、図10下段は距離画像センサを用いて同時に計測した測定対象者の体動速度を示している。体動が無い期間にドップラーセンサ出力に周期的に見られる信号が心臓の拍動を示している。 しかし、体動の大きな期間ではその波が体動ノイズに埋もれてしまっている。このように、時間軸の処理では体動ノイズが含まれる計測結果から心拍を分離することは困難である。

図10 体動がある場合の実測例

ノイズを含むドップラー波から心拍を抽出する手法として、我々はARモデルによる時間周波数解析を用いた方法を提案している8)。先行研究としてFFTやMUSIC法を用いたもの9)があるが、測定結果が平均心拍数であるため心拍変動モニタリングには向かないこと、また測定精度が低いことが課題となっていた。これに対して提案手法では、ARモデルを用いた周波数解析10)を導入し、より高精度な心拍間隔抽出手法を実現している。
図11はドップラーセンサ出力と、その周波数解析結果の一例を示している。体動ノイズの多い前半部分では低周波域にノイズ成分が見られるが、心拍成分も確認できる。次に、この解析結果から自己相関を用いて心拍の間隔を抽出する。我々はこれまでに、心電図を対象に、自己相関を用いて瞬時心拍を抽出する方法を提案している。さらに、線形補間と組み合わせることでサンプリング誤差を補正し精度を向上できることを確認している11)。これらの手法を周波数軸にも拡張し、二次元的に探索する手法を用いて心拍間隔を求める。図12は心拍抽出結果の一例を示している。x軸に計測時間、y軸に心拍間隔に相当するシフト時間、z軸に相関係数の強さを示している。相関係数は大きいほど黄色に近づき小さいほど青色に近づく。また、赤い実線はリファレンスセンサから得られた心拍間隔を示している。相関係数の大きいシフト時間が図12の黄色い帯状の部分であり、リファレンスセンサで取得した心拍間隔の変動と一致している。安静時の計測データに対して、10 msの平均誤差で心拍間隔を抽出できることを確認している。

図11 体動を含むドップラーセンサ出力例と周波数解析結果
図12 自己相関による心拍抽出結果例

3.3 課題と将来展望

ノイズ耐性の向上、小型化、低消費電力化が非接触心拍計測の課題である。センサの小型化・低消費電力化はノイズ耐性とトレードオフの関係にあるため、回路ハードウェアと信号処理アルゴリズムの融合による解決が求められる。
また、マイクロ波ドップラーセンサを用いた心拍抽出に対しては様々な検討が行われているが12)、計測された心拍成分が体の部位ごとに異なる理由や、その個人差に対する議論は不十分である。図13はセンサを衣服の上から胸部に接触させ、心電図及びPPGと同時に計測した実測例である。前述した実測例よりも小型のドップラーセンサ(新日本無線社NJR4233D1)を用いて計測している。ドップラー波はバンドパスフィルタにより高周波信号(10~50Hz、赤色)と低周波信号(0.5~5Hz、青色)に分離されている。心電図と照らし合わせると、高周波にも低周波にも心拍と同期した信号が現れていることがわかる。

図13 ECG、PPGとの同時計測例

高周波成分と低周波成分でそれぞれに異なる特徴を持った心拍成分が計測される理由については、高周波成分は心臓の拡張収縮にともなう振動、低周波成分は血管を脈波が伝搬する振動ではないかと予想している。高周波成分は胸部に加速度センサを装着して計測したBCG(Ballistocardiograph7))と、低周波成分はPPGと、それぞれ強い相関があることがわかっている。
これらの心拍波形は個人差の影響によって周波数特性が異なる。これは心臓の拍動パターンが個人によって異なるためで、心電図にも同様の個人差が現れることが知られている13)。先行研究13)ではこの個人差を生体認証に応用しており、マイクロ波ドップラーセンサで計測された心拍成分を同様に生体認証に応用できる可能性がある14)

4.おわりに

少子高齢化社会の中で、医療ヘルスケア応用に向けた生体信号の常時計測が注目されており、さまざまな計測技術が提案されている。本稿では特に心拍の計測に着目し、特にマイクロ波ドップラーセンサを用いた非接触心拍抽出技術について、実測例と課題を紹介した。非接触計測における大きな課題は体動をはじめとしたさまざまなノイズへの対策であり、回路ハードウェアと信号処理アルゴリズムの融合によるノイズ耐性の向上が求められている。

参考文献

8) S. Izumi, T. Okano, D. Matsunaga, H. Kawaguchi, and M. Yoshimoto, “Non-contact Instantaneous Heart Rate Extraction System Using 24-GHz Microwave Doppler Sensor,” IEICE Transactions on Communications, vol. E102-B, no. 6, pp. 1088-1096, June 2019.

9) K. J. Lee, C. Park, and B. Lee, “Tracking driver’s heart rate by continuous-wave Doppler radar,” Proc. of IEEE EMBC 2016, pp. 5417-5420, Aug. 2016.

10) S. Yoshida, S. Izumi, K. Kajihara, Y. Yano, H. Kawaguchi and M. Yoshimoto, “Energy-Efficient Spectral Analysis Method Using Autoregressive Model-Based Approach for Internet of Things,” IEEE Transactions on Circuits and Systems I: Regular Papers, vol. 66, no. 10, pp. 3896-3905, Oct. 2019.

11) K. Watanabe, S. Izumi, Y. Yano, H. Kawaguchi, M. Yoshimoto, “Heartbeat Interval Error Compensation Method for Low Sampling Rates Photoplethysmography Sensors,” IEICE Transactions on Communications, vol. E103-B, no.6, pp.645-652, June 2020.

12) V. L. Petrović, M. M. Janković, A. V. Lupšić, V. R. Mihajlović and J. S. Popović-Božović, “High-Accuracy Real-Time Monitoring of Heart Rate Variability Using 24 GHz Continuous-Wave Doppler Radar, ” IEEE Access, vol. 7, pp. 74721-74733, 2019.

13) J. S. Arteaga-Falconi, H. Al Osman and A. El Saddik, “ECG Authentication for Mobile Devices,” IEEE Trans. Instrumentation and Measurement, vol. 65, pp. 591–600, Mar. 2016.

14) T. Okano, S. Izumi, H. Kawaguchi,and M. Yoshimoto, “Non-Contact Biometric Identification and Authentication Using Microwave Doppler Sensor,” Proc. of IEEE BioCAS, pp. 392–395, Oct. 2017.

【著者紹介】
和泉 慎太郎(いずみ しんたろう)
神戸大学 大学院システム情報学研究科 准教授

■略歴
2011年 神戸大学大学院工学研究科博士後期課程修了 博士(工学)

2009年 日本学術振興会 特別研究員
2011年 神戸大学先端融合研究環 助教
2018年 大阪大学産業科学研究所 特任准教授(常勤)
2019年 神戸大学大学院システム情報学研究科 准教授

液体金属を用いた伸びるバイタル検出センサの開発(2)

横浜国立大学 工学研究院
准教授 太田 裕貴

4. システム開発

4.1スマート電熱グローブ

図 2の加工方法をもとに、スマート電熱グローブを開発した(図8)1。図8a, b, cにスマート電熱グローブ上のシステム構成及び加工方法に関して記載した。液体金属で作成された温度センサの計測温度をもとにIC等からなるコントロールシステムでグローブ上の電熱温度を制御した。実際に、サーモグラフィで観察した結果が、図8d, eとなっており、電熱部分が発熱していることが確認できる。図 8fがシステム回路図となっており、実際に電熱部分が加熱されている(図8g)。電力と温度センサの相関及びその時のサーモグラフィによる温度の相関を示した図が図8hとなっている。このように、温度センサによって電熱部分の温度をコントロールできるスマート電熱グローブを3次元印刷により実現した(図8h)。

図 8:スマート電熱グローブ。
a. 開発した電熱グローブ、b. システムのレイアウト、c. 加工プロセス、d, e. 電熱グローブのサーモグラフィ、
f. 回路図、g. 加熱部のサーモグラフィ、h. 実際に計測した設定温度と電熱グローブの温度
Copyright © 2016 Wiley

4. 2 深部体温計測が可能なイヤラブルスマートデバイス

更に、ヘルスケア用途での高い需要が求められる深部体温を計測するための耳装着型(イヤラブル)スマートデバイスを開発した(図9)6。ウェアラブルデバイスで頻繁に計測される温度計測は、肌温度を基礎に行われている。しかしながら肌温度は外部温度(環境温度)に大きく影響を受ける。一方、医療現場や実際に生体の調子を観察する上で重要な生体の温度は深部温度である。深部温度(深部体温)を計測する方法はわき、口腔内、肛門(直腸)、耳(鼓膜)がある。直腸がもっとも正確な深部体温を計測することが可能である。しかしながら、経時計測するうえでは耳が最も利便性が高い。そこで我々は耳式体温計の原理をもとに、スマートフォンで体温を確認できる”イヤラブル”(Ear+wearable)デバイスを開発した。また本デバイスに骨伝導によるスピーカーを実装することで耳をふさぐことによる障害を軽減した。

体表面温度と商用の耳式体温計で計測した深部体温、作製したデバイスで計測した深部体温の三つの体温と環境温度の相関を検討した。体表面温度は、環境温度によって大きく左右される、一方で短時間であれば深部体温は変化しないことを実証している。さらに、運動時における表面温度と深部温度の変化を探ると表面温度に関しては運動を始めてすぐに上昇するが、発汗とともに表面温度が低下する。その一方で、鼓膜温を元にした深部体温は運動し続けた時間の中で上昇し続ける。これは明らかに表面温度が正しい体温を示していない結果である。スポーツ及び医療において、このような正確な体温を計測できることは有意なスポーツ医学及び基礎医学的見解を提供できるものと考えられる。

図9:3次元プリンティングによるイヤラブルスマートデバイス。
a. 開発したイヤラブルデバイス、b, c. 内部構造とその拡大図、d. 装着部の構造
Copyright © 2017 American Chemical Society. https://pubs.acs.org/doi/full/10.1021/acssensors.7b00247

5. 結論

本研究では、液体金属を元にしたその加工方法及びデバイス構築方法を通して本論でLiquid-state electronic systemの更なる可能性を提案した。

「本研究は戦略的情報通信研究開発推進事業(SCOPE) (No.181603007)のサポートの元で行われた。」

参考文献

1) H. Ota et al., “Highly-deformable liquid-state heterojunction sensors.”, Nature Communications, 5(5032), pp. 1-9, 2014.

6) H. Ota et al., “3D Printed Earable Smart Devices for Real-time Detection of Core Body Temperature.”, ACS Sensors, 2 (7), 990–997, 2017.

【著者紹介】
太田 裕貴(おおた ひろき)
横浜国立大学 工学研究院 准教授

■略歴
2011年慶應義塾大学大学院理工学研究科後期博士課程修了。同年博士(工学)取得。日本学術振興会特別研究員(PD)にて東京女子医科大学先端生命医科学研究所に所属。
2013年から海外特別研究員、Project scientistとしてカリフォルニア大学バークレー校に所属。
2016年から特任助教として大阪大学産業科学研究所に所属。2017年3月より横浜国立大学大学院工学研究院システムの創生部門にて准教授として研究室を主宰。
2018年に一般社団法人日本機械学会新分野開拓表彰。
2020年に文部科学省表彰若手科学者賞等を受賞。専門は機械工学・電気電子工学。
近年は、液体金属をもちいたストレッチャブルデバイスおよび新生児用スマートデバイスの開発を行っている。

インキャビン生体レーダー検出と脈拍数推定(2)

日本電産モビリティ(株)
ボディシステム事業部
三谷 重知

3.脈拍数推定手法

レーダーで検出した生体の脈拍数を求めるために、身体の体表面の動きをドップラー角速度ωd1)を使って観測する。図4の左に示すようにI,Q信号で形成するI-Qリサージュ波形の位相θを定義すると、ドップラー角速度ωdは、位相θを時間微分したものである。また、この位相θにより同図右に示すように体表面の微細な動きを観察することが可能となる。位相θの値を変位量に換算すると、図では呼吸による変動が50μmに対し、脈動が10μmの微細な変動で観測できている。しかし、この変動は、測定する部位や体表面の支持の仕方によって異なる。また、非安静状態では、様々な体の動きが外乱となるため、脈動を観測することが困難となる。体表面の移動量が大きい場合、I-Qリサージュは、円軌道を周回するような軌跡を描くので、位相θではなくドップラー角速度ωdを使って観測する方が便利である。

図4 I-Qリサージュ波形と体表面の観察

図5に、脈拍数推定における課題を示すために外乱の様子を示している。センサと身体表面や周辺金属物との位置関係が変動すると、受信信号の状態が変わるため外乱要因となる。更に、身体表面についてみると観測したい脈動の他に、呼吸体動や手足頭の動きなどに伴う自発体動や、走行時の車両振動を起因とする衝撃体動などが外乱として発生する。図5の右には、走行時に観測されるドップラー角速度ωdの変動の様子を示している。停車時の状態に対してはるかに大きい外乱が入り、脈拍数の推定が困難な状態となる。我々は、独自の信号処理の開発を行って、外乱の大きな状態から脈拍数の推定を行うことに成功している。

図5 車室内での脈拍測定における外乱

外乱に埋もれた状態から脈動信号を取り出すための基本アルゴリズムの概略を図6に示す。身体表面の動きを観測しているドップラー角速度信号ωdから脈動の周期成分に同期した信号を抽出し脈動信号とし、更にその信号からパルス検知を行ってパルス数をカウントして1分間当たりの脈拍数(bpm)を推定する。我々が開発したアルゴリズムでは、逐次処理により実際の脈動信号に同期するように、脈拍数推定値のフィードバックをかけてモデル脈波信号を生成する。モデル脈波信号生成では、予め脈拍数毎に脈波の特徴を記憶したテーブルを参照して、モデル脈波信号を生成する。このモデル脈波信号と適応フィルター処理後の脈動信号との差をとり、その二乗平均が最小となるような適応フィルターの係数更新を行う。この操作により、適応フィルター処理後の脈動信号は、実際の脈動信号に同期していく。

図6 脈動検出基本アルゴリズム

前述の逐次処理では、初期値の与え方によって誤った値に収束する場合がある。この対策として、比較的安静にしている一定期間のデータを使って、基準脈拍数を推定し初期値として用いている。その概略を図7に示す。図7の(a)には、観測データの状態を示している。一定の期間安静にしている区間がある場合に初期化処理を進め、初期化完了時に初期値をセットして逐次処理に移行する。初期化処理では、図7の(b)に示すように、観測データをフーリエ変換して得られる周波数ピークを安静区間ごとに求める。そして、図7の(c)に示すような度数分析を行い、脈拍数として尤もらしい値を基準脈拍数として決定する。このようにして、確度の高い値を求めることで、脈拍数推定の信頼性を高めている。

図7 基準脈拍数の検出

図8に脈拍数推定の実際の様子を解析画面で示している。画面の左上のグラフは、ドップラー角速度信号ωdの時間変化を水色、リファレンスセンサ(耳たぶ取り付けの光学式脈拍センサ)で取得した矩形パルス(脈拍)波形を桃色で示している。また、画面の右上は、それらをフーリエ変換した結果の周波数強度についてのグラフである。比較的安静にしている状態であれば、ドップラー角速度信号ωdの周波数成分には、リファレンスセンサで取得した脈拍成分に一致する成分が含まれることが確認できる。しかし、脈拍数を決定するためには、どのピークが基本周波数成分であるかを判断する必要がある。この課題を前述したアルゴリズムによって、適切な脈動の周期に同期させることで解決している。画面の左下には、脈拍数の時間変化を推定した結果を水色で示している。リファレンスセンサから得た値(赤色)に非常に良く一致した結果が得られている。また、画面の右下は、I-Qリサージュを表示している。このI-Qリサージュの挙動を分析することで、検出した生体を正しく観測できているか確認することも必要となる。例えば、十分な大きさの円弧を描いていることが重要になる。周囲金属物の影響などセンサの設置条件によっては、脈拍数の推定が困難な場合がある。

図8 脈拍数推定の様子

4.生体情報の分析

ミリ波レーダーから得られるI,Q信号を分析することで、生体の位置、大きさや動き、更に、呼吸数、脈拍数といった生体情報が得られる。これらを総合的に判断して、検出した生体が大人か子供かを判別することもできる。例えば、図9に示すようにセンサが天井に設置される場合を考えると、大人と子供では身長差があることからセンサまでの距離が異なる。また、体格が異なるので、電波を反射する面積に差を生じ、受信する信号強度にも差が現れる。つまり、I-Qリサージュを描いた場合、円の大きさが異なる。更に、大人より子供の方が呼吸数や脈拍数が高いことが知られているし、肺活量の差から呼吸時の体表面の変位量も異なる。これらの情報を使って大人か子供かについて多変量解析することで、信頼性を高めた判別が可能となる。

図9 生体情報抽出による大人/子供判別

5.おわりに

先に示した手法によって、車室内でも信頼性を高めた生体情報が得られる。例えば、安静状態であれば、RMS誤差が5bpm内で脈拍数を推定することが可能である。これらの生体センシング技術を活用することによって、より安全性を高めることが期待できる。今後の課題としては、車載製品に求められるロバスト性の確保が必要である。例えば、センサの設置条件によっては、生体の見え方が変わるため調整が必要となる。様々な車両がある中で、センサの取り付け位置にも制約があり、ベストな設置方法が選べない場合がある。これらの環境要件を考慮して調整可能なように車両適合させていく技術の習熟が必要とされる。また、エアバックの制御など高度な信頼性が必要とされるアプリケーションでは、高分解能化が必要となる場合がある。その場合、アンテナ数を増やすべきなのかカメラなど他のセンサとフュージョンさせるべきなのか、機能拡張性やシステムコストなどを考慮して最適な方法を模索する必要がある。近い将来、本稿で紹介したインキャビン生体レーダー検出を活用した予防安全システムの開発を行い、社会の発展に貢献できれば幸いである。

【著者紹介】
三谷 重知(みたに しげとも)
日本電産モビリティ株式会社 ボディシステム事業部 技術専門職

■略歴
2004年 オムロン株式会社へ入社
2011年 オムロンオートモーティブエレクトロニクス株式会社へ転籍
2019年 日本電産モビリティ株式会社へ社名変更
     デジタル信号処理技術を駆使したアルゴリズム開発に従事

24GHz FMCW MIMOレーダーを用いたバイタルセンシング(2)

アナログ・デバイセズ(株)
リージョナルマーケティング
高松 創

6 レーダーVSM測定実験(機械振動)

以下では、実際に開発したレーダーVSMを使用した実験の結果を述べる。

ヒトの体表に発生する振動は振幅などを制御することは不可能である。そこで、先ずは実際に開発したレーダーVSMの実力値を見るために、アクチュエータを使った実験を実施した。レーダーVSM機器は、アナログ・デバイセズ社とサクラテック社で共同開発したmiRadar8(24GHz、2送信4受信MIMO)を使用している。(図7)

図7 サクラテック社のmiRadarと内部回路構成

実験では、アクチュエータに設置したコーナーリフレクタを機械振動させ、それをレーダーVSMで測定している。(図8)

図8 実験の様子

実験によって得られた位相変化量(先に説明したように位相変化∝速度)を図9に示す。24GHz(波長12.5mm)の場合、波長を超えた振幅は位相が365度(一回転)を超えるため、データの連続性が失われるが、それ以下であれば位相が振幅によって決まった範囲内で振動していることが分かる。さらに、FFTで周波数応答を見た場合でも、心拍振動で要求される約±0.5mmの振動検知能力は充分に得られていることが分かる。図10で分かるように、振幅が±0.04mm以下ではSNも悪化しており、ピーク検知は難しくなるのが分かる。

図9 実験データ(位相変化量)
図10 FFT解析結果(機械振動)

7 レーダーVSM測定実験(ヒト)

次に、ヒトを測定した場合のデータを示す。(1.2m先の成人男性を約3分間測定)

図11を見ると分かるように、ヒトの場合は先述の機械振動と異なり、FFT後の周波数ピークが分かりづらくなっていることが明らかである。これはヒトの呼吸および心拍由来の振動が機械と異なり、単純な正弦波振動ではないため、高調波が生まれていることが原因である。特に、心拍はECGによる心電図でも分かるように、パルス波で広い周波数成分を含んでいるため、単純な周波数解析で検出することが困難である。さらに、呼吸は振幅に比較して大きな振幅を持ち、大きな高調波を発生する。この高調波が心拍周波数と重なる場合、心拍の検出がより難しくなる。例えば、呼吸の周波数0.3Hz、心拍が1Hzの場合、呼吸の約3倍高調波が心拍と重なる可能性がある。

図11 FFT解析結果(ヒト)

以上は、フィルター処理等を行わない、位相生データで議論をしてきたが、レーダーVSMの商用化の場合は、これに対して帯域フィルターや平均化処理などの、フィルター処理を行うことで、安定したバイタルデータを得るようにしている。サクラテック社の製品でも同様の信号処理が行われている。これらのフィルター処理を行った結果を、リファレンスで使用したECGとのデータ(測定者が安静時)と比較を図12に示す。ここでのデータの乖離は、タイムドメインで見て5%程度の結果が得られている。

図12 心電計データとの比較

8 レーダーVSMの発展に向けて

サクラテック社の製品を含め、いくつかのレーダーVSM製品の商用化が始まっているが、まだ黎明期の技術でもあることから、今日もバイタル検知アルゴリズムに関する学術論文が多く提出されており、特に最近は深層学習(ディープラーニング)などを利用したアルゴリズムにおけるイノベーションが産まれつつある分野である(4)。また、レーダーVSMは従来のセンサと異なり、呼吸と心拍を同時に非接触で測定可能なため、より高度なデータ取得が期待されている。

その中のひとつ、HRV(心拍変動値)は、ストレス値と相関があるため、特に強いニーズがある。HRV測定には、タイムドメインで正しいR波(ECGにおける一番高いピーク波)を測定することで、高精度なRRI(二つのR波のインターバル)が得られ、その結果HRV解析が可能になる。一般的にECGではHRV解析のために、数100Hzのサンプル速度が求められる (5)

レーダーVSMを考えた場合、バイタル算出までに多くの信号処理が必要になるため、レーダーVSMのバイタルのサンプル速度は、ハードウェアの速度ではなく、ソフトウェアの信号処理速度に依存している。例えば、今回の実験で使用したmiRadar8を、汎用のノートPC(CPUはCore i7)で信号処理をした場合でも200Hz程度が限界である。レーダーVSMで高精度なHRV解析を実現するには、信号処理を組み込み化(DSP組み込みソフトウェアやFPGAに信号処理器を実装)する必要性がある。

また、信号処理アルゴリズムでも、FFT周波数解析だけでなく、ECGで使われるようなタイムドメインでのピーク検知アルゴリズム解析なども検討が必要となる。

レーダーVSMは、位相情報を利用したバイタルセンシングであると説明した。この位相情報は、365度以内の位相変化について、データの連続性が担保された正しい情報が得られることに注意が必要である。これは波長に依存しており、波長を超えた変位は位相が回転してデータの連続性を失う(ここでは位相回転問題と呼ぶ)。特にミリ波レーダーの場合、波長が短くなるために注意が必要である。例えば、レーダーVSMでも使われる60GHzレーダーでは、その波長が5mm程度なので、静止しているヒトの呼吸動作でも位相回転問題が煩雑に発生する可能性がある。このようなデータを連続値と見なして扱うことは、非連続ポイントをピークとして誤検知することや、FFT解析における高周波/広帯域ノイズとなるため、特に注意が必要である。図13に位相情報の生データを示しているが、±90°を超えたポイントで位相が大きく変動しているのが分かると思う。

図13 位相回転問題(位相生データ)

9 結論

これまでレーダーVSMの原理と実機での実験データについて説明してきた。実際にアナログ・デバイセズの24GHzレーダーチップセットを利用したサクラテック社のmiRadarによるレーダーVSM実験とそのデータ考察を行い、最後に今後の発展に向けた提言について言及する。

ポイント:
・ レーダーの位相情報を信号処理することで、バイタルセンシングで要求される1mmより微小な振動が検知可能
・ MIMOレーダー方式を使うことで、FOV内の外乱ノイズ除去や複数人の測定が可能
・ 呼吸と心拍の検知では、呼吸の高調波信号の影響が無視できないため、高度な信号処理が必要
・ レーダーVSMのデータ固有の特徴に適した信号処理アルゴリズムを検討することで、さらなる発展を期待

レーダーVSMは、原理は古く、実用化においては新しい技術である。ハードウェア面では、レーダー用の高集積化された半導体製品が容易に利用可能となった。近年はバイタル検知における信号処理アルゴリズムソフトウェアの研究が増えており、イノベーションが生まれることを期待される分野である。特に、測定対象者に負担を課さずに、非接触で心拍と呼吸を同時に長期間モニタリングできることから、普及に向けた動きが加速することを期待している。

参考文献

4 Person-Specific Heart Rate Estimation With Ultra-Wideband Radar Using Convolutional Neural Networks, Shuqiong Wu et. Al., IEEE Access, November 2019

5 Is 50 Hz high enough ECG sampling frequency for accurate HRV analysis?, Shadi Mahdiani, 37th Annual International Conference of the IEEE Engineering in Medicine and Biology Society (EMBC), August 2015

【著者紹介】
高松 創(たかまつ はじめ)
アナログ・デバイセズ株式会社 リージョナルマーケティング

■略歴
1994年     東京工業大学 総合理工学研究科 システム科学専攻 修士課程修了
1994~2011年  半導体メーカでIC設計およびアプリケーションエンジニアとして従事
2011年より、アナログ・デバイセズ社で、プラットフォームの研究開発に従事し、現在に至る

シャープ、大容量データを高速に伝送するローカル5G対応ルーターを開発

 シャープは、ローカル5Gに対応したルーターの試作機を開発した。ローカル5Gの実証実験やネットワーク検証用として、本年9月以降に提供開始予定とのこと。

 本機を介してカメラやFA機器、各種センサーなどを無線または有線でローカル5Gのネットワークに接続することで、大容量データを超高速で伝送することが可能となる。受信時最大約3Gbps/送信時最大約600Mbps※の超高速データ通信を実現。Wi-Fi6対応のほか、2.5GBASE-TのLANポートやUSB3.0を搭載するなど、無線、有線ともに接続機能が充実しています。無線と有線の同時使用も可能なので、利用シーンや端末に応じた接続方法を選べるという。

 また、本機は、ローカル5Gの周波数として2019年12月に制度化された「28.2-28.3GHz」に加え、今後の割当てが検討されている「28.3-29.1GHz」「4.6-4.9GHz」にも対応している。周波数の拡大も見据え、幅広いネットワークの検証に活用できるとしている。

■ 主な特長
1.ローカル5G対応ルーターの試作機を開発。本年9月以降に提供開始予定
2.カメラやFA機器、各種センサなどを無線または有線で接続し、大容量データを超高速で伝送することが可能
3.ローカル5Gの制度化された周波数、および今後割当てが検討されている周波数にも対応

■ 主な仕様
品名     :ローカル5G対応ルーター
サイズ/質量 :約157 × 84 × 16mm / 約270g
通信速度   :受信時最大約3Gbps/送信時最大約600Mbps※
対応周波数  :28.2-28.3GHz/28.3-29.1GHz/4.6-4.9GHz
ディスプレイ :約2.4インチQVGA (320×240画素)TFT液晶ディスプレイ
Wi–Fi®    :IEEE802.11a/b/g/n/ac/ax(2.4GHz帯/5GHz帯対応)同時接続可能台数 16台
有線LAN   :2.5GBASE-T × 1(内蔵)
USB     :USB3.0(Type-C)
バッテリー容量:約4,000mAh 
※ 通信速度は送信受信それぞれ、ある設定条件での理論値であり、本速度を保証するものではない。利用者の各種パラメータ設定や利用条件によって異なる。

ニュースリリースサイト(SHARP):https://corporate.jp.sharp/news/200817-a.html

Cartesiam社の機械学習導入ツールを活用したSTM32マイコン向け状態モニタ用ソフトウェア・パッケージ

STマイクロエレクトロニクスは、STM32マイコン用のソフトウェア・パッケージ「FP-AI-NANOEDG1」を発表した。
無償で提供されるこのソフトウェア・パッケージは、STM32マイコン開発ボードを使った組込みAIベースの産業機器状態モニタ用システムの迅速な構築・学習・実装を可能にするという。

機械学習の高い専門性を持つSTの認定パートナー企業であるCartesiam社と共同開発したFP-AI-NANOEDG1ソフトウェア・パッケージには、センサ・データの収集や統合、およびCartesiam社の機械学習ライブラリ生成ツールであるNanoEdgeライブラリを実行するドライバ、ミドルウェア、ドキュメント、サンプル・コードがすべて含まれる。 機械学習に関する専門的なスキルを持たないユーザでも、Windows® 10またはUbuntu PCで動作するCartesiam社のAI開発環境「NanoEdge™ AI Studio」を使用することで、アプリケーションに応じた機械学習ライブラリを短期間で作成し、エクスポートできる。また、FP-AI-NANOEDG1は無償で利用することができ、STM32マイコン開発ボード上で包括的な試作開発と検証を簡単に行うことができる。ユーザのハードウェアへの実装には、Cartesiam社の標準的な料金が適用されるとのこと。

Cartesiam社と協力して確立したシンプルな手法により、STM32L562E-DKなどのSTM32マイコン開発ボードに搭載された産業グレードのセンサを使用して、監視対象の機器から通常動作と異常状態双方の振動データを取り込むことが可能。FP-AI-NANOEDG1には、センサ・データを設定して取り込むためのソフトウェアが含まれている。NanoEdge AI Studioはベンチマーク・データを分析し、5億通り以上の組み合わせから事前コンパイル済みアルゴリズムを選択して、学習と推論用に最適化されたライブラリを作成する。 FP-AI-NANOEDG1ではライブラリ用のスタブが提供され、アプリケーションに組み込む際に簡単に置き換えられる。また、学習モードと監視モードの切り替えができるため、導入後に動作モードの通常パターンを初期インストール段階と機器の耐用期間においてローカルで学習することも可能という。

FP-AI-NANOEDG1では、STM32マイコン開発ボードを使用したデータの収集や、ソリューションの生成・学習・監視が可能。また、無償開発ツールやソフトウェア、STM32開発エコシステムのサポートを活用することで、概念実証モデル(PoC)を短期間のうちに低コストで作成し、アプリケーションをその他のSTM32マイコンに簡単に移植することも可能。このソリューションは、クラウド上のAIに依存しないインテリジェント・エッジ・デバイスで、データをローカルのデバイス上で処理するため、潜在的な機密情報の管理を強化できるとのこと。

FP-AI-NANOEDG1ソフトウェア・パッケージは、現在STのウェブサイト(www.st.com)から無償でダウンロードすることができる。

STM32L562E-DKには、超低消費電力マイコン「STM32L562QEI6QU」、3軸加速度センサと3軸ジャイロ・センサを集積したiNEMO™ 6軸MEMSモーション・センサ、MEMSマイク(2個)、TFT-LCDモジュール(240 x 240カラー)、およびSTLINK-V3Eデバッガ / プログラマが搭載されている。STM32L562E-DKは、STのウェブサイト(www.st.com)または販売代理店から入手可能で、参考価格は約76.00ドル。

ニュースリリースサイト:https://prtimes.jp/main/html/rd/p/000001074.000001337.html

NECとFiNC「A-RROWG」でMakuake Of The Year 2020 受賞

NECは(株)FiNC Technologies(以下、FiNC)と共同開発を行った歩行センシングインソール「A-RROWG」プロジェクトにおいて、「Makuake Of The Year 2020」を受賞した。 「A-RROWG」はNECが初めて挑戦したMakuakeプロジェクトであり、初めての「Makuake Award」受賞となる。

■歩行センシングインソール「A-RROWG」
「A-RROWG」は、NECの小型の歩行分析センサを搭載した専用インソールとその人の歩容状態をチェックしてアドバイスを行うスマホアプリから構成されている。これまでの歩行分析実績から導き出された理想の歩行と最先端の歩容センシング技術により編み出された、NEC独自の「歩容推定モデル」を活用することで、センサが計測した歩行軌跡を基に、歩行速度、歩幅、接地角度、離地角度、足上げ高さ、外回し距離を取得して「歩容」を推定する。

FiNCはこの推定結果から、アプリ上で行われるその人に合わせた理想的な歩容のアドバイスやトレーニングメニューの監修を行う。この両者の強みを組み合わせ、美しい歩行姿勢を導くという。
本プロジェクトにおいて、ユーザーベネフィットや体験価値設計をもとにした製品企画、サービスの名称「A-RROWG」の考案、ロゴデザイン、クリエイティブ制作及びMakuakeを活用したテストマーケティングなどをMISサポートのもと行った。

NECの歩行分析技術で「歩容≒歩行の質」を計測し、FiNCの「知見」で美しい歩行姿勢へ導くというコンセプトに共感し、美しく健康でいたいというサポーターからの支持を集め、今回の受賞となったとのこと。

ニュースリリースサイト:https://prtimes.jp/main/html/rd/p/000000010.000049966.html