本連載では、ISPが独自に開発したセマンティックセグメンテーションのアルゴリズム「REEL SS」と、そのエッジAIにおける活用について3回に渡ってご紹介いたします。 第1回ではREEL SSの概要についてご紹介し、続く第2回ではエッジAIの概要や特徴について簡単に解説いたしました。連載最後となる本記事では、エッジAI端末上でREEL SSの動作速度を計測し、REEL SSのエッジAI対応アルゴリズムとしての実力をご覧に入れたいと思います。
Jetson Nanoとは？
Jetson Nanoは、NVIDIAが発売している低電力で動作可能な小型のコンピューターです。コンパクト・低価格ながらAIの高速な動作に必要なGPUを搭載しており、エッジAIをはじめとした様々な用途で広く利用されています。
こちらの画像左に映っている端末がJetson Nanoです。大きさは100 mm × 80 mm × 29 mm とコンパクトな作りになっています。また、右側に映っている銀色の端末は、放熱性能なども考慮してISPが設計・開発したエッジ端末で、内部にはJetson Nanoが組み込まれています。
Jetson Nanoでの速度計測
いよいよ本題です。本記事では、第1回でお見せした画像の学習と推論をJetson Nano上で行った際の処理時間を計測してみました。学習・推論に使用した画像は次の通りです（詳細は連載第1回記事をご覧ください）。
ひび検出
（背景をオレンジ、ひびをライトブルーとしてアノテーション）
（青がひびとして検出された部分）
みかんの個数計測
（背景を赤、みかんを青としてアノテーション）
（青がみかんとして検出された部分）
アルファベット
（背景を黒、Aを青、Bを赤としてアノテーション）
（青がA、赤がBとして検出された部分）
学習に用いた画像のサイズと学習時間
| 学習画像サイズ（px） | ラベル付けした点の数（個） | 学習にかかった時間（秒） | |
|---|---|---|---|
| ひび | 512 × 512 | 171 | 0.64 |
| みかん | 640 × 426 | 230 | 0.83 |
| アルファベット | 819 × 579 | 928 | 3.53 |
推論に用いた画像のサイズと推論時間
| 学習画像サイズ（px） | 推論にかかった時間（秒） | |
|---|---|---|
| ひび | 512 × 512 | 0.22 |
| みかん | 640 × 427 | 0.32 |
| アルファベット | 819 × 579 | 0.67 |
（なお、学習時間は画像サイズとラベル付けした点の数、ラベルの種類の数に、推論時間は画像サイズやラベルの種類の数にそれぞれ強く依存します）
安価なエッジAI端末上で、数秒でAIモデルの学習が可能というのは魅力的な速度ではないでしょうか。この速度であれば、学習結果をみてアノテーションを付けなおす、といったインタラクティブな操作も十分可能です。
終わりに
連載最後の本記事では、REEL SSのエッジAIとしての性能評価のために、Jetson Nano上における処理速度を計測いたしました。エッジ端末でAIが行えることのイメージが少しでも伝われば幸いです。
ISPではREEL SSに限らず、エッジ端末による手軽で高度なAIアプリの開発を精力的に行っております。今後も技ラボでご紹介する予定ですので、どうぞお楽しみに!