CVPR2018 5日目：ニューラルネットワークを効率的に動かすためのワークショップに参加しました

皆さんこんにちは。@tereka114です。
遂にCVPRも最終日になりました。

※CVPR2018の4日目の記事はこちらです。
acro-engineer.hatenablog.com

本日参加したのは、「Efficient Deep Learning for Computer Vision」のWorkshopです。

Efficient Deep Learning for Computer Vision

Workshopの概要は次のサイトに掲載されています。
ECV2018

従来の研究では、精度が第一で、他の速度やがおざなりになっていたようです。
現在は、モバイルによる活用が増えており、近年、ニューラルネットワークの効率化の研究が進んでいます。

講演

問題意識として共通しているのは、エッジデバイスで利用するには現状の画像認識技術では難しいといったことです。
様々な研究の成果により、画像認識の精度が非常に上がってきています。
ところが、デバイス・エッジに載せるためには現状の精度の高いニューラルネットワークモデルでは実行時間が遅いです。
かつ、デバイスにダウンロードもできない程度にファイルサイズが大きくなっています。（iphoneダウンロードできないらしい）
そのため、精度をある程度保ったまま、モデルの軽量化や高速化が求められてきています。

Workshop中にニューラルネットワークの最適化の方法、新しいニューラルネットワーク（SqueezeNext）の提案やArchitecture Searchにより高速なニューラルネットワークを自動作成する例がありました。

人間の人力のアーキテクチャ最適化よりは、機械による最適化のほうが短時間で望ましい結果が出ていました。
実利用の際に最適化が必要になる局面が出てくると思うのでいくつかの技術で実現したいです。

パネル＆ディスカッション

様々な講演の最後にパネル＆パネルディスカッションがありました。
これまでは、モバイルを対象にしていましたが、最後はオフライン（クラウドなど）のTrainingに関してのパネルです。
近年では、非常に多くのデータが上がってくるようになり、オフラインでの学習のスケール・高速化が重要になってきています。

これに関して、5人のパネラーがそれぞれの立場で説明をされていました。
TPUやクラウド上でのプラットフォームの提供、GPU、HPCなど様々な分野の立場からアーキテクチャや高速化の工夫の説明がありました。後にディスカッションがあり、ベンチマークやバッチサイズの話など様々な話をされていました。あとで復習したいと思います。

最後に

ICMR, CVPRと長きに渡り、レポートを書いてきました。
直接カンファレンスに参加するのははじめてですが、現地に行ったからこそ良かった点がありました。
また機会があれば行ってみようと思います！

Acroquest Technologyでは、キャリア採用を行っています。

• ディープラーニング等を使った自然言語／画像／音声／動画解析の研究開発
• Elasticsearch等を使ったデータ収集／分析／可視化
• マイクロサービス、DevOps、最新のOSSを利用する開発プロジェクト
• 書籍・雑誌等の執筆や、社内外での技術の発信・共有によるエンジニアとしての成長

少しでも上記に興味を持たれた方は、是非以下のページをご覧ください。

www.wantedly.com

CVPR2018 4日目：本会議も遂に終了！ #cvpr2018

こんにちは。@tereka114です。
CVPRも4日目となり、遂に後半戦になりました。本日は本会議の3日目です。

※CVPR3日目のレポートは次の通りです。
acro-engineer.hatenablog.com

本日は次のセッションに参加しました。

1. Oral Scene Understanding Ⅳ
2. Oral Scene Understanding Ⅴ
3. Oral Machine Learning for Computer Vision Ⅵ

Oral Scene Understanding Ⅳ

Long Talkで普段Kaggleでお世話になっているニューラルネットワークSENetの原論文の紹介がありました。
従来までのローカルな特徴のみならず、大域的な特徴を反映したかったのが、Squeeze処理とExcitation処理に反映されています。
Squeezeで大域的な特徴を反映し、Excitation処理で重みをつけ、各チャネルごとに大域的な特徴を反映しています。

その次の発表に有った「EncNet」のアイデアもSENetにインスパイアされており、Semantic Segmentationで成果を上げていました。
Semantic Segmentationを実行する機会があれば、試してみたいと思います。

Oral Scene Understanding Ⅴ

今回はOralで、Person Re-Identificationの論文が紹介されていました。
Person Re-Identificationの論文、今回非常に多くのポスターで見かけています。

従来までのpair-wise loss, triplet lossで得られた結果では、実際には近い位置関係に存在しないケース（＝大域的には遠い）データがりました。
そのため、local similarityとgroup similarity（CRF）を定義し、計算し、SoTAを実現しています。
朝方のポスターで少し見てきたPerson Re-Identification論文も大域的特徴と局所特徴を組み合わせていました。
これからは大域的特徴と局所特徴を組み合わせつつ、精度が改善されていく提案が多いのではと思います。

Oral Machine Learning for Computer Vision Ⅵ

Adversarial ExampleやFeature Data Augmentationなどの論文の発表がありました。
そのうち、「Detail-Preserving Pooling in Deep Networks」では新しいPoolingの手法が提案されています。
通常のPooling（Down Sampling）では詳細情報がかけますが、この手法を使えば詳細な情報を残しつつPoolingができるとのこと。
既存手法（ResNetなど）に適用した場合に本提案手法のほうが精度が高いです。詳しいところは論文も読みつつ復習してみようと思います。

最後に

本日で本会議は最後になります。
明日は最後日でWorkshop、並びに、Tutorialがあります！
最後の最後まで楽しんできます！

Acroquest Technologyでは、キャリア採用を行っています。

• ディープラーニング等を使った自然言語／画像／音声／動画解析の研究開発
• Elasticsearch等を使ったデータ収集／分析／可視化
• マイクロサービス、DevOps、最新のOSSを利用する開発プロジェクト
• 書籍・雑誌等の執筆や、社内外での技術の発信・共有によるエンジニアとしての成長

少しでも上記に興味を持たれた方は、是非以下のページをご覧ください。

www.wantedly.com

CVPR2018 3日目：Visual Dialogなど新しい発見がありました！ #cvpr2018

こんにちは。@tereka114です。
CVPR3日目に参加してきました。本日は本会議の2日目です。

※CVPR2日目のレポートは次の通りです。
acro-engineer.hatenablog.com

本日は次のセッションに参加しました。

1. Oral Object Recognition & Scene Understanding Ⅱ
2. Poster/Exhibision
3. Oral Object Recognition & Scene Understanding Ⅲ
4. Poster/Exhibision

Oral Object Recognition & Scene Understanding Ⅱ

このセッションでは、物体検出に関する論文の発表が多くありました。

その１つ「An Analysis of Scale Invariance in Object Detection-SNIP」ではスケール耐性のある物体検出の手法が紹介されています。
この論文では、小さい物体の検出の精度が向上しています。
いずれ使ってみようと少々思いましたが、どうやらこの手法は低速であることが問題らしいです。
そのため、著者が改良版の「SNIPER」を開発したようです。こちらも公開されているようなので使ってみたいところです。

Oral Object Recognition & Scene Understanding Ⅲ

タイトルが今朝の内容と同じですが、Visual Question Answering（VQA）に関する論文が多かったように思えます。

特にVisual Dialogを使った対話応答・Dialog生成のタスクについて、私自身が初見で、興味を惹かれました。
論文中のアイデアも良いと思いましたが、Dialogのシーケンスを畳み込みで処理できると説明されておっとなりました。
畳み込みで複数の文章を扱う方法は様々なタスクで応用できると感じたところです。

Poster/Exhibision

連日多くのポスターがあり、毎日見るのが楽しみでもあり、大変です。
本日は、RANSACの改良やOccursionを考慮したSegmentationもあり、個人的には面白いと思ったところです。

特に面白かったのは、「Future Frame Prediction for Anomaly Detection- A New Baseline」です。
画像からの行動異常検知の論文です。後日、CVPR論文読みのイベントで心の中で発表予定の論文でもあったので、本日、ポスターにあったので詳細を直接、聞いてみました。
実際に聞くとパラメータの差異や書いていない実験などの内容も聞けたので著者と直接話せるのはその点が良いところです。
ポスター中に聞いた話は発表時に入れようと思っています。

最後に

本日で本会議の2日目が終わりました。たくさんの論文があって、毎日が面白いです。
明日は本会議の3日目になり、盛り上がりそうなので楽しみです！

Acroquest Technologyでは、キャリア採用を行っています。

• ディープラーニング等を使った自然言語／画像／音声／動画解析の研究開発
• Elasticsearch等を使ったデータ収集／分析／可視化
• マイクロサービス、DevOps、最新のOSSを利用する開発プロジェクト
• 書籍・雑誌等の執筆や、社内外での技術の発信・共有によるエンジニアとしての成長

少しでも上記に興味を持たれた方は、是非以下のページをご覧ください。

www.wantedly.com

CVPR2018 2日目：遂に本会議開始、面白い論文がたくさん #cvpr2018

皆さんこんにちは。@tereka114です。
引き続きCVPRのレポートです。本日はCVPRの2日目で本会議の1日目になります。

※CVPR1日目の記事はこちら
acro-engineer.hatenablog.com

本日参加したセッションは次の通りです。

1. Opening
2. Oral Analyzing and Humans Image Ⅰ
3. Poster/Exhibision
4. Machine Learning for Computer Vision Ⅰ
5. Social

Opening

本会議1日目ともあり、Openingが開始です。
事前のメールから6300人超えといった参加者数の数値が出ていましたが、実数が発表され6512人でした。

今回のアワード（他にもありますが、特に注目すべき賞）は次の通りです。
Best Paper Award

Best Student Paper Award

Honorable Mention

ほとんど目を通せていない論文なので、どんな発表なのかが非常に楽しみです。

Oral Analyzing and Human Image

基本的には10分程度の発表に加えて、Spotlight（短い）セッションがOralのセッションになっています。
このSessionは人物画像の解析で、画像から小さい顔写真を獲得する、顔写真のエイジング、そして、新しいスタイルの顔写真作成と様々な論文がありました。

スタイルの顔写真作成のアイデア、アプリケーションとGANを複数用いた工夫が個人的には面白かったポイントです。
後々、ポスター回ったらGANの工夫が取り入れられた論文が多く、非常に驚きです。

Poster/Exhibision

Exhibisionは毎日開催されているスポンサー企業のブースです。
コンピュータビジョンに関係する発表や各企業の製品デモがあります。
後ほど話を聞いてみたいと思います。

ポスターは各日付、カテゴリごとに交代で実施しています。
毎日貼り出しているポスターが変更されるかは不明ですが、かなり混んでいます。
空いているタイミングを見計らって行くと著者の方とお話ができてこれはこれで面白いです。

Oral Machine Learning for Computer Vision Ⅰ

ニューラルネットワークの構成についての論文が多くありました。
ResNet→Dense Netときて次はどのような構成になるのかといった内容が多くありました。
各レイヤーの結果の集約する方式やマルチスケールなニューラルネットワークのアーキテクチャの提案がありました。

特に印象に残ったのは、「Practical Block-Wise Neural Network Architecture Generation」です。
この論文を一言でいえば、NASNet構築のようなニューラルネットワーク自動生成手法です。
既存の自動生成手法では、学習に大幅なリソースと時間が必要であるところをブロックベースで探索し、全体のニューラルネットワークの構成を生成しています。
まだ、私にとって、実用性が皆無なほどリソースが必要です。
今後この研究が進むと人間は前処理を実施するのみになってしまうのでしょうか。

Social

最後にSocialと呼ばれるイベントがありました。平たく言ってしまえばパーティーです。
日本からも様々な立場の方が多く参加されていました。
このパーティーですが、ライブやパフォーマンスがあり、特に最後の方はライブの近くで参加者が踊るなど盛り上がっていました。

最後に

明日は3日目、引き継き多くのポスター発表があり、注目している論文も多いので頑張ってきます！

Acroquest Technologyでは、キャリア採用を行っています。

• ディープラーニング等を使った自然言語／画像／音声／動画解析の研究開発
• Elasticsearch等を使ったデータ収集／分析／可視化
• マイクロサービス、DevOps、最新のOSSを利用する開発プロジェクト
• 書籍・雑誌等の執筆や、社内外での技術の発信・共有によるエンジニアとしての成長

少しでも上記に興味を持たれた方は、是非以下のページをご覧ください。

www.wantedly.com

CVPR1日目:弱教師あり学習とLandmark Challengeに参加！

皆さんこんにちは。@tereka114です。
先週はICMRに参加していましたが、今週からはソルトレイクシティに移動し、CVPRに参加しています。
CVPRはコンピュータビジョンのトップカンファレンスの一つです。

事前メールに記載があり、参加者が6300人をオーバーしているとのことです。
6300人が世界各国から集まるほど、非常に盛り上がっているカンファレンスです。
1日目はWorkshop & Tutorialでした。

昼食から迷子になるほど、広い会場です。

さて、本日は次の２つのセッションに参加しました。

1. Tutorial: Weakly Supervised Learning for Computer Vision
2. Workshop: Large-Scale Landmark Recognition: A Challenge

Tutorial: Weakly Supervised Learning for Computer Vision

「Weakly Supervised Learning for Computer Vision」に参加しました。
教師あり（＝Supervised Learning）DNNの方法は人間の精度を超えてきています。
しかし、この多くのアノテーション済のデータセットが必要です。
複雑なタスク（Classification < Detection < Segmentation）であるほど、1枚に必要なアノテーションの時間は多く必要です。

そのためデータセットのアノテーション方法を変えたり、既存のデータを用いてデータセットが少ない状態で学習ができるよう工夫しています。
業務上、様々な局面で利用できそうなので、調べて勉強しておこうと思います。

Workshop: Large-Scale Landmark Recognition: A Challenge

このセッションは、以前Kaggleで開催されていたコンペティションで上位になった人たちの発表で、Kaggleでは私はRecognition Trackに参加していました。
そのため、このコンペから学びたいことは多くあり、参加しました。

Recognition Track

1, 2, 8位の方が発表しました。局所特徴と大域特徴を組み合わせた方式です。
局所特徴の獲得にDEep Local Features（DeLF）、大域特徴の獲得でGeneralized-Mean（GeM）が使われておりそれらを組み合わせて良い結果を獲得しています。GeMは存在すら知らなかった。

このコンペティションに通常のいわゆる画像認識の分類問題を解いていましたが、どうやらその方式から良くなかったようです。
このコンペティション自体は来年もあるかもしれないので、次回は反省を生かして頑張りたいところ。

Retrieval Track

Retrieval（＝検索）は画像を使い、同じカテゴリの画像を検索するコンペティションです。
1,2,3位の方が発表しています。特に面白いのは1位のREMAPです。
CNNの各レイヤーから出力された特徴を利用し、Entropy Weightingが使われていました。
詳しいところの説明はなかったので、実際にEntropy Weightingをどう計算するのかは気になるところです。

1位のソリューションで驚きだったのが、局所特徴を使わず、大域特徴量を抽出する提案手法のREMAPと既存手法のR-MACを使って行っているところです。
局所特徴（DeLF）を使わなかった点について、質疑応答でScaleの変化により、獲得できる特徴が減るからだといった見解があり面白かったです。

Invited Talk

2点ほど、Invited Talk（招待講演）がありました。
一つは画像の対応関係の紹介、もう一つは検索の紹介です。
実は分類、検出は今まで聞いたことありますが、画像の対応関係をどうマッチングするか、検索における課題をきちんと聞いたことがなかったので、この点は非常に興味深いものです。

最後に

CVPRも初日から勉強することが多くありました。
明日からようやく本会議です！しっかり学んできます。

Acroquest Technologyでは、キャリア採用を行っています。

• ビッグデータ（Hadoop/Spark、NoSQL）、データ分析（Elasticsearch、Python関連）、Web開発（SpringCloud/SpringBoot、AngularJS）といった最新のOSSを利用する開発プロジェクトに関わりたい。
• マイクロサービス、DevOpsなどの技術を使ったり、データ分析、機械学習などのスキルを活かしたい。
• 社会貢献性の高いプロジェクトや、顧客の価値を創造するようなプロジェクトで、提案からリリースまで携わりたい。
• 書籍・雑誌等の執筆や、対外的な勉強会の開催・参加を通した技術の発信、社内勉強会での技術情報共有により、エンジニアとして成長したい。

　
少しでも上記に興味を持たれた方は、是非以下のページをご覧ください。
www.wantedly.com

Elastic Stack 6.3がリリースされました

こんにちは。
@shin0higuchiです😊

昨日Elastic Stackの6.3がリリースされました。
前回のElastic{ON}から3ヶ月経ち、その中で紹介された機能が徐々に盛り込まれて来た形です。
6.3での変更点をざっくりまとめます。

X-Packの追加インストールが不要に

これまでのElastic Stackは、OSS部分のコードをインストールし、有償部分のX-Packを追加インストールする形でした。
当然X-Packのコードを読むことはできませんでした。

しかし、6.3からX-Packの部分も含めてコードが公開されるということで、最初からX-Packもインストールされた状態になります。
※X-Packの全ての機能を無償で使えるようになったわけではありません。

X-Packのトライアル期間は従来通り30日間で、有効化するにはKibanaのlicense managementで設定します。
（直接APIを叩くことももちろん可能です）

Monitoringもデフォルトでオフになったので、利用したい場合はKibanaから有効にしましょう。

SQLサポート

実は2017年のElastic{ON}で既に発表されていた内容なのですが、
ElasticsearchでSQLライクな検索が可能になりました。

Elasticsearchのquery文法は独特なので、学習コストを下げる意味でも有用だと思いますし、外部アプリケーションとの連携もしやすくなるのではないでしょうか？
CLIが提供されるほか、下記のようにAPIも提供されています。
(Kibana上でSQLを書く日がくるとは....)

詳細については、もう少し使い倒してからにしたいと思います。

Rollup API

センサーから上がってくる数値情報などを扱う際によくこんな要望が出てきます。
「直近1週間は1秒ごとのデータが欲しいけど、古いデータは1日ごとの集計値だけ欲しい」

今までは外部でcronを設定したり、Watcherで実現するなどだったと思いますが、ついにX-Packの機能として提供されます。
それがRollup APIです。

次のようなrollup jobを登録しておくだけで、内部でうまく集約してくれます。
これは便利ですね😊

PUT _xpack/rollup/job/sensor
{
    "index_pattern": "sensor-*",
    "rollup_index": "sensor_rollup",
    "cron": "*/30 * * * * ?",
    "page_size" :1000,
    "groups" : {
      "date_histogram": {
        "field": "timestamp",
        "interval": "1h",
        "delay": "7d"
      },
      "terms": {
        "fields": ["hostname", "datacenter"]
      },
      "histogram": {
        "fields": ["load", "net_in", "net_out"],
        "interval": 5
      }
    },
    "metrics": [
        {
            "field": "temperature",
            "metrics": ["min", "max", "sum"]
        },
        {
            "field": "voltage",
            "metrics": ["avg"]
        }
    ]
}

Index management

Kibanaの画面上からIndexの設定の確認や操作ができるようになりました。

Indexに適用されているMappingを確認したり、

Indexの設定を変更することできます。

今まではDev ToolsからAPIを実行しないとできなかった事がGUI上でできるようになったのは助かりますね。

Auto-complete in the Query Bar

Kibana画面上部にある検索バーに、補完機能が入りました。
今までフィールド名やデータ型を思い出せず、歯がゆい思いをした方もいらっしゃるのではないでしょうか？

例えばDiscoverの画面で、

このように補完してくれます

最高です。

まとめ

ここでは紹介できなかった新機能もあります。みなさんも是非触ってみてください。
各機能の詳細などについては別途記事にするかもしれません。お楽しみに。

Acroquest Technologyでは、キャリア採用を行っています。

• ビッグデータ（Hadoop/Spark、NoSQL）、データ分析（Elasticsearch、Python関連）、Web開発（SpringCloud/SpringBoot、AngularJS）といった最新のOSSを利用する開発プロジェクトに関わりたい。
• マイクロサービス、DevOpsなどの技術を使ったり、データ分析、機械学習などのスキルを活かしたい。
• 社会貢献性の高いプロジェクトや、顧客の価値を創造するようなプロジェクトで、提案からリリースまで携わりたい。
• 書籍・雑誌等の執筆や、対外的な勉強会の開催・参加を通した技術の発信、社内勉強会での技術情報共有により、エンジニアとして成長したい。

少しでも上記に興味を持たれた方は、是非以下のページをご覧ください。
データ分析基盤Elasticsearchを使い倒したいエンジニア募集！ - Acroquest Technology株式会社のエンジニア中途・インターンシップ・契約・委託の求人 - Wantedlywww.wantedly.com

ICMR4日目：最後の最後まで面白いセッションが盛りだくさん！

こんにちは。@tereka114です。
これまでレポートし続けてきましたが、ついにICMR2018も最終日を迎えました。

※3日目の記事はこちら
acro-engineer.hatenablog.com

本日参加したセッションは次の通りです。

1. Panel
2. Industrial Talks
3. ACM MM TPC Workshops

Panel

テーマはマルチモーダルの５つの最大の問題とは何かといったパネルセッションでした。
それぞれのパネラーが５つの課題を発表していました。
個人的に人それぞれといった感じの主張で面白かったです。

視聴者にもアンケートを取っており、その場で発表されています。1位は「Content and context understanding」です。
画像処理界でもこれは非常に難問だと感じています。ある種、どんな分野でもこの難しさは言えそうなのでマルチモーダル特有ではなさそうです。

パネラーの皆さんの写真です。皆さんお若いときの写真ですね。

Industrial talks

NEC,CyberAgent, 日立製作所,LIFULL、それぞれから業務で活用しているマルチメディア技術、及びその実例の紹介がありました。
犯罪の抑止やWebサービスのフィルタなどの課題にマルチモーダルな領域でどう解消しているのかは企業で働いているエンジニアにとって興味津々な領域です。サービスで利用しているUIももちろん綺麗です。このUIは作るときのイメージの参考にもなります。

ACM MM TPC Workshops

マルチモーダルの研究内容のワークショップです。
このワークショップが非常に面白かったです。各々の先生方の研究内容の発表がありました。
音楽、ヘルスケア、スポーツ、映画、医療、検索など様々な研究対象があり、非常に面白かったです。
まさにマルチモーダルな分野が勢揃い。発表内容ももちろん最先端な発表でした。

今後、アルゴリズム構築に参考にしたいと思われる内容も多くあり、どこかでアイデアは使いたいと思っています。

最後に

ICMR2018お疲れ様でした。動画や音響等普段、触れる機会が少ないこともあり、刺激的な毎日を送れました。
様々なメディアの解析の基本や最先端の情報、そして、考え方にふれることができ、今後の活動にも活かせそうです。
また、来週からCVPRへ参加しにソルトレークへ行くので、そのための勉強にもなりました。

来週はソルトレイクシティからCVPRのレポートをお送りします。

Acroquest Technologyでは、キャリア採用を行っています。

• ビッグデータ（Hadoop/Spark、NoSQL）、データ分析（Elasticsearch、Python関連）、Web開発（SpringCloud/SpringBoot、AngularJS）といった最新のOSSを利用する開発プロジェクトに関わりたい。
• マイクロサービス、DevOpsなどの技術を使ったり、データ分析、機械学習などのスキルを活かしたい。
• 社会貢献性の高いプロジェクトや、顧客の価値を創造するようなプロジェクトで、提案からリリースまで携わりたい。
• 書籍・雑誌等の執筆や、対外的な勉強会の開催・参加を通した技術の発信、社内勉強会での技術情報共有により、エンジニアとして成長したい。

　
少しでも上記に興味を持たれた方は、是非以下のページをご覧ください。
www.wantedly.com