Taste of Tech Topics

Acroquest Technology株式会社のエンジニアが書く技術ブログ

Elastic{ON} 2017 1日目 | General Mills のElasticsearchを使ったWebサイト検索の工夫! #elasticon

Elastic{ON}2017 レポートのまとめはこちら!!

こんばんは!PlNOKlOです!
サンフランシスコは夜中でございます!!


本日参加したセッションについてご説明したいと思います!

参加セッション

  1. Opening Keynote
  2. Near Real Time Retail Analytics @ Walmart
  3. Elastic @ General Mills: The Journey Continues
  4. Streamlining Healthcare and Research: The Story of Elasticsearch at UCLA Health
  5. Welcome Reception


いやー、キーノートすごかったですね!
同僚がそこは詳しくブログを書いているので割愛しますが、
Kibana大好きな私は興奮しっぱなしでした!!

ぜひこちらのブログもご覧ください😊


本日はキーノート以外にはUse Caseをたくさん聞いてきました。

Walmartはアメリカの世界最大のスーパーマーケットで、
売上額でも世界最大の企業です。
General Millsは食品の加工 / 販売をしている会社で、
子会社にハーゲンダッツなど有名な企業を80ほど持つ、大手企業です。

食品業界、流通業界に関連する分野でのElasticsearchの活躍範囲を聞けたのは大きかったですね!!


それでは私はGeneral Millsの事例をご紹介します!

f:id:acro-engineer:20170308090731j:plain:w700

General Millsは昨年のElastic{ON} シカゴでも発表していて、
その発表では精度の高いサイト内検索をするために
EndecaからElasticsearchへの置き換えを行った内容が紹介されていました。

https://www.elastic.co/elasticon/tour/2016/chicago/the-trix-to-creating-a-totally-new-customer-experience-elastic-at-general-mills
こちらが昨年の発表内容です。

ちなみにEndecaというのは、「Oracle Endeca Information Discovery」のことであり、
構造化データと非構造化データの紐づけを簡単に実現し、DBの構造設計が不要、
検索中心の操作感で誰でもすぐに利用可能な「ビジネスアナリスト」向けの製品です。


こちらをElasticsearchに置き換え、
以下のサイトの検索を行いたいと紹介されていました。

http://www.bettycrocker.com/
https://www.pillsbury.com/
http://tabelspoon.com/

f:id:acro-engineer:20170308173256j:plain:w700

今年の発表では、Webサイト内の複雑なデータの検索を行うために、
データの持ち方に工夫をしたようで、
それをデモも交えて紹介していました。

まず構成としては、
5データノード、2クライアントノード、3マスターノードでクラスタを組み、
1秒あたり350レコードを取得しながら、約3500個のシャード検索をしています。


f:id:acro-engineer:20170308173301j:plain:w700

そして、Simple Search DTOを間に挟むことで検索の実装を行っています。


f:id:acro-engineer:20170308173309j:plain:w700

General Millsのサイトを検索するには、
レシピ、記事、ビデオ、製品、クーポンなど、
多種にわたるデータを検索できるようにしなくてはなりません。

そこでGeneral Millsが行ったのは
商品カテゴリや、商品までさまざまな要素を対等なドキュメントとして扱う、
シンプルに検索する仕組みだそうです。

発表で説明されていたのは、
ItemID、Title、Metadataを共通のフィールドにしていました。

ItemIDは要素を判別するためのIDで、
Titleは検索するために最も必要な要素、
Metadataは固有の情報を格納するための要素です。


f:id:acro-engineer:20170308173308j:plain:w700

Metadataは
 ・Label:カテゴリ
 ・Value:サブカテゴリ
 ・Groupes:LabelとValueを論理的にグループ化する要素
 ・Parent-child groups:Groupの階層構造を持つ要素
を保持しています。

そうすることで検索の際、
Metadataを検索すればよいことになります。


f:id:acro-engineer:20170308173311j:plain:w700

そしてここで出てくるのは、
ドキュメントベースから情報ベースの考え方です。

一つのDocumentがたくさんのフィールドを持つという
Documentベースで考えではありません。

Documentを汎用的な型のように考え、
商品カテゴリ、商品、タイムスタンプをそれぞれ
1Documentとして表す、というものです。

各Documentは
 ・ItemID(Guid)
 ・Title(string)
 ・Values(List)
 ・Attachments(List)
を保持しており、ValuesやAttachmentsに
各ItemIDを入れて、商品カテゴリ-商品-タイムスタンプなどの
関連づけをおこなっています。


このようなデータの管理をすることで、
サイト内でItemID検索をすると、
そのItemIDを持った商品と、それを子(Attachments)に持つ商品カテゴリ
の両方のドキュメントが取得できるのです。

そうすることで多種多様なデータでも、等しいドキュメントとして検索が可能になったのです。


ただ、同じドキュメントでも構造が変わるので、
データの入れ方、取り出し方などが難しいと思いますよね?
そこで、自前で出し入れするメソッドを実装し、
それを利用してデータの管理を簡単に行っているそうです。


f:id:acro-engineer:20170308174343j:plain:w700
f:id:acro-engineer:20170308174401j:plain:w700


実はどういうコーディングもしているか紹介してくれていて、
これがその紹介Demoになります。


私も営業でお客様とお話しすると、
自社Webサイトの検索をElasticsearchでしたいと相談をしてくださる方が多いです。
そういった方々には少しヒントになるのではないでしょうか?

ということで、General Millsの紹介でした!



General Millsの発表はDemoの解説が多く、
技術者には楽しい内容という感じでした。

私は営業なので、かなり技術的に詳しい話になると、
情報の処理が追い付かなくなり大変でした😭


かなりの集中力を使って疲れ切ってしまったので、
明日に備えて寝ることにします😅


明日は以下のセッションを聞いてきます!

  1. What's the Latest in Logstash?
  2. What's X?citing in X?Pack?
  3. Strengthen your SIEM: Using Logstash to Connect ArcSight to the Elastic Stack
  4. Browse Raw Logs in One Place: Open Source Plug-in for Kibana
  5. 'Elasticsearch as a Service' in eBay
  6. Ballerina
  7. Elastic{ON} Party


この中から面白かったものを明日もあげるので、
お楽しみにしてください!!


"Please enjoy using Elasticsearch !"


Elastic{ON}2017 レポートのまとめはこちら!!

Acroquest Technologyでは、キャリア採用を行っています。

  • ビッグデータHadoop/Spark、NoSQL)、データ分析(Elasticsearch、Python関連)、Web開発(SpringCloud/SpringBoot、AngularJS)といった最新のOSSを利用する開発プロジェクトに関わりたい。
  • マイクロサービスDevOpsなどの技術を使ったり、データ分析機械学習などのスキルを活かしたい。
  • 社会貢献性の高いプロジェクトや、顧客の価値を創造するようなプロジェクトで、提案からリリースまで携わりたい。
  • 書籍・雑誌等の執筆や、対外的な勉強会の開催・参加を通した技術の発信、社内勉強会での技術情報共有により、エンジニアとして成長したい。

 
少しでも上記に興味を持たれた方は、是非以下のページをご覧ください。

Elasticsearchを仕事で使いこみたいデータ分析エンジニア募集中! - Acroquest Technology株式会社のエンジニア中途・インターンシップ・契約・委託の求人 - Wantedlywww.wantedly.com

Elastic{ON} 2017 1日目 | ダウンタイム0秒で大規模システムのアップグレードを実施可能に #elasticon

Elastic{ON}2017 レポートのまとめはこちら!!

こんにちは。
3年目エンジニアのたなけんです。

日々、お客様のビジネスデータを、
Elastic Stackを活用して分析しています。

今日はElastic Stackの最新情報を入手するために、
サンフランシスコで開催中のElastic{ON}に参加しています。

年に1度のElasticsearchの祭典です^^

参加セッション

私が本日参加したセッションは次の通りです。

  1. Opening Keynote
  2. The Evolution of Log Insight at MZ Games
  3. Cisco's Journey to Cloud Native
  4. The Hotel NERSC Data Collect: Where Data Checks In, But Never Checks Out

特に面白かったCiscoのプレゼンについて、
大規模システムのダウンタイムを0秒にするためにどのようなことを行ったのか、
聞いてきたことを共有します!

Cisco's Journey to Cloud Native

Cisco Systems, Inc.は、
世界最大のコンピュータネットワーク機器開発会社で、
ルーター、サーバー、セキュリティ製品などの提供を行っています。

f:id:acro-engineer:20170307160338j:plain:w700

Ciscoでは、
自社の製品を売るためのECサイトを構築しており、
そこで使用しているプラットフォームが、Cisco commerceです。

Ciscoの提供しているサービスのアーキテクチャは以下の通りです。
f:id:acro-engineer:20170307161208j:plain:w700

こちらはCisco Commerceの使用状況を数字で表現しています。
f:id:acro-engineer:20170307161218j:plain:w700

Ciscoのプラットフォームには、いくつか弱点がありました。
f:id:acro-engineer:20170307161614j:plain:w700

本日扱う重要な弱点はインフラ、ストレージ、ネットワークに障害が発生した際に、
プラットフォームが停止することです。

この問題を解決するために、
Cloud Nativeへの移行を実施しました。

インフラのCloud Nativeへの移行にあたって、
目標はいくつかのステップに分けました。
次のように定めています。
f:id:acro-engineer:20170307161647j:plain:w700

非常に複雑なシステムとなるため、
5ステップに分けて作業を実施しました。
全体構成図は以下の通りです。
f:id:acro-engineer:20170307162533j:plain:w700

実施したこととその詳細をまとめたものがこちら。

loggingをElasticsearchで行うようにし、
トランザクションデータはMongoDBに分配するように構築を行ったそうです。
MongoDBではSQLを大量に書かなければならず、非常に苦労したとのことでした。

f:id:acro-engineer:20170307162638j:plain:w700

取り組みの結果、ダウンタイムが発生することなく、
ソフトウェアアップグレードが可能になりました。
f:id:acro-engineer:20170307163058j:plain:w700

明日以降も、
さらに盛り上がりを見せるカンファレンスの様子、
発信していきます!

それでは!

Elastic{ON}2017 レポートのまとめはこちら!!

Acroquest Technologyでは、キャリア採用を行っています。

  • ビッグデータHadoop/Spark、NoSQL)、データ分析(Elasticsearch、Python関連)、Web開発(SpringCloud/SpringBoot、AngularJS)といった最新のOSSを利用する開発プロジェクトに関わりたい。
  • マイクロサービスDevOpsなどの技術を使ったり、データ分析機械学習などのスキルを活かしたい。
  • 社会貢献性の高いプロジェクトや、顧客の価値を創造するようなプロジェクトで、提案からリリースまで携わりたい。
  • 書籍・雑誌等の執筆や、対外的な勉強会の開催・参加を通した技術の発信、社内勉強会での技術情報共有により、エンジニアとして成長したい。

 
少しでも上記に興味を持たれた方は、是非以下のページをご覧ください。

Elasticsearchを仕事で使いこみたいデータ分析エンジニア募集中! - Acroquest Technology株式会社のエンジニア中途・インターンシップ・契約・委託の求人 - Wantedlywww.wantedly.com

Elastic{ON} 2017 いよいよ開始!!レポートのまとめもこちら #elasticon

どうもこんにちは!
Acroquestで機械学習のエンジニアをやっている菅野です!

現在、Elastic{ON}参加のためにサンフランシスコに来ています。

f:id:acro-engineer:20170308193751j:plain:w500

Elastic{ON}はElasticsearch社主催のElastic Stackを中心とした
テクニカルカンファレンスです。
Acroquestから総勢10人以上の人が参加しています。

その参加者から日々、現地のセッションや会場の様子のレポートをお届けします。

Elastic{ON} 3日目

Elastic{ON} 2017 3日目 |Timelionで時系列データの可視化、分析をその場で実行! #elasticon - Taste of Tech Topics
Elastic{ON} 2017 レポート 3日目 | What will be improved with new Elasticsearch releases #elasticon - Taste of Tech Topics
Elastic{ON} 2017 レポート 3日目 | 劇的Before&After!@Walgreens #elasticon - Taste of Tech Topics
Elastic{ON} 2017 3日目 | Beatsの拡張・カスタマイズ #elasticon - Taste of Tech Topics
Elastic{ON} 2017 3日目 | UberがElasticsearchを使って、苦労した話 #elasticon - Taste of Tech Topics
Elastic{ON} 2017 3日目 | Salesforce+Elastic Stack #elasticon - Taste of Tech Topics
Elastic{ON} 2017 3日目 | Elastic Cloud活用で運用効率化するために気をつけるべきこと #elasticon - Taste of Tech Topics
Elastic{ON} 2017 3日目 | 感動必至のKibanaの新機能!!#elasticon - Taste of Tech Topics
Elastic{ON} 2017 3日目 | Closing Keynote:Elasticsearch活用で、よりよい世界を作る #elasticon - Taste of Tech Topics

Acroquest Technologyでは、キャリア採用を行っています。

  • ビッグデータHadoop/Spark、NoSQL)、データ分析(Elasticsearch、Python関連)、Web開発(SpringCloud/SpringBoot、AngularJS)といった最新のOSSを利用する開発プロジェクトに関わりたい。
  • マイクロサービスDevOpsなどの技術を使ったり、データ分析機械学習などのスキルを活かしたい。
  • 社会貢献性の高いプロジェクトや、顧客の価値を創造するようなプロジェクトで、提案からリリースまで携わりたい。
  • 書籍・雑誌等の執筆や、対外的な勉強会の開催・参加を通した技術の発信、社内勉強会での技術情報共有により、エンジニアとして成長したい。

 
少しでも上記に興味を持たれた方は、是非以下のページをご覧ください。

Elasticsearchを仕事で使いこみたいデータ分析エンジニア募集中! - Acroquest Technology株式会社のエンジニア中途・インターンシップ・契約・委託の求人 - Wantedlywww.wantedly.com

Elastic{ON} 2017 1日目 | バナナとElasitcsearch@Walmart #elasticon

Elastic{ON}2017 レポートのまとめはこちら!!

Hello SanFrancisco!
Yanagiharaです。

昨年12月のElastic{ON}Tokyoに参加した勢いそのままで
本場のElastic{ON}にも参加しております!

サンフランシスコは、学生時代に学会で来て以来、4年ぶり2回目になります。

セッションを持つのは世界の名だたる企業・・・!
個人的に、そのような企業がElasticsearchをどのように活用しているかが
気になってワクワクが止まりません!
おもに、EC系検索のセッションを中心に聴講、紹介していきます!

参加セッション

私が本日参加したセッションは次の通りです。

  1. Opening Keynote
  2. Near Real Time Retail Analytics @ Walmart
  3. Elastic @ General Mills: The Journey Continues

Opening KeynoteではElasticsearch SQL/Kibana Canvasなど、
サプライズ!な発表があり、いきなりテンション上がりました😝

そして、その流れで、個人的に面白かった、
「Near Real Time Retail Analytics @ Walmart
を、簡単に紹介したいと思います。

Near Real Time Retail Analytics @ Walmart

Walmartとは

Walmartは11500店舗、4859億円の収益を誇る、
世界で最も売上が大きい(!)企業です。
(日本には直接お店はないものの、西友Walmartの傘下みたいですね。)

ElasticsearchがそんなWalmartのデータ分析基盤に使われています。

Elasticsearchの使われ方

WalmartはPOSデータのリアルタイムに近い解析をしています。
解析する用途によって、データ格納先のアプリケーション(Hadoop, Cassandora)をわけています。

Elasticsearchを選んだ理由は、解析の柔軟性と、可視化によりセレンディピティが得られるからです😃

面白かったポイント!

1. バナナとElasticsearch!?

Walmartには1秒間に156ものバナナが売れている...というウワサ(バナナ神話😅)があるそうです。

ウワサが本当なのか、それをElasticsearchで可視化してみると・・・

時間ごとにバナナの売れ行きが変わっているのがわかりますね。
(バナナの売れ行きの傾向が曜日によっても変わっているのがわかります😄)

具体的に売れている数を計算してみると、

重さにして、約9000ポンド、カバ1頭分!
そして、数にして、360本のバナナが売れていることになりました!
なんと神話を超えていました😇

さらにみてみると・・・

ある1日には461万ポンド、自由の女神10体分に相当する数が売れているそうです!

Elasticsearchで可視化することで、バナナの売り上げだけでも面白い結果がわかりますね😊

2. ユースケース

小売情報に関して4種類の実用的なユースケースの紹介がありました。


 

  1. 店舗ごとの価格の異常値
  2. ギフトカードの売れ行き
  3. 保証をつける際の利益計算
  4. 店舗ごとに使える現金の管理

いくつか、少し説明します。
1)店舗ごとの価格の異常値

ある商品に関しての各店舗ごとの価格を可視化することで、
特定の店舗の商品の値段が跳ね上がっていることがわかりました😯

2) ギフトカードの売れ行き
Thanksgiving Dayとクリスマスの後にギフトカードの売れ行きが上がる、
という傾向が見えたそうです。
その原因を分析すると、商品の置き場所の影響の情報があることがわかったそうで、
他の商品に対しても応用できました😁

商品データ、売上データを解析すると、より有効な戦略がたてられそうですね。

3. Elasticsearchの設計のはなし

Elasticsearchの設計の話をします。
Walmartではレシート情報から1会計ごとにElasticsearchのドキュメントを2つ作成しているそうです。

Elasticsearchで扱うノード数は18、総ドキュメント数は60億にもなります。
そのデータをKafkaを使って、毎時間Elasticsearchにいれているそうです。

このドキュメント数を処理できるのもElasticsearchならではですね。

最後に

Walmartでは、企業の規模に合わせた、Elasticsearchの活用をしており、
面白いデータがわかりつつ、小売業の戦略などに使えそうな事例がたくさんありました。

明日は、ECサイト検索を紹介する、Dellのセッションがあります!
ワクワクして今日も眠れません!

Elastic{ON}2017 レポートのまとめはこちら!!

Acroquest Technologyでは、キャリア採用を行っています。

  • ビッグデータHadoop/Spark、NoSQL)、データ分析(Elasticsearch、Python関連)、Web開発(SpringCloud/SpringBoot、AngularJS)といった最新のOSSを利用する開発プロジェクトに関わりたい。
  • マイクロサービスDevOpsなどの技術を使ったり、データ分析機械学習などのスキルを活かしたい。
  • 社会貢献性の高いプロジェクトや、顧客の価値を創造するようなプロジェクトで、提案からリリースまで携わりたい。
  • 書籍・雑誌等の執筆や、対外的な勉強会の開催・参加を通した技術の発信、社内勉強会での技術情報共有により、エンジニアとして成長したい。

 
少しでも上記に興味を持たれた方は、是非以下のページをご覧ください。

Elasticsearchを仕事で使いこみたいデータ分析エンジニア募集中! - Acroquest Technology株式会社のエンジニア中途・インターンシップ・契約・委託の求人 - Wantedlywww.wantedly.com

Elastic{ON} 2017 1日目 | 進化していくKibana #elasticon

Elastic{ON}2017 レポートのまとめはこちら!!

Hello, everyone!
営業広報の白井です。
本日3/7からいよいよElastic{ON} 2017 がスタートしました!
会場は熱気にあふれています^^

Post from RICOH THETA. - Spherical Image - RICOH THETA

初日、Opening Keynoteも聞いていたのですが、Kibanaが進化していくプランの紹介で、超感動しました。
Kibanaでプレゼンスライドができてしまう?!
という驚きがあり、もうわくわくが止まらない!!

Opening Keynoteが気になる方は、こちらのブログをご覧ください。

参加セッション

さて、今日は、Elastic{ON} 2017初日は、以下のセッションに参加してきました。

  1. Opening Keynote
  2. What's Evolving in Elasticsearch?
  3. What's Cookin' in Kibana?
  4. What's Brewing in Beats?

今日は、Elastic社がスピーカーのセッションを攻めていきました。
特に、もともとエンジニアとして、可視化の研究とWeb UIの開発をしていた私にとって、
Kibanaの話は、特に面白かったですね!

What’s Cookin’ in Kibana?

概要

Kibanaは、可視化機能として有名かと思いますが、5.xになってから、

  • データの一覧と挿入日時と量の見れるDiscovery
  • グラフや表などを作成できるVisualize
  • 作ったグラフなどをまとめて表示できるようにするDashboard
  • 相関関係を表示するGraph
  • 時系列情報の表示に特化したTimelion
  • 設定関連で活用したConsoleDevToolsMonitoring

など、整備されてきました。

さらに、ここ最近ではVisualizeで扱えるグラフとして、
タグクラウドやカレンダー式のヒートマップなども追加され、
よりグレードアップしてきてますよね!

面白いポイント!

可視化機能パワーアップ

今まで、Tile Mapは、グリッドの交差点上に、色付きの円が表示され、密度・量の多さなどを表示していました。
しかし、今回のアップデートで、円の表示位置が地域ごとの値の平均値をとり、
値が集中するところに、円が表示されるようです。
グリッド上で表示されると、なんとなく表示されている位置がずれている気がすると思っていた
ところが解消されそうです!

f:id:acro-engineer:20170308154841j:plain:w700


また、地図系の表示で、VectorMapというVisualizeのメニューも追加され、
地図上で言う国境や、都道府県・市区町村などで区切った領域でのヒートマップ表示も
可能になるようです。

f:id:acro-engineer:20170308154923j:plain:w700

設定、管理機能もより便利に

なんと!期待する次のバージョンでは、UIが充実してきそうです!

今までは、検索や設定のためにクエリを書いていましたが、チェックボックのチェックのみで
アラート方法を決められるWatcher UIや、特定のIPアドレスをGeo IPとして扱えるように
設定ができるIngest Node Pipeline UIができるそうです。

f:id:acro-engineer:20170308160153j:plain:w700

これで、今までクエリを書き続けていた分の手間が省けるかもしれないですね。

また、今まではReport出力もPDFの出力しかできなかったのですが、
CSV形式のレポートも出力できるようになります!

開発者に影響しそうなこと

今後、Kibana開発をする場合には、AngularJSではなく、Reactでの開発が必須に
なるようです!
開発者によっては、影響しそうな内容ですね。。。

最後に

明日は、朝からWomen’s Breakfastに参加して、キャリアトークもしてくる予定^^
その後は、セッション、パーティーと盛りだくさん!
超楽しみです!

Elastic{ON}2017 レポートのまとめはこちら!!

Acroquest Technologyでは、キャリア採用を行っています。

  • ビッグデータHadoop/Spark、NoSQL)、データ分析(Elasticsearch、Python関連)、Web開発(SpringCloud/SpringBoot、AngularJS)といった最新のOSSを利用する開発プロジェクトに関わりたい。
  • マイクロサービスDevOpsなどの技術を使ったり、データ分析機械学習などのスキルを活かしたい。
  • 社会貢献性の高いプロジェクトや、顧客の価値を創造するようなプロジェクトで、提案からリリースまで携わりたい。
  • 書籍・雑誌等の執筆や、対外的な勉強会の開催・参加を通した技術の発信、社内勉強会での技術情報共有により、エンジニアとして成長したい。

 
少しでも上記に興味を持たれた方は、是非以下のページをご覧ください。

Elasticsearchを仕事で使いこみたいデータ分析エンジニア募集中! - Acroquest Technology株式会社のエンジニア中途・インターンシップ・契約・委託の求人 - Wantedlywww.wantedly.com

Elastic{ON} 2017 1日目 | Clusterをまたいだ検索が可能に?Elasticsearchの新機能が熱い #elasticon

Elastic{ON}2017 レポートのまとめはこちら!!

こんにちは、nakaです!

私はENdoSnipeという
Elasticsearchをコアに据えた自社プロダクトの
開発リーダをやっています。

私も、Elastic{ON}に参加するため、
サンフランシスコにやってきました。
f:id:acro-engineer:20170308041836j:plain:w400

今日は、Opening Keynoteでのセッションの発表が
驚きの連続で、興奮しっぱなしでしたよ。

中でも驚いたのは、
Kibanaのプラグインの一つの「Canvas」ですね。
詳細は@投稿のkeynoteブログで紹介しているので
まだ見ていなければぜひ読んでください!

今年のElastic Stackも、
予想を超える勢いで進化しそうです。


さて、私からは、
参加したセッションの中の一つ、
「What's Evolving in Elasticsearch?」
から面白いと感じた箇所をピックアップして紹介します。

KibanaからもClusterをまたいだ検索が可能に!?

f:id:acro-engineer:20170308155450p:plain:w600
Kibanaを通してCluster間の検索を行えるように
新しい機能として、
Cross Cluster Search機能がリリース。

Cluster間検索は、Tribe Nodeで実現できていますが、
Tribe NodeにはIndexを作れないので、
Kibanaで見れない。。

そんな問題を解決する素晴らしい機能!

f:id:acro-engineer:20170308155400p:plain:w400
ちなみに、Tribe Nodeは廃止ですね。

使い方もシンプルで使いやすそうです。
Cross-cluster search用のNodeを作り、
そこに、検索可能にしたい、clusterを登録するだけ
f:id:acro-engineer:20170308155721p:plain:w600

検索時はクエリのインデックス部分に
カンマ区切りで、複数インデックスを書けばよし
f:id:acro-engineer:20170308160238p:plain:w600

こちらはVersion5.3.0でリリース!

ダウンタイムなしで、Elasticsearchのバージョンアップが可能に!

二つ目は、ElasticsearchのRollingUpdateについて。
f:id:acro-engineer:20170308161526p:plain:w600

ダウンタイムなしで、Versionアップが可能になります。
これで、バージョンアップの苦労が緩和されそう。
やった!
f:id:acro-engineer:20170308161748p:plain:w600

5.latestからなら6.latestへrestartなしで、
バージョンアップが可能になります。

5.latestとは、6.0.0のGAがリリースされたときの
5.xの最新版のことです。
6.0.0早くリリースしてほしい!

バージョン違いElasticsearch間でも検索可能に!?

最後は、Cross Major Version Searchの紹介
f:id:acro-engineer:20170308162108p:plain:w600

どうしても、運用していると、
Elasticsearchが止められず、Versionアップできない。。
新しい機能を使いたいので、
追加するElasticsearchは最新にしたい。

そんな願いもかなえてくれる!

やりすぎはいけないですが、
どうしても使いたいときありますよね!

セッションの説明では、5.x系のClusterに対し、5.latestを入れ、
6.x系のClusterとつなげば、
6.x系のNodeと5.latestがバージョンの違いを吸収し、検索可能にしてくれます。

他にも、5.x系のすでにリリースされた機能の紹介や
6.xから導入となる
Lucene7や
クラスタ管理に関わる操作へのシーケンスナンバー導入など
紹介がありました。


このように、Elasticsearch 5.xから6.xへは、
熱い新機能がたくさんリリースされます!
非常に楽しみです。


明日は朝から晩まで(パーティは23時まで!)セッションがあります。
今日沸いた質問を解消すべくAMAにも行きたいし、体力との勝負になりそう。。
頑張ります!

Elastic{ON}2017 レポートのまとめはこちら!!

Acroquest Technologyでは、キャリア採用を行っています。

  • ビッグデータHadoop/Spark、NoSQL)、データ分析(Elasticsearch、Python関連)、Web開発(SpringCloud/SpringBoot、AngularJS)といった最新のOSSを利用する開発プロジェクトに関わりたい。
  • マイクロサービスDevOpsなどの技術を使ったり、データ分析機械学習などのスキルを活かしたい。
  • 社会貢献性の高いプロジェクトや、顧客の価値を創造するようなプロジェクトで、提案からリリースまで携わりたい。
  • 書籍・雑誌等の執筆や、対外的な勉強会の開催・参加を通した技術の発信、社内勉強会での技術情報共有により、エンジニアとして成長したい。

 
少しでも上記に興味を持たれた方は、是非以下のページをご覧ください。

Elasticsearchを仕事で使いこみたいデータ分析エンジニア募集中! - Acroquest Technology株式会社のエンジニア中途・インターンシップ・契約・委託の求人 - Wantedlywww.wantedly.com

Elastic{ON} 2017 1日目 | Keynoteレポート #elasticon

Elastic{ON}2017 レポートのまとめはこちら!!

サンフランシスコからこんにちは。@です。
Elastic{ON} 2017 サンフランシスコ、Keynoteセッションはじまりました。

イベント会場に早々と到着し、準備していたところ、
つい興奮しすぎて、開始前からブログを1本書いてしまいました。
そして、最初のセッションであるKeynoteがはじまりました!

Dance!!

Keynoteはダンスからはじまりました!

ダンサーの背後にダンサーの動きと同期しているかのような時系列データが見えています。
どうやらダンサーの体に貼ってあるセンサーの状態を可視化しているようです。

今までは1秒以内に検索のindexを貼るのは難しいと聞いていましたが、
このグラフの横軸を見ると、レスポンス時間が1秒を切っているように見えます。


このダンサーの動きの可視化はHeartbeatを使って、可視化しているようです。
きっと2日目のBallerinaのセッションで話されるのではないでしょうか。

f:id:acro-engineer:20170308134532j:plain:w500

そして、Elastic社のCTO Shay Banon氏の登場です。

f:id:acro-engineer:20170308133229j:plain:w500

新機能の紹介

さて、ここから新機能の発表がはじまりました!

Filebeat modules

FIlebeatが「simple things should be simple」をコンセプトに更に使いやすくなります。

デモでは、Filebeatでnginx moduleを指定していました。
nginxのログから簡単にKibanaのDashboardを作成したり、解析することができます。

f:id:acro-engineer:20170308134259j:plain:w500

また、system moduleを使って、sshログを監視する様子もみることができました。
いずれも、非常に簡単に作れそうな印象を受けました。

これは、Elastic Stack 5.3でリリースされる予定です。

New Kibana Visualization

KibanaのVisualizationが強化されます。
特に注目の機能は「Time Series Visual Builder」です。

「Time Series Visual Builder」は時系列解析のVisualizationを作る機能です。
細かな設定をKibanaの画面上で設定することができます。
複数のカラムに対する時系列の解析、移動平均などの可視化も可能です。

f:id:acro-engineer:20170308134329j:plain:w500

この機能はElastic Stack 5.4でリリースされる予定です。

Machine Learning

遂にきました!Machine Learning!
以前まで、PrelertのシステムとElasticsearchが連携している媒体がβ版として配布されていました。

本日、Prelertを「Machine Learning」として正式リリースする発表がありました。
Prelerについては、弊社ブログで紹介しています。

acro-engineer.hatenablog.com

Machine LearningはKibanaのPluginとして搭載される予定です。
Machine Learningの設定は非常にシンプルです。

Aggregation方法とbucket spanを設定すると、自動的に
時系列データの異常検知・解析が可能です。
f:id:acro-engineer:20170308181144p:plain:w500

薄い水色が正常として判断可能な許容範囲を示していて、
異常として検知された値が、
どの程度正常値から外れているのか確認しながら設定ができます。
使いやすそうですね。

さらに、Multi metricを選択し複数系列を使った解析もできそうです。
この機能は後日、Machine Learningに関するセッションがあるので、
深く聞いてみたいと思います。

Machine LearningのリリースはElastic Stack 5.4を予定しています。

IBMのデモ

プラチナスポンサーであるIBMからプレゼンテーションがありました。
IBMはElastic{ON}のプラチナスポンサーです。
Watsonの紹介をしていました。

f:id:acro-engineer:20170308133423j:plain:w500

Elastic Cloud Enterprise

Elastic Cloud Enterpriseの紹介です。
デモでは、クラスタのステータス確認をするダッシュボードや
画面からクラスタの起動・停止をしていました。
また、Elasticsearchのアップグレードなど様々な操作ができるとのことです。

f:id:acro-engineer:20170308133657j:plain:w500

Elastic Cloud Enterpriseのリリースは、2017年4月を予定しています。

Elastic Award

Elastic Awardです。
Elastic Awardはユースケースとして優秀な企業に贈呈されます。
今年は、eHealth, IST Research, NoSchoolViolence.orgの3社です。

f:id:acro-engineer:20170308160650j:plain:w300f:id:acro-engineer:20170308160817j:plain:w300f:id:acro-engineer:20170308160847j:plain:w300

a glimpse into the future

SQL

Elasticsearch SQLの発表がありました。
Elasticsearchに対して、SQL likeなクエリを発行して操作することができるというものです。

デモでは、SELECT文を使ってデータを取得したり、
EXPLAINという機能を使って、
SQLからどのようなElasticsearchのクエリの発行がされているかを表示したりしていました。

ODBC経由での接続もできていました。
以下はDbVisualizerというDB接続ソフトで接続するデモを撮ったものです。
ツールからSQLを実行し、データを可視化できています。

f:id:acro-engineer:20170308182728p:plain:w400f:id:acro-engineer:20170308182837p:plain:w400

また、SQLAPIが追加され、KibanaのConsole上からSQL likeなクエリを実行することができるようになります。
SQL機能のリリース時期は、Coming Soonとのことで、明確に言及はされませんでした。
明日、SQLに関するセッションがあるので、リリース時期に関してはそちらで言及があるかもしれません。

Kibana Canvas

突然、ボランティアに参加する人たちの、モチベーションについて、
PowerPointで作ったらしいプレゼンがはじまりました。

f:id:acro-engineer:20170308183816p:plain:w500
Keynoteを聞いている私達もなんだろうと疑問に思っていました。

すると、プレゼンテーションがいきなりKibanaの画面として、表示されました。
なんと、Kibanaの画面を使ってプレゼンテーションをしていたようです。

f:id:acro-engineer:20170308183901p:plain:w500

新しくCanvasと呼ばれる機能が追加されます。

Kibanaを使って、コンポーネントを自由に配置できたり、画像や図形を描画したりできます。
これらを利用し、1枚のボードを作れます。
以下は左にあるコンポーネントの色を変えたところです。

f:id:acro-engineer:20170308184119p:plain:w500

また、キャンバス上に配置するのがグラフの場合はTimelionの表記のクエリを書けます。

これがあるなら、顧客へのレポートは、
全てこれでまかなえそうではないですか!
早くほしい!

こちらもリリース時期はComing Soonとのことです!

最後に

Opening Keynoteは当初、1時間30分の予定でしたが、結局2時間かかるほどの盛りだくさんな内容でした。
さぁ、これからElastic{ON}開始です!これからいろんなセッションへ参加してきます!

Elastic{ON}2017 レポートのまとめはこちら!!

Acroquest Technologyでは、キャリア採用を行っています。

  • ビッグデータHadoop/Spark、NoSQL)、データ分析(Elasticsearch、Python関連)、Web開発(SpringCloud/SpringBoot、AngularJS)といった最新のOSSを利用する開発プロジェクトに関わりたい。
  • マイクロサービスDevOpsなどの技術を使ったり、データ分析機械学習などのスキルを活かしたい。
  • 社会貢献性の高いプロジェクトや、顧客の価値を創造するようなプロジェクトで、提案からリリースまで携わりたい。
  • 書籍・雑誌等の執筆や、対外的な勉強会の開催・参加を通した技術の発信、社内勉強会での技術情報共有により、エンジニアとして成長したい。

 
少しでも上記に興味を持たれた方は、是非以下のページをご覧ください。

Elasticsearchを仕事で使いこみたいデータ分析エンジニア募集中! - Acroquest Technology株式会社のエンジニア中途・インターンシップ・契約・委託の求人 - Wantedlywww.wantedly.com