こんにちは、機械学習チーム YAMALEX の駿です。 
YAMALEX は Acroquest 社内で発足した、会社の未来の技術を創る、機械学習がメインテーマのデータサイエンスチームです。
（詳細はリンク先をご覧ください。）
今回は2023年9月28日に GA となった Amazon Bedrock の紹介と使ってみた感触をお伝えします。
1. Amazon Bedrock とは
Amazon Bedrock （以下、 Bedrock ）は AWS 上で使える、大規模言語モデル（ LLM ）の基盤モデルを提供する完全マネージド型サービスです。
2023年9月28日に GA となり、現在、以下のリージョンで利用可能です（東京リージョンはまだ非対応です）。
基盤モデルはサーバレスで動作するため、モデルの起動・停止を気にすることなく、アプリケーションに LLM を組み込むことができます。
さらに、 AWS のネットワーク内で利用可能なため、安全に使用できます。
また、 Bedrock では複数のモデルが用意されており、それぞれのユースケースに合ったモデルを選択することができます。
Bedrock は以下の図で示されているようなユースケースに対応できます。
2. 利用可能なモデル
2023年9月29日時点で公開されているモデル情報を以下に記載します。
出力形式毎に、プロバイダのアルファベット順に並んでいます。
出典：Foundation models > Providers
| # | モデル名 | プロバイダ | 出力形式 | 価格 ／ 1,000 入力 トークン |
価格 ／ 1,000 出力 トークン |
トークン数上限 | 日本語対応（※） |
|---|---|---|---|---|---|---|---|
| 1 | Jurassic-2 Mid | AI21 Labs | テキスト | $0.0125 | $0.0125 | 8,191 | × |
| 2 | Jurassic-2 Ultra | AI21 Labs | テキスト | $0.0188 | $0.0188 | 8,191 | × |
| 3 | Titan Text G1 - Express | Amazon | テキスト | $0.0013 | $0.0017 | 8,000 | × |
| 4 | Claude Instant v1.2 | Anthropic | テキスト | $0.00163 | $0.00551 | 100,000 | ○ |
| 5 | Claude v1.3 | Anthropic | テキスト | $0.01102 | $0.03268 | 100,000 | ○ |
| 6 | Claude v2 | Anthropic | テキスト | $0.01102 | $0.03268 | 100,000 | ○ |
| 7 | Command | Cohere | テキスト | $0.0015 | $0.0020 | 4,096 | × |
| 8 | Titan Embeddings G1 - Text | Amazon | ベクトル | $0.0001 | - | 8,000 | ○ |
| 9 | Stable Diffusion XL | Stability AI | 画像 | - | $0.018 ／画像 | 8,192 | × |
※日本語対応に関しては、記載された情報を元にしています。
こちらで × となっていても、実際にはある程度対応している場合があります。
なお、 multilingual と記載のあるものは日本語対応しているものとしました。
3. Anthropic Claude V2 を使ってみた
3.1. Claude とは
Claude は アメリカのスタートアップ企業 Anthropic によって開発された LLM です。
Anthropic は2021年に OpenAI の元メンバーらによって設立された後、2022年以降 Google 、 Amazon から巨額の投資を受けるなど、影響力を増している企業です。
責任ある AI の使用を企業理念としており、信頼性が高く、解釈可能で、操作可能な AI システムを構築しています。
Claude は OpenAI の ChatGPT と比べて以下の点で優れています。
より大きいトークン数
ChatGPT のモデルは大きいもので 32,000 トークンが上限となっていますが、Claude は最大 100,000 トークンを受け取ることができるため、数百ページのテキストや本１冊を丸ごと処理することが可能です。
ChatGPT （ GPT-4 ）より、安価で利用できる
ChatGPT は 1,000 入力トークンあたり $0.03 かかりますが、Claude は上の表で示した通り、同 $0.01 で利用できます。
また、Claude は安全性や自然な会話の面でも優れていると言われています。
3.2. Playground
さて、さっそく Bedrock のコンソールから利用できる Playground 上で Claude V2 モデルを動かしてみましょう。
大まかな使い方は下記の通りです。
- Bedrock のコンソールを開く
- 左のメニューから Playgrounds > Chat を選択する
- Chat Playground が開いたら、画面中央上部のメニューから、 Anthropic 、 Claude V2 を選択する
- 画面中央下部のテキストボックスに質問を入力し、Run をクリックする
- 画面中央に Claude からの返答が表示される
実際にいくつか質問してみました。
どの質問にも適切に回答できており、自然なやり取りになっていると思います。
１つだけ苦情を入れるとしたら、富士山が「Honshu島の南部に」あると言っていることでしょうか。
確かに本州の中で緯度は南のほうですが、南部にある、と言われると違和感があります。
しかし、２段階ある質問にも答えることができており、精度の高さもうかがえます。
3.3. 追加設定
いくつか、モデルに対して行える設定があるため、紹介します。
指示を追加する
入力テキストボックスの上の Add instruction をクリックすることで設定ができます。
返答の形式や調子など、ユーザ入力すべてに適用される事項を記載しておくことで、入力欄に毎回記入する手間を省くことができます。
指示を追加する モデルのパラメータを設定する
同じく入力テキストボックスの上に Update inference configuration メニューがあります。
返答の最大トークン数や返答の厳密さなどを設定できます。
モデルのパラメータを設定する
4. まとめ
今回は AWS 上で GA となった Amazon Bedrock で Claude V2 を試してみました。
いくつか質問を投げてみて、適切な返答が返ることを確認できました。
精度が高く、トークン数も多いモデルを安価に利用できる、 AWS のネットワーク内に閉じて安全に利用できる、など利点が多いです。
今後、利用場面が増えていきそうですね。
Acroquest Technologyでは、キャリア採用を行っています。少しでも上記に興味を持たれた方は、是非以下のページをご覧ください。 www.wantedly.com
- ディープラーニング等を使った自然言語／画像／音声／動画解析の研究開発
- Elasticsearch等を使ったデータ収集／分析／可視化
- マイクロサービス、DevOps、最新のOSSやクラウドサービスを利用する開発プロジェクト
- 書籍・雑誌等の執筆や、社内外での技術の発信・共有によるエンジニアとしての成長
