Taste of Tech Topics

Acroquest Technology株式会社のエンジニアが書く技術ブログ

2024-12-24から1日間の記事一覧

vLLMを利用したLLM推論高速化テクニック

皆さんこんにちは Acroquestのデータサイエンスチーム「YAMALEX」のチームリーダ、@tereka114です。 YAMALEXチームでは、コンペティションへの参加や自社製品開発、技術研究などに日々取り組んでいます。大規模言語モデル(通称:LLM)は近年、非常に注目さ…

Difyの基本!ワークフローとノードのおさらい

こんにちは、技術イベントに参加してきてアウトプット欲が高まっているハヤトです。 この記事は Dify Advent Calendar 2024 のシリーズ2、24日目の投稿です。最近も精力的にアップデートが重ねられているDifyですが、 その中心的な機能であるワークフローと…