MNTSQ Techブログ

「MNTSQ(モンテスキュー)」のTechブログです。

LLM

IAM Identity Center を IdP としてセルフホスト Langfuse に SSO ログインできるようにする

はじめに 弊社では LLM を活用した機能開発の観測基盤として Langfuse をセルフホストで運用しています。Langfuse は LLM アプリケーションのトレーシングやプロンプト管理等に活用できるオープンソースの LLM エンジニアリングプラットフォームです。 さて…

GeminiのStructured outputでレスポンスの型を矯正するためのTips 7選

こんにちは、MNTSQ(モンテスキュー)でアルゴリズムエンジニアをしている清水です。 MNTSQは契約書を解析・管理・検索するプロダクトを提供しています。これらのプロダクトには大規模言語モデル(以下LLM)が搭載された機能が実装されています。また、LLMを…