Category: Cloudflare
CloudflareHono / SonikJavaScript
HonoでCloudflare Pagesを作りつつ、wrangler.tomlを使ってVectorizeをよびだしてみた
2024年春のDeveloepr WeekでCloudflare Pagesがwrangler.tomlをサポート開始。Cloudflare Pagesプロジェクト作成からVectorizeの追加、Workers AIの有効化まで手順を解説。Vectorizeのデプロイ成功後、API追加し動作を確認。wrangler.tomlを更新しLangChain.js使用を試みるも、エラー発生。Node.js互換フラグの設定やcryptoモジュールの取り扱いについて解説。Cloudflare Pagesを使用したVectorizeの有効活用が可能となる手順を詳細に記載している。
AI / MLCloudflareJavaScriptLangChain.jsLLMNode.jsSaaS / FaaS
[LangChain.jsでいろんなRAGを作る]Cloudflare Workers AIで作ったRAGに翻訳機能を追加してみた
Cloudflareを使用してRAGを構築する際、モデルやプロンプトに関連して回答が英語になる可能性があることが挙げられます。そのため、特定の言語で回答を生成するために翻訳ステップを追加することが有効です。これにより、複数のChainをつなぎ合わせて、質問に対して検索を行い、結果を元に日本語で回答生成する流れを完成させることができます。多言語サポートが必要な場合は、翻訳処理を追加して検索精度を向上させることが可能です。
AI / MLCloudflareJavaScriptLangChain.jsLLMNode.jsSaaS / FaaS
LangChain.jsでCloudflare Workers AIの翻訳モデルを利用する
LangChain.jsを使用すると、Cloudflare Workers AIを簡単に活用できます。Text GenerationやText Embeddingsのモデルは問題なく利用できますが、Translationモデルなど一部のモデルは対応していない。LangChain.jsでは新たな実装が必要な場合、自身で処理を実装しChainに組み込むことができます。RunnableLambdaを使用すれば、テキスト生成以外のモデルもLangChain.jsで活用可能。Cloudflare Workers AIを効果的に使用していくためには、適切な実装が必要です。
CloudflareJavaScriptLangChain.jsNode.jsSaaS / FaaS
Cloudflare VectorizeとLangChain&OpenAIを組み合わせてRAGを作ってみた
Cloudflareのベクターストアを利用するためには、Workersを有料プランに変更する必要があります。月5ドルの基本料金で、リクエストが発生すればすぐにマネタイズできるため、気軽に利用できます。Vectorizeを使用してインデックスを作成し、Wranglerで設定値を追加します。また、VectorizeとOpenAIのAPIキーをHonoのBindingsに設定し、LangChainを使用して処理を書きます。最後に、Vectorizeのインデックスを削除する際にはWranglerコマンドを使用します。
AI / MLCloudflareHono / SonikJavaScriptLangChain.jsLLMNode.jsSaaS / FaaS
Cloudflare Workers / R2 / Hono / LangChain.jsを使ってRAGを作ってみる
この記事は、特定のアドベントカレンダーに関連しており、CloudflareとHonoの利用方法について説明されています。記事では、ベクターストアの作成や定期的なデータの取り込み処理などが紹介されています。また、自分のブログを参照したり、HonoでAPIを実装する方法やGUIアプリケーションの作成についても説明されています。しかしながら、Cloudflare Vectorizeの使用やFAISSの利用も検討する必要があると述べられています。
CloudflareHono / SonikJavaScriptmomentoSaaS / FaaS
MomentoをCloudflare Workers / Pages functionsで使う時は、Web SDKを使おう
この記事は、「Momento Advent Calendar 2023」および「Hono Advent Calendar 2023」の12日目の記事で、Cloudflare WorkersでMomentoのSDKを使用する際の注意点について紹介しています。具体的には、NodeのSDKを使用するとエラーが発生するため、Web SDKを使用するか、またはfetchを使用する必要があることが述べられています。また、SDKの使い方に関するポイントや注意点も説明されています。最後に、Workers KVとMomentoの比較も行われています。
AI / MLCloudflareLLMSaaS / FaaS
PipeconeでVector DBの作成と、Cloudflare WorkersからのDB操作を試してみた
この記事では、2023年のクラウドサービスのトレンドとして、Amazon BedrockやCloudflare Workers AIの登場により、AIやレコメンドなどの機能が注目されました。その中で、「Vector DB」について触れられており、Pineconeを利用してVector DBを作成する方法が説明されています。PineconeはAI向けの長期記憶のサービスであり、無料プランもあるため、個人開発などにも利用しやすいです。また、Cloudflare Workersでは、PineconeClientを使用する必要があります。