概要

• RAG（Retrieval Augmented Generation）のLLM側処理の説明
• 適したドキュメントレトリーバーで重要な情報が取得できている前提。
• プロンプトに取得したドキュメントを投入する

事例

基本的にトークン上限との戦いとなる。

以下のようなシンプルなプロンプトが考えられる。

template_system = (
	"与えられた情報をもとにして、ユーザーからの質問に回答してください。\\n"
	"わからない場合は「わかりません。」と出力し、回答を生成することはしないでください。\\n"
)
template_qa = (
	"# 命令書\\n"
	"- ユーザーからの質問に関連する情報をDBから取得したので、それを参考にしてユーザーからの質問文に回答してください。"
	"- 必ずDBからの情報をもとにして、ユーザーからの質問に回答してください。与えられた情報以外の知識を使用してはいけません。\\n"
	"- 情報をもとに答えられない場合や、情報と質問に関連がない場合は「わかりません。」と回答してください。\\n"
	"# 情報\\n"
	"{info}\\n"
	"# ユーザーからの質問\\n"
	"{question}\\n"
	"出力:"
)

このプロンプトでLLMが持っていない知識について答えることができるかテストする。

使用するのは上遠野さんの自己紹介文にした。

• 自己紹介

上遠野さんが好きなことはなに？

上遠野さんが好きなことは、ヲタ活（V）、家族や友人との時間、自己肯定感が高まる様々なことです。