ローカルAIの構成

RAG(Retrival Augmented Generation) 

自分の今の構成。

ollama -> deepseek ->web ui

gpuの性能がそれほどではないときは、qwenの方が良いらしい。deepseek, qwenのどちらも中国勢ですな。