时间宽裕,收获满满

收获满满的一天,甚至是有所突破的一天。
因为要等报表反馈,有足够无聊的时间需要打发,而折腾计算机需要这种整装的时间。
因为此前anythingllm升级版本反而弱智的情况,也验证了我的一个猜测:rag除了足够强大的大模型逻辑支持,还需要资料库的可靠性。而版本升级与外部模型无关,那就跟内嵌模型和向量数据库有关了。
于是将内嵌模型更换为BGE-M3,效果并不明显,果断将anythingllm切换回cherrystudio,效果果然提升,同时结合deepseek的推理过程,发现他是读取向量数据库中被分解的资料进行分析。
在验证我推测的同时,也算是给cherrystudio平反了。
不过ollama提供的BGE-M3模型对中文支持并不好,这也是网上渐渐不推荐ollama的原因。
将部署软件切换到lmstudio,这样就可以更自由地选择各种模型。
只是办公室的网络,真是一言难尽。

Leave a Reply

您的邮箱地址不会被公开。 必填项已用 * 标注

You may use these HTML tags and attributes:

<a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <s> <strike> <strong>