尚不靠谱本地RAG

昨天测试了一下大模型的RAG助理,问了一个简单的问题:《三国演义》的作者是谁。Llama3.2的回答真是史屎级的回答,可谓是震裂三观。考虑到人家是外国模型,毁中国历史文化情有可原,换成国产千问,同样是胡说八道,信口开河。
于是将正确答案录入到内嵌模型中,千问立马变脸,不止答案正确,而且给出了相关创作背景。而老外依然是继续胡说八道。
这也验证了我之前的判断,那就是所谓RAG依靠的还是大模型,所谓内嵌助理,只是助理,提醒、辅助而已。就像千问显然其大模型中有这个知识,但是要定位到准确知识,则需要结合内嵌服务器。而llama本身就没有知识内容储备,有助理也只是摆设。

Leave a Reply

您的邮箱地址不会被公开。 必填项已用 * 标注

You may use these HTML tags and attributes:

<a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <s> <strike> <strong>