昨天测试了一下大模型的RAG助理,问了一个简单的问题:《三国演义》的作者是谁。Llama3.2的回答真是史屎级的回答,可谓是震裂三观。考虑到人家是外国模型,毁中国历史文化情有可原,换成国产千问,同样是胡说八道,信口开河。
于是将正确答案录入到内嵌模型中,千问立马变脸,不止答案正确,而且给出了相关创作背景。而老外依然是继续胡说八道。
这也验证了我之前的判断,那就是所谓RAG依靠的还是大模型,所谓内嵌助理,只是助理,提醒、辅助而已。就像千问显然其大模型中有这个知识,但是要定位到准确知识,则需要结合内嵌服务器。而llama本身就没有知识内容储备,有助理也只是摆设。