之前测试rag，我使用的材料是《三国演义》的文本文件，即便是deepseek推出后，效果仍然不是非常满意。
这几天分析，除了《三国演义》本身是文言白话混杂的作品，给AI的分词、理解提高了难度。还有一个重要原因，那就是《三国演义》太有名了，AI在训练过程中，难免被污染，所以才会在出现“关公骂王朗”的“本能性”回答的笑话。
于是决定改变一下案例，使用真正私有的文件，也就是对AI全新的资料进行回答。
敝帚自珍，这次选择的资料库是我完成许久的小说。从简书按章节导出后修改为升序文件名，以目录的方式导入知识库。
指定知识库后，使用deepseek-r提问，从分析到回答，已经不再夹带私货，完全按照原作进行回答，但理解能力还是有问题。
总结一下，应该是我虽然修改了文件名，但AI读取文件时，并未按小说的时间线进行分析。
多文件不行，就把多文件生成一个markdown文件让AI理解。在AI的辅助下，编写了一个程序，将多个网页中的内容采集后合并到一个文件中。
这次，AI给出了优异的答案，理清了人物关系，并在此基础上进行了人物情感分析。
这次使用的模型是硅基流动的，相比其他运营商“Token大赠送”的扭扭捏捏，硅基流动赠送的直接是免费券，而且界面简单明了。满意之余，顺手充值了10块钱，以作奖励。
回想一下，两周过去了，能够费脑子写新代码，这事情算是真的过去了。
举足轻重的向量化
昨晚躺下后脑子里也是关于rag的问题。
早上起来查了一下相关资料后，确认之前遇到的本地资料库效率，应该与向量嵌入模型有很大关系。
于是开机重建资料库，使用硅基流动的免费嵌入模型，对同一文章进行向量化导入，然后使用同一qwq模型询问同一问题。
果然，这次不但问题的答案准确，而且推理过程也精简高效了很多。
目前硅基流动的向量化服务有免费、收费两种，而腾讯是按照token收费，看来这个业务需求量还是不小的。
时间宽裕，收获满满
收获满满的一天，甚至是有所突破的一天。
因为要等报表反馈，有足够无聊的时间需要打发，而折腾计算机需要这种整装的时间。
因为此前anythingllm升级版本反而弱智的情况，也验证了我的一个猜测：rag除了足够强大的大模型逻辑支持，还需要资料库的可靠性。而版本升级与外部模型无关，那就跟内嵌模型和向量数据库有关了。
于是将内嵌模型更换为BGE-M3，效果并不明显，果断将anythingllm切换回cherrystudio，效果果然提升，同时结合deepseek的推理过程，发现他是读取向量数据库中被分解的资料进行分析。
在验证我推测的同时，也算是给cherrystudio平反了。
不过ollama提供的BGE-M3模型对中文支持并不好，这也是网上渐渐不推荐ollama的原因。
将部署软件切换到lmstudio，这样就可以更自由地选择各种模型。
只是办公室的网络，真是一言难尽。
阿里跟进deepseek
早上看新闻，阿里推出了千问新大模型，号称性能比肩deepseek。当时还以为是标题党，谁知道他对标的是deepseek的哪个版本。不过细看文章中图表，原来冤枉作者了，他对比的就是deepseek满血版。
下午做报表的时候，看到ollama已经发布了qwq模型，19G大小，而所谓消费级显卡就能运行，指的也是4090D这样32g显存的显卡。
下载模型过程漫长，天黑就没有关机下班。回到家开机检查，模型已经下载完成，运行一下，在A6000显卡的服务器上，回答质量虽然不能与deepseek相比，但速度是嗖嗖的。
看来针对deepseek这个新入局者，相比腾讯的归化策略，阿里是准备下场竞技了。
本地部署deepseek的rag任重道远
今天抽空测试了一下本地部署deepseek的rag性能，或者说可靠度。
测试的依然是那个问题：”《三国演义》中身长七尺，细眼长髯的是谁？”
出乎意外的是，通过Python的相关库操作deepseek的32b模型，情况糟糕如故，一会诸葛亮，一会关羽的。
后来转到Windows下的客户端，cherry studio功能基本是摆设，而anythingLLM则表现亮眼，在调整了内嵌模型的参数后，deepseek7b连续给出了简要明确的答案。
就在高兴之余，看到客户端右上角有个升级按钮，便进行升级期待其有更好表现。
谁知经过漫长的下载安装后，anythingLLM新版本变弱智了，开始胡说八道，竟然还给我生造出一个三国名医出来。
果然如我所料，大模型的RAG任重道远，而且与内嵌模型及向量数据库的配置、管理有着重要的关系。
元宝免费的代价
早上看新闻，有不少文章在声讨腾讯，起因是腾讯免费的元宝《用户协议》中的第5.4款。
这个其实这个条款已经是修改过的，现在等于是：你上传的内容，所有权是你的，但我可以用；我反馈的内容你可以用，但所有权是我的。
也算公平合理。腾讯什么时候做过赔钱的买卖。
原先是爬虫在网上搜资料，现在高质量的资料自己送上门来。
恨得牙根痒痒的，应该是曾经搜索、AI都曾绝对领先的百度了。
真切的梦
昨晚做了一晚漫长的梦，情节惊悚，场景熟悉，人物真切。
真希望醒来后的一切只是一个梦。
续费咪咕中超会员
花了168块钱，把咪咕今年的中超联赛会员买了。
去年是有史以来看中超比赛最多的一年，咪咕视频陪伴了我焦虑的一整年，还有那忙碌的五个月古籍点校。
168这个价还算公道，虽然网页一场比赛下来要崩溃个两三次，而且还没有画中画小窗功能，但好在三端可用，只要电视安装了客户端也可以观看，这就比大部分会员收费良心多了。
好在今年咪咕解决了小窗问题，可以边干文字工作边开小窗看直播了，虽然现在一心二用的能力已经衰减大半。
希望今年是轻松的一年。
庸帅久尔杰维奇
当年世界名帅安蒂奇执教鲁能泰山的时候，被球迷起了个安混子的外号。
再后来泰山宣布巴西人梅内塞斯担任新赛季主帅的时候，有关注巴西联赛的网友评论：又一个安混子。
果然，那是泰山离降级最近的一个赛季。
混子教练的特征就是，我训练好了，选好首发球员了，那么球员就要在场上按照我的要求比赛。踢不好，那是球员贯彻教练战术的问题。
说白了，就是到了场上听天由命，只希望对手也是按照我的战术踢。
混子难听点，好听点就是庸帅。
留着替补名额下崽的久尔杰维奇，就是典型的庸帅。
戒短视频已经两天
去年底儿子考试结束后，我叫花子咬牙，发了不少誓，许了几多愿。过年其中最新的一个誓，就是成绩出来后把短视频戒了。
这次提前了，已经两天没看短视频了。
我看短视频历史并不长，21年有同事提醒我，抖音上有儿子高考第一个跑出考场的视频，我才首次安装了抖音。
而其后刷短视频成为习惯，是24年。
而戒掉短视频念头的诱因，是前几天的泰山亚冠退赛风波，而起因是春节期间的一次小聚上，某人在我们推荐某个视频时，一脸淡定的说：他从来不看短视频。
他说他不看，我信，也信他以后也不会看。
古人言益者三友，见贤思齐，自有道理。