咬牙购买二手拆机3060显卡

昨天晚上临睡前,趁着身体疲惫头脑不清醒,咬咬牙、狠狠心、一跺脚把前几天收藏夹里的惠普拆机九成新itx3060显卡下单了。
看重的这款显卡一是便宜,要比全新少花千数块钱呢;再者就是现在开始少见的12G显存,运行AI程序不受限;最后就是itx板型,适合多种机箱。
早上起来,感觉还是有些冲动了。
又浏览了网页平复心情,店铺里面居然有P104计算卡,而且价格不足400元,这可是前两年价格被炒上天的稀罕古董。
看来挖矿潮真的过去了。
下一个可能就是AI本地应用潮,该花的钱总要花的。

AI应用环境搭建完毕,只待显卡

今天在外忙了一天,回家简单做饭的同时,开始了继续昨天未完成的AI应用环境搭建。

通过本周Vits的应用,发现无论是国外的COLAB还是国内的GPU云服务器,都有诸多限制,要想常规学习应用,搭建本地环境还是必需的。

还好,在解决了几个昨晚遗留问题后,虽然vits训练未果,但系统环境搭建完成,不用再连续熬夜了。

在2019年底,为了人体体态识别应用,曾购买了一台二手Dell工作站,加上全新索泰矿卡P106-90,搭建了一台“深度”学习机器。跟昨天情况相同,也是颇费周折搭建环境完成后,运行程序硬件报错,只不过那次报错的4G内存不足,添加8G内存开始正常运行。

那台机器在搭建完成后不久,就因疫情而被遗落,几经周折,如同丢失的孩子,找回的希望几乎破灭,这也是我不得不重新搭建新机器的原因。

这次测试机器使用的外甥原先的游戏机,只是运行报错的硬件不再是内存,而是970显卡的4G显存。

三年过去,AI技术突飞猛进,硬件需求自然是水涨船高。而后期Stable-DiffusionAI绘图等应用,8G显存已经是最低要求。

看来,必须要先买一块二手RTX3060显卡了。

ChatGPT崛起,英伟达拒绝降价

前天几个人一起聊ChatGPT的时候,我做了一个预测,那就是这几年内,ChatGPT技术就会开源。

这些年来火遍全球的科技技术、项目后面,都是资本在兴风作浪,或者说是作妖,而推波助澜的也离不开那些传统的科技公司,甚至可以说是为虎作伥。

最近的例子就是虚拟货币,英伟达赚的是盆满钵满。而矿难之后,黄厂长刚放下身段要搞促销,ChatGPT的横空出世,顿时让老黄又鼻孔朝天了。

现在IT界掌门们都在敲打后辈:ChatGPT烧钱,尔等不要跟进。

后辈也不傻,都是吓大的,不烧钱能混IT?

要烧钱,最开心的还是那些资本,还有就是黄厂长他们了。虽说ChatGPT需要积累,但有了ChatGPT,数据的获取效率可谓是一日千里,缺少的就是数据处理。

而数据处理,怎么离得开黄厂长?

降价?黄厂长的刀快着呢。

折腾VITS个性化声线

昨天中午发现一个VITS代码库,可以根据个人的语音文件,通过训练生成个性化的声线。

因为在多语言情况下环境依赖难配置,那个项目是使用Colab运行的。自从有了国内的GPU云后,我已经很久没有使用Colab了,但看说明并不难,回去饭都没吃就开工,没想到一直到了第二天快两点也没有完工。

其实本来还算顺利,在解决了几个细节问题后,本已经进入最后的训练阶段,但就在进行到90%时,系统突然报错断开,仔细一看,原来是免费的GPU算力用尽。

前功尽弃,这免费的资本主义羊毛也不是这么容易薅的。

其实我也有心理准备,我最终目的就是转到国内的GPU云服务器上,但百度现在只提供飞桨框架,而最常用的恒源云最后阶段总是卡在路径参数上。毕竟这个系统是基于Colab的。

熬夜没有等着colab新的算力到账,早上起来打开电脑,依然无法使用,想付费人家只认美国信用卡。

好在到单位用他人账号登录Colab,有了昨天的经验,顺利完成了训练,效果尚能接受。毕竟训练使用的只是一个样本文件,如果使用大量语音文件进行训练,效果应该还会提升。

狗仗人势,亦看人性

前段时间入坑短视频,起因是看宠物视频。虽然后来看的杂了,但还是关注狗子的品种,想知道那次跟柯基开撕的恶狗是何方神圣。
后来还真让我看到了,那家伙叫细狗,网上风评很差,据说战力上乘。
看来柯基虽然平时怕硬不欺软,看到大狗就绕着走,但还是没有辱没自家猎犬血统。那次如果不是被我拉紧绳子影响发挥,估计能把那厮咬的落荒而逃。
小时候在村里也没少看狗打架,还是能看出胜负强弱的。
那时候村里的人家认不全,但谁家的狗倒是分得清。无论在村里还是进城后回姥娘家,也总被提醒小心谁家的狗。
狗仗人势不假,同样什么人家养出什么样的狗。

见贤思齐,狗子亦然

昨天进门柯基没有扑上来,出门也没听到他那惨烈的叫声,眼里、耳中都空落落的。

心里想着柯基,回去路上特意留意了一下,在路口拐角人家门口,又看到了那条拉布拉多犬,保持着一贯的肃穆神情。

去年一天下午例行遛完柯基,到门口发现密码锁坏了。我就坐在在路口拐角的椅子上,在等送钥匙过来。

那时候柯基难得老老实实趴在我脚边,不像以往那样窜来窜去。我一直以为这家伙是跑累了,直到那家人开门出来,我才注意到门口还趴着一条大拉布拉多犬。

柯基也站起来,一脸羡慕表情地看着拉布拉多犬进门。

都说物以类聚,人以群分。同样,见贤思齐,,狗子亦然。

让子棋让人失望的18B权重

去年感觉到自己阳的时候挺突然的,当时正在网上跟一个网友测试katago让六子棋,突然之间感觉头疼,脑子几乎空白,屏幕都看不清楚了。
那之后一脑子感觉昏昏的,集中精力时间长一些还会有刺痛感。
昨天晚上又与那个网友约定进行让子棋测试。可能为了保证系统稳定,减少了AI信息的返回量的缘故,动脑少了,躺下后脑子没有昏沉沉的感觉,反而清醒的很。
不过测试棋中,目前风头最劲的18B权重实在有失面子。不止是我,被让子方也怀疑是自己水平提高了,还是AI出了问题。即便将pda设为最高,18B依然是斤斤计较官子的大小,可以说是按部就班地输掉对局,或者说,他根本就没想赢。
我们均不甘心,又换成最新60B权重对战一局,结果对局进程幡然一新,从角部开始缠斗,一直纠缠到官子。虽然因为机器配置低,计算量不高而告负,但依然有取胜的希望。
估计现在一直没有更新的18B权重,如网上流传那样,是为了比赛而特训的权重,可谓棋风全面稳健,官子滴水不漏,颇有小林光一之风。
而到了让子棋,必须强力攻击,就非其所长了。

ChatGPT的成本

今天看新闻,谷歌在大倒苦水,说现在ChatGPT类产品的成本要大大高于传统的搜索。感觉这有点吃不到葡萄说葡萄酸的酸酸味道。
成本还分有效成本和无效成本之分呢。
在谷歌之前,是以雅虎为代表的目录式的搜索引擎,找到什么内容完全看供应商的勤快程度。后来谷歌等爬虫式的搜索引擎,基本上是广撒网良莠兼收,同时根据用户访问量进行整理排序。
后来都学坏了,也不知是国内外谁跟谁学坏的,也开始干预,甚至到了吃相难看的地步。
而到了现在的ChatGPT,则等是用户把内容推送上门,或者帮助系统整理归类,这等好事,原先是需要累死多少爬虫啊。
如果现在再把ChatGPT当做搜索引擎,或者整合到搜索引擎中,就有点像前段时间某学者怒斥知网一样:用了我的文章,还向我收费。

短视的业务整合

今天看新闻,百度掌门终于亲自为自家类ChatGPT产品文心一言站台了。

虽然根据之前百度的一贯作风,并不意外百度的小家子气,但看到百度要将文心一言与搜索业务整合,还是没有想到他会如此短视。

百度的没落源自搜索业务的没落,而随着ChatGPT的横空出世,受到冲击最为剧烈的就是搜索引擎。而百度偏偏要用自己难得拿得出手,甚至可以藉以东山再起的文心一言,与日薄西山的搜索整合。

这就像一个破落八旗子弟,家里发现家里箱底有件值钱黄马褂,却非要把新衣服裁了补旧袍子。

何况把ChatGPT整合到bing中的那位刚栽了跟头,好歹人家更有钱,买的还是干儿子,榨干一点是一点。

而百度,这两个可是亲儿子,非要让不肖子拖累死麒麟儿才罢休啊。

ChatGPT小说创作火候还远

近几日跟ChatGPT的交流,主要是基于小说的创作,这方面显然ChatGPT没有网上吹嘘的那么神乎其神。

关于写作,网上评论的AI缺少想象力不是原因,而是结果。这除了受限于AI的数据集,更主要的是AI无论中外,都是受限于内容审核,就像戴着镣铐起舞,像《水浒》这样的小说,根本不可能续写或者再创作。

即便是创作洁本,AI也时不时闹笑话,因为我构思的是架空小说,今天又来了一个曹操反清复明令人瞠目结舌的组合。

如果说AI参与小说创作,那也主要用来注水,而现在小说这种注水本来就不少,AI捉刀,倒也合适。