最近在rag实战应用中十分有挫败感,昨天刚跟外甥电话交流中,尝试使用chatGPT对本地文件处理的可能性,今天一早起来看新闻,OpenAI居然将GPT开源了。
因为开源两个版本中低的20B也需要16G显存,目前还没法测试,但根据之前对其他低版本开源模型的测试,对rag等本地部署的应用是足够了,GPT应该只会更强。
这已经不是蚂蚁腿肉也是肉的问题,而是AI普及后的一块巨型蛋糕,显然OpenAI公司不想让一班跟随者分享这块蛋糕。
只是16G显存的门槛,最高兴的还是黄厂长。
最近在rag实战应用中十分有挫败感,昨天刚跟外甥电话交流中,尝试使用chatGPT对本地文件处理的可能性,今天一早起来看新闻,OpenAI居然将GPT开源了。
因为开源两个版本中低的20B也需要16G显存,目前还没法测试,但根据之前对其他低版本开源模型的测试,对rag等本地部署的应用是足够了,GPT应该只会更强。
这已经不是蚂蚁腿肉也是肉的问题,而是AI普及后的一块巨型蛋糕,显然OpenAI公司不想让一班跟随者分享这块蛋糕。
只是16G显存的门槛,最高兴的还是黄厂长。