很难

Posted by blueblue on April 23, 2025

越是学习计算机,就越对ai恐惧。

当一些繁琐无聊的任务被人工智能完成,大家欣喜的认为终于解放的时候,却突然发现,自己不得不往更高的水平去学习。人们将花费更多的时间与精力去完成更重更难的任务。

也就是说,造物主创造了人工智能,ai给他的造物主赋了能,却并没有让造物主感到更加的轻松。


最近学习的Chatgpt研究,也就是学习对ai的利用,已经进行到了本地部署llm与ai-agent了。避不开的就是ollama和dify。

当它们合二为一,让人们完全在本地跑通一个ai应用,实现工作自动化时,注定代表了一批人将被时代抛弃。

不准备过多提及,简单描述一下我的部署过程吧!


首先需要备好docker,ollama,和dify。
在准备过程中,遇到了一些不难的问题:

  • 一是docker的部署,有两种方案,在Windows上,可以使用wsl进行部署,个人感觉比较便利,另一个是用hyper-v虚拟化部署,并不难,但容易出错,最好在网上找找教程。

  • 二是ollama的下载速度问题,有魔法的最好使用魔法,没有的利用火狐下载器进行下载,比edge要快。在模型下载的时候,最好量力而行,笔记本4060的8g显存,对于7b的模型可以勉强带动。

  • 三是dify的部署,比较曲折。可以git,也可以直接download zip。还要改后缀,检查docker之类云云。主要是有魔法下载也不稳定,解决办法是找几个比较靠谱的镜像。


当dify准备好之后,配合本地大模型,即可进行ai-agent的开发。
我并没有很好的ai-agent的开发经验,就不误人子弟了。但它的重要性毋庸置疑,就连蓝桥杯都划分了一个竞赛项目为agent开发。

大数据时代碾压了时代的蝼蚁,人工智能哂笑着它的造物主。而一个学历不高的牢骚满腹的程序员又该何去何从呢?……

很难。