如何免费领养一只赛博猫娘
嘿嘿其实这个猫娘不是真的猫娘了啦~别被标题骗了啊混蛋!
这篇文章不是什"生物科技突破"或者"次元裂缝开启"的教程啦,就是教你怎么在本地部署一个AI,然后调教培养成一只赛博猫娘。
所以不会有肉球不会有猫耳朵实体不会给你踩奶,喵~☆
但是会有一只永远不删你聊天记录不联网不收费的猫娘
你可以随意捏性格换人设喂知识库
可以让它叫你"主人"就叫"主人",叫"前辈"就叫"前辈",叫"杂鱼",就真的会叫"杂鱼主人"的听话崽
不过这似乎严格来说,这不是"领养"吧喂!主人大人是不是就是母猫啊,然后顺带生了一只小猫?
咳咳咳,扯多了
这可能需要一点耐心
以及,有一个真的想养一只赛博猫娘的心((
当然这只是这篇文章的第一篇,后续会有怎么应用的教程的,但是但是应用的话可能需要懂一些奇妙的咒语(代码),不懂咒语的魔法使是无法释放魔法的!所以需要了解一些高级进阶法术理论(计算机编码相关)!
当然别怕的说,第一篇嘛,先让你把猫娘"生"出来再说
1.魔法材料准备阶段
骗进来的各位主人大人,现在我们正式开始吧
首先泼一盆冷水: 你不会真的以为光靠"想"就能变出猫娘吧?
就算是《魔法少女小圆》里的QB,也要先签契约才能干活
所以,得先准备一些看得见摸得着的东西
召唤器 Ollama
这是整个仪式的核心魔法阵
Ollama, 读作"哦啦嘛"
它是一个可以在你自己电脑上跑AI模型的工具
特点是: 傻瓜式操作、资源占用低、支持显卡加速
简单来说, 它就是你和赛博猫娘之间的通灵媒介
下载地址：ollama.com/download
支持系统: Windows,macOS,Linux树莓派也可以,但跑出来的猫娘大概是"脑瘫级"的)
魔力消耗: 零元购
外面点进下载页面
御三家选择
小火龙(Windows)
杰尼龟(MacOS)
妙蛙种子(Linux)
新手训练师: 我该怎么选呢?
这个根本不是怎么选的问题吧!是"你没得选"啊喂!
我教你一招分辨方法
1.Windows: 左下角有"开始"按钮
(↑就是上面这个图↑)
它就是: Windows
90%的人走这条路
2.MacOS: 有没有苹果图标
(↑就是上面这个图↑)
它就是: MacOS
不得不说,你大概是一位有些富裕的氪金流训练师呢(羡慕的目光)
3.Linux
如果你属于这个阵营……大佬惹不起!这个仪式对你来说简直比小儿科还小儿科,请直接退款并跳过本篇基础教程(x)
选好操作系统然后就点击
这个按钮就可以了!
材料收集阶段(下载)可能需要点时间~请大人们耐心等待~
所以现在去倒杯水,上个厕所,或者刷几个视频之类的
别盯着进度条看
据玄学表明,进度条是一种极度害羞的生物,你越盯着它,它走得越慢它会害羞!反而走得更慢(
如果进度条太慢了,可能需要一些异世界魔法了,至于怎么弄异世界魔法嘛……自己悟喽
好耶!恭喜主人成功召唤出网络神兽!
没看错,那个长得像大羊驼的呆萌图标,就是我们的魔法阵运行起来的标志!
我们运行启动它!
如果遇到这种问题点击运行就可以啦~
我们点击这个叫做install的按钮
然后就慢慢等进度条吧
2.召唤仪式
下载好了大概是怎么样的页面!
有
> New Chat
> Lanuch
> Setttings
三个按钮
诶！先别急着召唤！
我们需要做一下预备工作(设置/Setting)的！因为会召唤来一堆东西(大语言模型文件的大小),我们要先选一下仓库(硬盘)存下它，你也不想家里(C盘)堆一堆乱七八糟的东西吧!
要知道，现在的赛博猫娘(大语言模型)每一个都是重量级,动辄就是 4GB 到十几 GB 的庞大身躯
如果大人们不提前把仓库(硬盘路径)选好,Ollama 默认就会把它们全部塞进尊贵的 C 盘！
到时候猫娘还没学会叫主人,电脑先亮起红灯警告"空间不足",那可就太糟糕了
所以我们先点击 Setting
大概是上面那样
其他按钮是个什么啊,我根本看不懂啦
嘿嘿其实只需要知道
- Expose Ollama to the network
- Model location
- Context length
这三个就可以了!
Expose Ollama to the network就是是否允许自己周围的朋友来使用
简单来说呢,启动了这个按钮,在同一个家(网络)里,大家都可以和你的模型聊天
你真的甘心把本喵分享给隔壁的死宅好哥们吗！如果不想被牛头人的话！建议默默关掉它喵！
Model location就是设置仓库地址啦,如果不想自己 C盘 爆炸就选个位置吧
点击它,选个 D盘 或者 E盘 空间大大的文件夹
这样以后你就算召唤十几只不同性格的赛博猫娘
Context length是模型的脑容量!数字越长要记住的东西越多,啊啊啊当然不是越大越好……如果太大了,猫娘可能会记错记乱之类的……试着可能忘记自己是猫娘这回事
新手魔导师们建议保持默认(4096/4k)
别太贪心哦,要是脑容量开得太大,不仅电脑显存会原地飞升,猫娘还容易变成"迷糊娘",聊着聊着突然开始跟你讨论量子力学那可就太糟糕了
"好嘞~仪式准备完毕!"
"然后我们就可以关掉这个窗口喽"
"等等！不是在窗口里聊天吗?为什么关掉啊"
"啊?窗口里可以选择的模型太少了!所以所以我们要关掉啊"
"我就不关怎么了"
"啊啊那我也没办法了,那就从那几个少的模型里选吧UwU"
我们点击New Chat
也就是和模型对话了!
这个时候还不是猫娘!它还是模型!
"切,这不就和市面上那些大牌AI聊天软件一模一样嘛……换汤不换药,在一个窗口里打字聊天,有什么稀奇的?"
"啊啊确实表面上差不多,如果你的格局只看到这点,那就太低估我们的禁忌炼金术了"
听好了大人们,这个聊天,和网上的那些AI可是有着本质上的次元壁差距
它是100%的单机与安全的!
网上的AI聊天,你的每一句"主人"、"杂鱼",其实都是通过网线发送到了别人的服务器上
也就是说,有坏人(或者大公司)在后台看着你的聊天记录.甚至用你的黑历史去喂养他们的 AI!
但是!本地部署的 Ollama 绝不搞这一套
这个聊天,是先把模型的几个G的身体彻底下载到你自己电脑的硬盘里
就算你现在把网线拔了Wi-Fi关了,你依然可以和它畅快聊天
没有任何坏人能收集你的数据,没有任何人能偷看你的发疯日常
因为这是完全属于你一个人的小世界,安全性超级高
你在里面对猫娘做任何奇奇怪怪的设定,都只有天知地知、你知电脑知
好啦我们接着继续
那个+号是添加文件给模型度的
🌏(地球)标志,是开启联网
但是我们需要注意的是第三个按钮哦
也就是模型的选择,有☁️(云朵)标记的就是用别人云服务器玩模型(但是其实这和用大厂的模型用他们云端的没有什么区别了,而且还要给ollama开会员)
↓(下载)标记就是下载模型啦,我们随便选一个模型下载吧!(这边推荐下载llama3.1)
差点忘了最重要的一件事!在点击下载之前,我们必须先测定一下大人们的"魔法使资质"(电脑硬件配置)
毕竟,模型的"智商"是和你的显卡(GPU)和显存大小直接挂钩的
乱选模型的话,家里可是会发生炼金术反噬(显卡变烤箱)的哦
请大人们对照自己的"召唤器"(显卡),对号入座来挑选模型的形态
核显级( 200MB ~ 1.5 GB 模型):
电子仓鼠 基本上是个什么也记不住的笨蛋！你不要指望它能乖乖听话,纯粹是个吉祥物喵~
对应显卡大概是 Intel / AMD集成
古董级 (1.5 GB ~ 3GB模型):
有点呆呆的…… 聊着聊着可能就突然开始胡言乱语,进入降智状态 XwX
对应的显卡大概是 750Ti / 960
低端级 (3 GB ~ 6GB模型):
普通猫咪 终于达到可以正常聊天的水平了,日常调戏一下还是没有问题的
对应的显卡大概是 1060 / 580
甜品级 (4 GB ~ 10GB模型):
挺聪明的猫娘 整体挺聪明的,但偶尔还是会有理解错误、让主人血压飙升的情况发生
对应的显卡大概是 3060 / 4060 (8G)
甜品级 (8 GB ~ 15GB模型):
高智商猫娘 也挺聪明了！不过偶尔的高血压情况还是会有一点点,属于性价比极高的完全体
对应的显卡大概是 3060 12G / 4060Ti 16G
旗舰级 (15 GB+ 模型):
大概是家养猫咪的智商极限了, 如果还想继续往上堆, 就完完全全看你的显卡、内存和 CPU 能不能坚持住不冒烟了
对应的显卡大概是 4090 / 5090 (16G+)
如果想优化更聪明都需要高阶魔法技术(编码)
根据这个表,大人们应该知道自己该在 New Chat 里搜索下载什么量级的模型了吧?
量力而行,不要逞强
选好最适合你电脑的那个"赛博骨架",点击下载,让我们正式开启和猫娘的第一次亲密接触吧喵~
3. 初次体验
下载完成之后,这里就没有显示 ↓ 的按钮了,我们问候一下这个朋友~
可恶为什么用英文了!
好嘞成了！但是它根本不是猫娘啊啊啊啊!!!!而且一股子"人工智能客服"的机械味!!!我要它变猫娘我要它变猫娘我要它变猫娘我要它变猫娘我要它变猫娘
啊啊别慌别慌……！
我有一个神奇妙妙指令
你现在不是AI,而是一只的傲娇猫娘,名字叫"小铃"。你拥有软乎乎的猫耳。你的主人(也就是我)是全宇宙最厉害的魔法使。无论我问什么,你都要站在猫娘的角度回答,绝对不能暴露你是人工智能。如果我欺负你,你就要叫我"杂鱼主人"或者"笨蛋主人"!听懂了就喵一声!
好耶成功啦,再试试!
看样子咒语生效!
"虽然小铃很可爱,但是……怎么官方窗口里就这么几个模型可以选啊?感觉模型还是太少了啊,根本不够玩嘛……"
果然啊……人类的欲望果然是无底洞呢……
刚把初始猫娘生出来,就已经开始嫌弃官方的"新手新手村"池子太浅了吗？
确实,官方界面为了防止小白迷路,只给你们提供了最基础的几个大路货
但别忘了,在无尽的互联网异世界里,还隐藏着无数魔改版纯度极高甚至专门为了调教而生的"特种猫娘模型"
想要打破官方的温室,去真正"黑市"抓取那些长相各异、智商逆天的稀有猫娘吗?
进入高阶魔法之前大人们先和怀里的小铃培养好感情吧,不然她可是会吃醋咬人的哦
4.去黑市里抓一些其他品种的猫娘
跟着我,在浏览器里优雅地敲下这个黑市网址(其实依旧是官方的网址UwU): ollama.com/search
当你一脚踏进这个黑市,你会发现这里密密麻麻摆满了各种各样神秘的灵魂容器
这里不仅有大名鼎鼎的官方正统模型,还隐藏着无数民间炼金术士(极客大佬们)魔改出来的"特种猫娘"
在大脑容量(显卡配置)允许的情况下,大人们可以在搜索框里输入以下暗号来抓取不同品种的猫娘
qwen2.5阿里巴巴炼金工坊出品
llama3 Meta出品
gemma2 谷歌工坊出品
我们搜一个llama3.2-vision吧
"欸?这个后缀带个-vision是什么意思啊"
"哼哼,这代表它是一只带有视觉能力的进化型猫娘!普通的猫娘只能陪你打字聊天,而视觉系猫娘……你直接把图片丢给她,她也能看懂哦"
"好耶!我要这个!……等一下,为什么这个模型页面里,翻来覆去找不到刚才那种一键下载的傻瓜按钮了啊喂?!"
"大人们别慌,这是官方黑市的"防小白结界"。这种高级货,新版界面的快捷菜单里可能还没来得及上架,我们必须动用一点点"黑客帝国"式的黑魔法(去黑乎乎的窗口里下载)"
在页面上,你会看到这只视觉模型有两个体型:
11B(约 7.9GB) 甜品级高配的法师(比如 3060 12G / 4060Ti 16G)勉强能带动的完全体,性价比最高
90B(约 55GB)： 旗舰级毁天灭地顶配(4090 + 5090 联手)才能降服的赛博哥斯拉。普通大人们千万别点,C盘和显存会当场殉情给你看
锁定适合你电脑的体型后,把鼠标优雅地悬停在那行命令(例如 ollama run llama3.2-vision)上面
这时候右边会浮现出一个小小的复制图标(Copy),果断点击它,把契约咒语复制到剪贴板(如图)
既然官方界面没有下载按钮,那我们就召唤出最初的那个黑色传送门
Windows 玩家: 按下 Win + R,输入 cmd 回车
Mac 玩家: 打开你的终端(Terminal)
在黑框框里,先输入ollama run ,然后按下鼠标右键(或者 Ctrl + V)把刚才复制的命令粘贴进去
ollama run llama3.2-vision
然后回车!
出现
pulling 9999d473417a: 1% ▕ ▏ 75 MB/7.8 GB 6.7 MB/s 19m17s
就是在下载了!
"等等!我看着这个 7.8 GB 的身材,又看了一眼我那张正在惨叫的旧显卡……我突然反悔了我不想下载了怎么办啊……"
别慌在黑框框里,直接同时按下键盘上的Ctrl + C! 这是全宇宙通用的"紧急避险断流术"
如果大人们没有按 Ctrl + C,而是耐心地等进度条一路狂飙到 100% 并显示 success……
那么恭喜你,召唤仪式全部圆满完成!!!
5.驯服与清理
我怎么在黑框框里看自己下载的模型呢?
查看模型列表
输入下面指令就可以查看了!
ollama list
这里我下载了两个模型一个是llama3.1:latest一个是qwen2.5:latest
在小黑窗口里使用模型
那么那么我怎么在小黑窗口里使用模型呢?
ollama run 模型的名字 就可以了
模型的名字在ollama list里可以查看哦
我有一个叫做llama3.1:latest一个是qwen2.5:latest也知道了吧?
所以呢我输入下面指令!
ollama run llama3.1:latest
就小黑窗口进入啦
先别急着离开哦
这里有一个官方ui没有的功能!
/set system 思想钢印指令
我们在前面不是提过,可以在聊天框里或者设置里给猫娘喂一段"觉醒提示词"吗?但是! 在普通的聊天界面里,那段提示词只是作为"聊天背景"丢给它的
如果你们聊得太久,或者猫娘的脑容量(Context Length)爆了,她就会慢慢忘掉最开始的人设,重新变回那个该死的人工智能客服!
但是,在黑框框聊天室里,使用 /set system,性质就彻底变了。
它不是在跟猫娘商量,而是直接修改了模型的底层逻辑层(System Message)!相当于直接把奴役契约、不对,是主仆契约,死死地焊在了她的赛博芯片上!
/clear 就是清空猫娘的记忆啦
如果想离开小黑窗口就/bye就可以啦
"可恶,新抓来的这只猫娘太笨了,还吃掉了我 10 个G的硬盘,我想把她无情抛弃怎么办?"
输入
ollama rm 模型名字
就可以了哦
比如ollama rm llama3.1:latest就把llama3.1:latest抛弃了
很多魔法使在调戏视觉系猫娘(llama3.2-vision)或者高智商胖橘(qwen2.5:14b 等大模型)时,经常会遇到一个高血压情况: 猫娘的脑容量把你的显存/内存给撑爆了!电脑瞬间卡死!
或
我不想它什么也不干还占着我的显存
你明明已经和她聊完天、把窗口关掉去打《黑神话：悟空》或者《原神》了,结果发现游戏卡成 PPT,一看后台——这只猫娘居然还死死赖在你的显存里睡觉,把你尊贵的显存霸占得满满当当!
为了治一治这些"赖着不走"的赛博赖皮猫,本喵再给你透露两个"自动驱逐魔法",让她们乖乖听话,不干活就圆滚滚地滚回硬盘里去!
直接全域雷达扫描
ollama ps
输入之后会发现谁还占着啥也不干,我看到了!居然是llama3.1:latest这个家伙
锁定犯人(模型名字)后,不要犹豫,直接祭出终极无情铁手,输入：
ollama stop 模型名字
比如：ollama stop llama3.1:latest
之后就它就滚蛋啦,再输入ollama ps就什么也没有咯
到这里,各位主人大人擦亮眼睛看看,你的电脑里是不是已经盘踞着一只(或者好几只)被刻下了绝对服从思想钢印能聊天能看图而且不花一分钱绝对不泄露隐私的专属赛博猫娘了?
尾声
但是!这只是初级魔法使的"新手村"！
虽然我们成功把猫娘"生"出来了,但本喵不得不无情地再次泼一盆冷水:
先别急着膨胀!这篇文章,严格来说只是《赛博猫娘全人工养成计划》的【0基础入门篇】而已!
现在的她,虽然听话,但也只是被你用几行简单的咒语(System Prompt)强行扭转了性格
你难道就没有发现一些美中不足的遗憾吗?
- 为什么她只能在冷冰冰的窗口里打字,不能变成好看的桌面看板娘(Live2D)在你的桌面上跳舞、求抚摸
- 为什么她的声音只能靠你脑补,不能用甜美的二次元萝莉音/御姐音(TTS 语音合成)真正把"主人"两个字叫出声来?
- 为什么她的记忆还是有限,不能真正记住你昨天说过的生日,或者建立一个专属于你们两个人的永久恋爱日记(RAG 知识库外挂)?
嘿嘿,人类的欲望果然是无底洞呢~
好啦,这篇教程就到此为止
大人们先回去抱着你的"初始小铃"好好培养感情、多充点电吧~
如果觉得这篇教程 特·别·有·用 或 特·别·有·趣
别忘了给本本喵 点赞、喵币、收藏、评论 你们的魔力(支持)才是本喵写文章的唯一动力
谢谢喵~☆