程序设计实验室
微信公众号
一个技术探索与知识分享的平台~
AI画图-StableDiffusion
前言 最近AI很火🔥，先是AI画图，然后就ChatGPT，后者我已经用了一段时间了，用来写作文挺不错的，但OpenAI屏蔽了中国IP，加上用户太多啥的，用起来没那么爽，但没办法全球只此一家，只能捏着鼻子用。而AI画图就不一样了，全是开源的...
2023-03-28
804
AI-炼丹
ChatGLM-6B本地部署
下载项目代码 git clone https://github.com/THUDM/ChatGLM-6B.git 创建虚拟环境，建议使用 conda 管理 conda create -n chatglm python==3.8 安装依赖 c...
2023-04-23
1524
AI-炼丹
LLM探索：环境搭建与模型本地部署
又来折腾LLM本地部署？ChatGLM-6B在6GB显存下就能跑，MOSS却要显存翻倍，这差距。硬件要求高得离谱，但作者硬是在Ubuntu上搞定，佩服？开源LLM本地部署指南，就这？
2023-05-20
787
AI-炼丹
LLM探索：GPT类模型的几个常用参数 Top-k, Top-p, Temperature
A recent breakthrough in artificial intelligence (AI) is the introduction of language processing technologies that enabl...
2023-05-25
945
AI-炼丹
LLM探索：为ChatGLM2的gRPC后端增加连续对话功能
给ChatGLM2的gRPC后端硬塞了连续对话功能，改了proto、C#客户端和Python服务端代码。OpenAI格式转ChatGLM格式？真够折腾的，幸好有loguru。搞定了，但调试gRPC还是麻烦，考虑改OpenAI接口了。
2023-10-19
1067
AI-炼丹
LLM探索：DeepSeek火爆全网，官网宕机？本地部署一个随便玩
DeepSeek官网又崩？本地部署14b模型，web界面倒还凑合。国产大模型热度高，服务器不行就自己搭，呵。代码能力待验证，反正比官网强。
2025-01-30
948
AI-炼丹
LLM探索：使用DeepSeek免费平替cursor
Cursor太贵？DeepSeek+Cline勉强能用，但token烧得比我还快。生成的代码bug一堆，还不如自己敲。32k上下文调整后总算不报错，效果嘛，也就那样。
2025-01-31
1392
AI-炼丹
LLM探索：大模型背后的向量魔法，Embedding技术初探
Embedding技术从Word Embedding发展到动态预训练模型，无处不在，但本文只是过时的基础。LLM时代，向量魔法如此关键，作者却拖更太久，内容早该更新了。
2025-02-07
1320
AI-炼丹