零基础认识大语言模型(LLM)工作原理(6.从 SwiGLU 到 MoE —— FFN 才是大模型真正的算力核心)

博主头像 第六章 从 SwiGLU 到 MoE —— FFN 才是大模型真正的算力核心 目录 零基础认识大语言模型(LLM)工作原理目录 - GuZhenYin - 博客园 本章导读 这篇我们还是继续讲FFN.因为,这个模块一直在更新和升级 本章建议与上一章联合食用,效果更佳. 上一章地址: 零基础认识大语言 ...

生成式模型底层原理通关笔记

博主头像 生成式模型底层原理通关笔记 目录 DDPM:基于马尔可夫链的概率加降噪模型 DDIM:打破马尔可夫链的确定性跳步采样模型 分数匹配 (Score Matching):高斯加噪下的高维引力场构建 流匹配 (Flow Matching):追求两点之间直线最短的速度场理论 VAE (Variatio ...

数据库1600张表的文档,我让AI自动维护了

博主头像 上周接手一个老项目,打开数据库一看——1613张表,42380个字段,1765个索引。 我看了一眼那个旧版Excel文档,最后更新日期停在两年前。里面少了一百多张表,字段注释大面积缺失,有些表的列名跟数据库里根本对不上。 长痛不如短痛,于是我决定对这文档下手了。把旧文档中表的字段、类型、注释重新整理 ...

绩隐金日报 · 第55期

博主头像 绩隐金日报 · 第55期 专注数据库前沿,为DBA提供实战视角 2026年7月6日 | 精选5条全球重磅新闻 01|金仓发布制造场景数据库演进白皮书:SQL Server替代进入“深水区” 7月5日,电科金仓发表《制造场景数据库演进,金仓如何替代SQL Server》技术文章,指出工业现场的数 ...

用AI写了几十篇博客后,我只觉得得不偿失

博主头像 早先我还只是拿 AI 润色下博客,找找错别字等小修小改,而近一年我大部分博客都是先想个主题,然后让 AI 直接生成,或者让 AI 参考当前项目的代码实现来生成。我大致看下有没有什么明显问题后就发布了。博客写得更快了,语句更通顺了,排版更规范了,内容更详实了……但是,我渐渐觉得写博客没什么意思了,甚至 ...

我变成了 AI 的打字猴子——以及我为什么写了一个禁止 AI 写代码的工具

博主头像 我变成了 AI 的打字猴子——以及我为什么写了一个禁止 AI 写代码的工具 当 AI 替我写代码时,我以为自己变成了 10x 工程师。实际上,我变成了一只会按 Tab 的猴子,面对崩溃堆栈时连自己的代码都读不懂。 那个死锁 凌晨一点半。产线停了四十分钟。 不是设备故障——是产线追踪系统卡死了。PLC ...

远程部署工具ZEQP-PSDeploy

博主头像 PowerShell Deploy 开原地址:https://github.com/ZEQP/ZEQP-PSDeploy 本地项目直接部署远程服务器,支持IIS站点、Windows服务、文件发布 安装 把此代码下载或通过git clone到本地 然后在目录下面以管理员方式运行Install.ps1 ...

AI Agent 30天速成|Day10 笔记

博主头像 AI Agent 全日制30天速成|Day10 学习笔记 今日核心主题:Agent 工具编排 + 异步批量任务 + 接口鉴权与分布式锁 修订说明 基于Day9全工具化架构迭代,保留Chroma向量库、统一工具网关、Redis记忆、熔断限流体系 新增工具链批量编排:支持顺序/并行多工具组合任务,无需模 ...

LeetCode最大数字范围的整数之和

LeetCode第509场周赛Q1最大数字范围的整数之和 date:2026-07-05 题目 给你一个整数数组 nums。 一个整数的 数字范围 定义为其 最大 数字与 最小 数字之间的差。 例如,5724 的数字范围为 7 - 2 = 5。 返回 nums 中所有 数字范围 等于数组中 最大数字 ...

Linux 主机防火墙如何同时开启 80 和 443?

博主头像 在 Linux 服务器上部署 Web 服务时,80 和 443 往往是最常用的两个端口。对于使用 firewalld 的环境,直接放行对应服务即可,不需要手动去记端口规则,操作也更直观。 01 | 先确认当前防火墙状态 如果主机使用的是 firewalld,可以先执行下面的命令查看当前规则: sud ...

AI转型不是技术问题,是组织问题

博主头像 本来我认为本文内容整体来说是一些正确的废话。但后来我发现好多人无法判断什么是正确。所以我把我认为的正确放出来,给大家分享下。 AI转型的瓶颈从来不在工具层,而在组织层。先搭Harness基建保证AI的产出可靠,再建特区让新组织长出来。这两步的顺序不能反。 一、先做Harness,让AI的产出可靠 企 ...

从矩阵乘法开始手撕多模态大模型 - 完整版

博主头像 本文记录了一个从零搭建轻量多模态大模型的完整实践过程。项目从手写 BPE Tokenizer、Transformer 基础模块、预训练循环开始,训练了一个 GPT-2 Medium 规模的文本基座模型;随后通过多轮 SFT、HiRA 微调、数据分布调整和任务诊断,使模型具备基础对话与短指令能力。在多... ...

24万星和5.7万星的两个框架,我焊在一起后它们封神了

博主头像 用 AI 编码助手写了大半年代码,有两个问题我一直在跟它们搏斗。 第一个,AI 在「要构建什么」还没想清楚的时候就开始写代码。你跟它讨论需求,聊了三轮,它突然来一句「我来帮你实现吧」,然后一顿输出,写完一看,方向跑偏了。代码能跑,但不是你想要的。删了重来,token 已经烧掉了。 第二个,规划倒是写 ...

<1···567···100>