开源大模型本地部署硬件选型深度指南

博主头像 开源大模型本地部署硬件选型深度指南 作者:SkySeraph 原始链接:llm_locally 日期:2026-05-17 数据截至 2026-05-17 本文基于截至 2026 年 5 月的公开资料与业内已验证的实测数据整理,价格/供货信息请以官网当日为准。 1. 选型四坐标与容量公式 绝大多数“ ...

用 ChatModel 构建 LLM 驱动的 Java 应用

博主头像 ChatModel 简化了 Java 应用中大语言模型(LLM)的集成,通过统一的 Builder API 封装了 HTTP 调用、JSON 解析、流式处理等复杂逻辑。它支持同步/流式调用、工具函数调用、多模态消息和跨服务商适配(如 OpenAI、Ollama、Gemini 等),并提供 ChatS... ...

AI 编程变更记录:知识加工模块与博客工厂模块的状态重新定义

博主头像 笔者注:周末带娃上课期间,用手机使用自己Vibe Coding出来的程序发现有处很别扭的问题,就在程序里的AI编程模块吐槽了下,让他帮忙分析修复下(实际就是调用codex后台去修复)。然后呢,继续陪娃上课,Codex同学已经条理清晰按部就班的给修好了,最后还让他帮忙按笔者的行文风格写了这篇总结文章。 ...

C# GeneratedRegex:面向对象语言的"底层性能突围

博主头像 在需要"编译期代码生成 + 底层内存控制 + 向量化优化"的面向对象语言中,C# 是目前唯一在语言层面、运行时层面、编译器层面同时提供完整支持的生态。GeneratedRegex 只是这个链条的一个展示窗口——它证明了 C# 可以在保持高级语言开发效率的同时,达到接近手写 C 代码的性能。 这不是... ...

一篇搞定:用 curl 测试私有部署模型联通性

博主头像 在私有部署模型环境里,最常见的排查动作就是先看服务是否存活,再分别验证对话模型和向量模型是否能正常收发请求。下面这组命令可以直接作为联通性测试模板使用。 01 | 先检查服务健康状态 笔者通常会先访问健康检查接口,确认两个服务端口是否可达: curl -i http://[已脱敏IP]:8000/h ...

使用embedchain快速建立rag知识库,本地大模型

博主头像 初学RAG搭建知识库,强烈建议先利用embedchain这个开源的RAG框架,短短几行代码就能让你快速建立一个私人知识库,并支持随时增加知识源,是理想的学习和使用RAG知识的开源利器 最简单的解决方式: 框架: Embedchain LLM: Ollama 嵌入式模型: nomic-embed-te ...

[milvus-backup]milvus-standalone跨服务器迁移

博主头像 [milvus-backup] Milvus Standalone 跨服务器迁移完整记录 Milvus-Backup是一个允许用户备份和恢复Milvus数据的工具。Milvus备份过程对Milvus的性能影响可忽略不计。在备份和恢复过程中,Milvus集群仍完全正常运行。一般应用于对象存储的Milv ...

AI 研发共生架构:别再问 AI 会不会替代程序员啦!

博主头像 AI 研发要按认知复杂度分工:高认知放大判断,低认知扩展吞吐。 原文链接:AI 小老六 这几年只要聊到 ​AI Coding​,十有八九会绕回那个老问题:AI 会不会替代研发。听多了以后,我反而觉得这个问题有点耽误事。它太大,也太像一个茶水间话题,落不到每天怎么写代码、怎么交付需求、怎么推工具的具体 ...

聊一聊近年来互联网公司的裁员情况

博主头像 最近总有人在问,互联网是不是不行了。 我一般不直接回答。因为"行不行"是个主观判断,而眼下大家真正想问的,其实是另一个问题:那些曾经被视为"金饭碗"的大厂岗位,怎么就突然不香了? 这个问题,问得比"互联网行不行"实在得多。今天我就试着把它聊透。 一、先看一组让人坐不住的数字 我不太喜欢用"寒冬""洗 ...

高光谱拼接算法(五)SIFT 的变体与发展

博主头像 前两篇完整展开了 SIFT 的算法逻辑,本篇关于其后续变体和这类特征检测和匹配算法的发展,更类似于综述一些,之后再完整展开部分现代算法。 1. SIFT 的局限和改进路线 在前两篇的内容里我们已经知道:从 DoG 尺度空间开始,到关键点检测、亚像素定位、方向分配,再到 128 维描述子的构建和最终匹 ...

AI Agent 替你写代码没问题,但这 3 类后端任务让它当场翻车

博主头像 你有没有听过这个说法:AI 已经能接手 70% 的后端工作了。 说这话的人,大概率没在生产环境里试过一个月。 我在过去一个月里,把日常工作里最典型的 8 类后端任务挨个交给 AI Agent 处理,记录了每一类任务的接手率、节省的时间、还有——它在哪里翻车。结论是:有几类任务,AI 真的比你快;但有 ...

某次热身赛re方向wp

博主头像 base64,只不过换了一个表,没有任何包装,这个总能做了吧 int __fastcall main(int argc, const char **argv, const char **envp) { int flag_len; // [rsp+4h] [rbp-2Ch] char *encoded ...

<1···456···100>