大模型推理指南：使用 vLLM 实现高效推理
本文主要分享如何使用 vLLM 实现大模型推理服务。 1. 概述 大模型推理有多种方式比如 最基础的 HuggingFace Transformers TGI vLLM Triton + TensorRT-LLM ... 其中，热度最高的应该就是 vLLM，性能好的同时使用也非常简单，本文就分享一下 ...
C# 开发的环境监测上位机应用
前言 在工业和科研领域，环境监测系统的重要性日益凸显。上位机软件作为环境监测系统的关键组成部分，负责数据采集、处理和显示，对提高监测效率和准确性起着至关重要的作用。 本文将向大家介绍一款用 C# 开发的环境监测上位机软件。 软件介绍 本上位机软件为广西北海渔场监控项目定制的监控上位机软件。 开发环境 ...
从零开始学机器学习——入门NLP
首先给大家介绍一个很好用的学习地址：https://cloudstudio.net/columns 今天我们将深入探讨自然语言处理（Natural Language Processing, NLP）这一领域。自然语言处理是人工智能的一个重要子领域，主要关注如何使机器理解和处理人类的语言，从而能够执行 ...
鸿蒙无权限实现图片选择拍照和录视频
在鸿蒙开发中，系统提供了PhotoViewPicker选择图片，cameraPicker拍照和录视频，此方式能够达到无需向用户申请权限就能选图片、拍照和录视频。除了用户操作的选图、拍照和录视频，其它时间APP无权获取相册图片，无权调用相机，对于用户来说，使用相册和相机都是很明确的时机，安全性非常高。 ...
nvidia公司的机器人仿真环境的历史发展介绍（Isaac-Gym、Isaac-Sim）
title: nvidia公司的机器人仿真环境的历史发展介绍（Isaac-Gym、Isaac-Sim） description: #多个标签请使用英文逗号分隔或使用数组语法 tags: 杂谈 #多个分类请使用英文逗号分隔或使用数组语法，暂不支持多级分类 相关： NVIDIA机器人仿真项目 —— Is ...
异步编程在ArkTS中具体怎么实现？
大家好，我是 V 哥，很好奇，在ArkTS中实现异步编程是怎样的，今天的内容来聊聊这个问题，总结了一些学习笔记，分享给大家，在 ArkTS中实现异步编程主要可以通过以下几种方式： 1. 使用async和await关键字 async函数是一种特殊的函数，它能以同步代码的方式编写异步代码。在async函 ...
盘点Vue3 watch的一些关键时刻能够大显身手的功能
前言 watch这个API大家应该都不陌生，在Vue3版本中给watch增加不少有用的功能，比如deep选项支持传入数字、pause、resume、stop方法、once选项、onCleanup函数。这些功能大家平时都不怎么用得上，但是在一些特定的场景中，他们能够起大作用，这篇文章欧阳就来带你盘点一 ...
Jax中关于NonZero的使用
在使用Jax的过程中，有时候会遇到函数输出是一个动态的Shape，这种情况下我们很难利用到Jax的即时编译的功能，不能使得性能最大化。这也是使用Tensor数据结构来计算的一个特点，有好有坏。本文介绍了Jax的另外一个函数NonZero，可以使得我们能够编译那些动态Shape输出的函数。 ...
Windows 杜比OEM授权
我们中高端的windows笔记本上都可以看到Dolby音效，TV电视上也有支持Dolby显示选项。 杜比主要有几类：Dolby全景声（也叫Atmos）、Dolby视界（Vision）、杜比影院（Dolby Cinema） 作为OEM厂商，如何获取杜比授权呢？可以看下Dolby官网的申请流程：如何获取 ...
19、解析2_1（链、chunk、锁）
解析 shared pool 图解： library cache里面，暂时可以认为存储着： 1、SQL以及对应的执行计划（所占空间比较小）； 2、存储过程、函数、触发器、包，它们编译后的对象（所占空间往往比较大，特别是包所占的比较大） 对于shared pool管理和研究的时候，row cache一 ...
从2s优化到0.1s
前言 分类树查询功能，在各个业务系统中可以说随处可见，特别是在电商系统中。 但就是这样一个简单的分类树查询功能，我们却优化了5次。 到底是怎么回事呢？ 背景 我们的网站使用了SpringBoot推荐的模板引擎：Thymeleaf，进行动态渲染。 它是一个XML/XHTML/HTML5模板引擎，可用于 ...
OSG开发笔记（三十三）：同时观察物体不同角度的多视图从相机技术
前言 前面的相机hud可以单独显示图形，继续深入研究相机hud，技术就是子视图了，实现该功能的直接技术是从相机技术。 本篇描述osg从相机技术 Demo 相机视口的关键调用 是否清除颜色深度缓存（清除） pCamera->setClearMask(GL_DEPTH_BUFFER_BIT); 如果不清 ...
鸿蒙NEXT开发案例：简体繁体转换器
【引言】 简体繁体转换器是一个实用的小工具，它可以帮助用户轻松地在简体中文和繁体中文之间进行转换。对于需要频繁处理两岸三地文档的用户来说，这样的工具无疑是提高工作效率的好帮手。本案例将展示如何利用鸿蒙NEXT提供的组件和服务，结合第三方库@nutpi/chinese_transverter，来实现这 ...
Open-RAG：将开源LLM模型集成为高效RAG模型 | ENMLP'24
本文是对公开论文的核心提炼，旨在进行学术交流。如有任何侵权问题，请及时联系号主以便删除。 来源：晓飞的算法工程笔记 公众号，转载请注明出处 论文: Open-RAG: Enhanced Retrieval-Augmented Reasoning with Open-Source Large Lang ...
推荐一些值得学习的开源项目和框架
今天收到球友的问题，让推荐一些值得看的开源项目，觉得 netty 这些太复杂了不太好上手。 确实如此，我们日常常用的 Spring、Netty 确实由于发展了多年，看起来比较头大。 下面我来推荐一些我看过同时觉得不错的项目(几乎都是我参与过的），由易到难，其中也会包含 Java 和 Go 的项目，包 ...
万字长文带你深入Redis底层数据结构
Redis数据库的数据结构 Redis 的键值对中的 key 就是字符串对象，而 value 就是指Redis的数据类型，可以是String，也可以是List、Hash、Set、 Zset 的数据类型。 其实是Redis 底层使用了一个全局哈希表保存所有键值对，哈希表的最大好处就是 O(1) 的时间 ...
.NET9 - 新功能体验（一）
.NET9发布，包含数千项改进。新功能包括命令行安装、C#13新转义序列\e、隐式索引访问、params参数增强、新锁类型System.Threading.Lock及生成UUIDv7。示例源码已上传至代码库。 ...
敏捷开发：Scrum 中的 Product Backlog 介绍
Product Backlog 产品待办列表 在计划开发产品功能时，都希望产品功能上线后，用户能够喜欢并经常使用。 因此在开发产品新功能时，就要衡量哪些产品需求是对用户最有价值，这是最应该思考的问题。 然后把这些有价值的需求集合放在一起。当然，也有与需求实现相关的其它工作项。 在 Scrum 框架中 ...
