阿里巴巴的第二代通义千问可能即将发布：Qwen2相关信息已经提交HuggingFace官方的transformers库

本文来自DataLearnerAI官方网站：阿里巴巴的第二代通义千问可能即将发布：Qwen2相关信息已经提交HuggingFace官方的transformers库 | 数据学习者官方网站(Datale

阿里云：通义千问Qwen2 正式发布

Qwen2 是对前一代 Qwen1.5 全面升级，它提供了多种尺寸的模型，支持更多语言，并在代码理解、数学解题等方面表现更加出色。 千问 2 系列模型基本能够超越同等规模的最优开源模型甚至更大规模的

Meta：LLM人机协作数据标注框架MILO

📖标题：Model-in-the-Loop (MILO): Accelerating Multimodal AI Data Annotation with LLMs 🌐来源：arXiv, 2409.1

DeepSeek：LLM稀疏注意力架构NSA

📖标题：Native Sparse Attention: Hardware-Aligned and Natively Trainable Sparse Attention 🌐来源：arXiv, 250

【报错】训练参数不更新

待训练的参数只有某一维度更新，其余维度均不更新，debug看grad，发现其他维度的梯度全是0。有两种可能，要么梯度消失，这种通过调参可以解决；要么就是其他维度根本不参与loss的计算。 我一开始以

DeepSeek：LLM在MoE训练中的无损平衡

📖标题：AUXILIARY-LOSS-FREE LOAD BALANCING STRAT-EGY FOR MIXTURE-OF-EXPERTS 🌐来源：arXiv, 2408.15664 摘要 🔸

set&&mutiset

视频和之前一样，bilibili上搜c++stl就行 #include<iostream> using namespace std; //#include<pair>

通义千问 2，大模型应用开发时的新选择

我在进行 AI 相关的开发中，最常用的模型是通义千问。本地开发的时候，使用 Ollama 来运行 qwen 模型。集成测试和线上环境，使用阿里云模型服务灵积上的通义千问模型。使用阿里云的好处是：模型服

腾讯：LLM结合快慢思考求解复杂问题

📖标题：HDFlow: Enhancing LLM Complex Problem-Solving with Hybrid Thinking and Dynamic Workflows 🌐来源：arX

阿里通义千问，彻底爆了！（本地部署+实测）

点击“终码一生”，关注，置顶公众号 每日技术干货，第一时间送达！ 问大家一个问题：你是否想过在自己的电脑上部署一套大模型？并用自己的知识库训练他？ 阿里通义千问今天发布了最新的开源大模型系列

开源超闭源！通义千问Qwen2发布即爆火，网友：GPT-4o危

鱼羊 发自 凹非寺量子位 | 公众号 QbitAI 开源大模型全球格局，一夜再变。 这不，全新开源大模型亮相，性能全面超越开源标杆Llama 3。王座易主了。不是“媲美”、不是“追上”，是全面

容量规划

当我们在做大促，类似于双十一的活动时候，老板就会跑过来问我们这些问题 1.线上服务能承受多大的访问量 2.单台服务器能承受多大的访问量 3.需要加机器吗？需要加多少台机器 这个时候，就体现出容量规划

用户中心系统设计

背景 一般来说大型互联网公司会把授权和用户信息的逻辑放到一个应用中，而这个应用我们统一称为用户中心。 用户中心不关心具体的业务逻辑，只处理用户信息相关的管理及授权登录。当第三方应用需要登录的时候，会把

架构设计思路

前言 我们一般在做架构设计的时候，会经历过三个阶段：需求分析、概要设计和详细设计。 需求分析阶段: 主要梳理所有用例（Use case）和场景，并抽象出面向系统的用户与角色，梳理出需求提供哪些功能与

架构设计思路

前言 我们一般在做架构设计的时候，会经历过三个阶段：需求分析、概要设计和详细设计。 需求分析阶段: 主要梳理所有用例（Use case）和场景，并抽象出面向系统的用户与角色，梳理出需求提供哪些功能与