面向程序员的编程大模型AI

前言

AI模型发展迅速, 一年前还只有OpenAI可以选择, 但才一年多时间, 不仅商业上的AI模型层出不穷, 开源的AI模型也紧追不舍。

在这些AI模型中, 相当一部分是通用型的AI模型, 比如OpenAI的ChatGPT, Google的Gemini, 国内阿里的通义千问, YI等, 都属于通用性的AI大模型。

而与之相对应的, 则是一些专门用途的AI模型, 比如我今天要说的编程方面的. 这些专用型AI在特定方面的能力比通用性AI更加强大。
在这里插入图片描述

专用型AI

不管什么AI, 一个重要的核心就是其训练的数据. 通用型AI的训练数据可想而知非常广, 不限定任何主题与范围, 所以它能响应几乎任何问题与聊天。

而专用型AI则不一样, 专用型AI的训练数据主要是特定行业或领域的数据, 这使得这一类的AI在响应特定方面的问题时更具优势。

专用型AI其实就是通用型AI基础上, 经过特定行业或数据的训练而形成的。

当然, 做为程序员群体, 我当然关注的是编程类的AI模型, 这也是今天我要说的。

编程类大模型AI

总体而言, 编程类大模型AI的特点是:

1、基于大量开源代码来训练

如前所示, AI模型的一个核心就是使用大量的数据对它进行训练. 而编程类大模型的训练数据大多来源开源代码. 开源代码的可公开访问性, 是编程类大模型的主要数据来源

2、支持主流语言

一个编程类大模型AI支持哪些语言, 当然是由其训练数据中包含哪些语言或框架决定. 可想而知, 开源代码中的主流编程语言或框架,支持就会更好.

当然, 那些小众的, 开源代码占有量不多的, 支持就会差.

3、专有与开源齐头并进

编程类大模型, 专有及开源模型的发展都非常迅速, 都有很好的选择.

专有类

专有类的大模型, 是指没有开源的一些大模型. 通常你可以购买它们的服务来使用这些大模型, 不需要自己部署. 考虑到部署大模型需要非常高的硬件资源, 对于我们大多数程序员来说, 购买专有的这些服务是更可行的方式.

1、Github Copilot

程序员都知道, 说起开源, 没有比Github更有名的代码托管仓库了。Github Copilot是一个由微软, Github以及OpenAI合作开发的专门面向编程的AI工具。早在2021年10月起, Github就开始使用开源的代码来训练Github Copilot, 甚至还遭到很多开源开发者抗议. 但这并没有影响Github Copilot的发展。Github Copilot可以说是编程类大模型中最早, 也是表现最为优秀的一个. 另外, Github Copilot支持JetBrains IDEs , VS Code , Neovim等主流编程IDE.
2、Github Copilot的核心功能包括:

代码补全: 根据上下文及你的要求, 补全代码
码检查: 帮助你检查你的代码的问题
帮助你做代码风格检查, 代码重构, 调试等

做为一个程序员, 如果你不想错过AI时代, 使用Github Copilot这一类的AI工具是必不可少的. 对个人使用, Github Copilot一个月10美元。

通义灵码

Github其实在国内已经被限制访问, 虽然我认为做为程序员, 这是你一定要解决的. 但如果你在寻找国内替代方案, 当然有。
阿里有自己的大模型通义千问, 甚至还开源了QWen大模型. 做为国内前沿的科技公司, 阿里也推出了通义灵码, 也就是类似Github Copilot的AI工具。功能上, 通义灵码与Github Copilot重叠性非常高, 它同样支持代码补全, 代码生成, 测试或注释生成等, 并且也支持主流的编程IDE.

更关键的是, 通义灵码针对个人免费. 意味着你不需要支付每个月10美元的成本就能使用AI工具.
虽然可能比Github Copilot稍差一些, 但从国内替代角度来选择, 通义灵码是绝佳的替代AI.

CodeWhisperer

Amazon出品的编程AI工具. 对个人免费. 前提是你得注册一个Amazon的帐号(非中国), 并且绑定支付.

但是与Github Copilot不同的是, CodeWhisperer更针对Amazon 云服务有关的编程, 如果你编程主要是使用的Amazon的各种云服务或SDK, 那CodeWhisperer是你约会的AI助手.

开源类

说完专有类的, 接下来我就说下编程类大模型开源类的几个优秀选择.

需要申明的是, 虽然程序员都很喜欢开源, 但我想说的是, 开源类的AI模型并不适合你. 因为部署大模型需要资源非常高, 而且国内面临买不到好显卡的困境.

所以, 对于个人程序员来说, 使用上面说的那些专有类AI模型是最好的选择. 但做为程序员, 我们也需要了解开源有哪些选择

Code Lllama

说起开源大模型, 没有比Meta公司的Llama 2影响力更大的模型了. 其实相当一部分开源模型都是基于Llama 2再次重新训练出来, 又改个名来的.

同样, Meta的Llama 2是通用型的AI模型, 意味着它并非面向特定行业或领域.

幸运的是, Meta公司基于Llama 2, 训练出了Code Lllama, 也就是面向编程的开源大模型.

Code Lllama同样分为三个子模型, 分别是:

CodeLlama - 70B
CodeLlama - 70B - Python: 特别面向Python语言的子模型
Code Llama - 70B - Instruct 70B: 经过微调的可以理解自然语言的子模型

当然, Code Llama是开源的, 但如果你想真使用上它, 在你有足够资源的前提下, 你得部署它, 还要寻找支持Code Llam2的IDE插件等.

starcoder2

CodeLlama 70B是700亿参数, 对GPU内存的要求非常高, 这个硬件要求, 一般人或公司整不起.

如果真想部署一个本地的编程大模型, 可能starCoder2是更具可行性的选择.

starcoder2的bigcode训练的开源大模型, 它包括:

starcoder2 - 3B
starcoder2 -7B
starcoder2 -15B
可以看见, 它的参数量远小于CodeLlama的70B , 最大也才15B. 最小还有个3B版本.

如果你是MacBook M1及以上芯片的电脑, 你可以在你本地用Ollama把starcoder2给跑起来. 至少7B这个参数量都可以流畅的运行.

所以, 相对而言, starCode是你想部署本地或想尝试学习部署一个本地编程类AI的最佳选择.

最后

也许很多程序员担心, AI工具未来会不会替代程序员的工作.

从我使用的一些经验来看, 现在这一类的编程类AI大模型, 确实能根据需求生成各种代码, 很多代码质量也比较高. 但也仅此为止, 它现在承担的角色更多的是你的助手, 能节省你相当一部分时间.

不管如何, 做为程序员, 你应当拥抱AI. 这是不可逆转的趋势.

我的建议是, 至少从通义灵码开始使用AI助手, 有条件的可以尝试Github Copilot, 在你的编程过程中, 慢慢与AI工具磨合, 让它成为你的约佳助手.

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

在这里插入图片描述

第一阶段（10天）：初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，可以在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。

大模型 AI 能干什么？
大模型是怎样获得「智能」的？
用好 AI 的核心心法
大模型应用业务架构
大模型应用技术架构
代码示例：向 GPT-3.5 灌入新知识
提示工程的意义和核心思想
Prompt 典型构成
指令调优方法论
思维链和思维树
Prompt 攻击和防范
…

第二阶段（30天）：高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习，学会构造私有知识库，扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架，抓住最新的技术进展，适合 Python 和 JavaScript 程序员。

为什么要做 RAG
搭建一个简单的 ChatPDF
检索的基础概念
什么是向量表示（Embeddings）
向量数据库与向量检索
基于向量检索的 RAG
搭建 RAG 系统的扩展知识
混合检索与 RAG-Fusion 简介
向量模型本地部署
…

第三阶段（30天）：模型训练

恭喜你，如果学到这里，你基本可以找到一份大模型 AI相关的工作，自己也能训练 GPT 了！通过微调，训练自己的垂直大模型，能独立训练开源多模态大模型，掌握更多技术方案。

到此为止，大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗？

为什么要做 RAG
什么是模型
什么是模型训练
求解器 & 损失函数简介
小实验2：手写一个简单的神经网络并训练它
什么是训练/预训练/微调/轻量化微调
Transformer结构简介
轻量化微调
实验数据集的构建
…

第四阶段（20天）：商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知，可以在云端和本地等多种环境下部署大模型，找到适合自己的项目/创业方向，做一名被 AI 武装的产品经理。

硬件选型
带你了解全球大模型
使用国产大模型服务
搭建 OpenAI 代理
热身：基于阿里云 PAI 部署 Stable Diffusion
在本地计算机运行大模型
大模型的私有化部署
基于 vLLM 部署大模型
案例：如何优雅地在阿里云私有部署开源大模型
部署一套开源 LLM 项目
内容安全
互联网信息服务算法备案
…

学习是一个过程，只要学习就会有挑战。天道酬勤，你越努力，就会成为越优秀的自己。

如果你能在15天内完成所有的任务，那你堪称天才。然而，如果你能完成 60-70% 的内容，你就已经开始具备成为一名大模型 AI 的正确特征了。