面向程序员的编程大模型AI

AI模型发展迅速, 一年前还只有OpenAI可以选择, 但才一年多时间, 不仅商业上的AI模型层出不穷, 开源的AI模型也紧追不舍.

在这些AI模型中, 相当一部分是通用型的AI模型, 比如OpenAI的ChatGPT, Google的Gemini, 国内阿里的通义千问, YI等, 都属于通用性的AI大模型.

而与之相对应的, 则是一些专门用途的AI模型, 比如我今天要说的编程方面的. 这些专用型AI在特定方面的能力比通用性AI更加强大.

专用型AI

不管什么AI, 一个重要的核心就是其训练的数据. 通用型AI的训练数据可想而知非常广, 不限定任何主题与范围, 所以它能响应几乎任何问题与聊天.

而专用型AI则不一样, 专用型AI的训练数据主要是特定行业或领域的数据, 这使得这一类的AI在响应特定方面的问题时更具优势.

专用型AI其实就是通用型AI基础上, 经过特定行业或数据的训练而形成的.

当然, 做为程序员群体, 我当然关注的是编程类的AI模型, 这也是今天我要说的.

编程类大模型AI

总体而言, 编程类大模型AI的特点是:

基于大量开源代码来训练

如前所示, AI模型的一个核心就是使用大量的数据对它进行训练. 而编程类大模型的训练数据大多来源开源代码. 开源代码的可公开访问性, 是编程类大模型的主要数据来源

支持主流语言

一个编程类大模型AI支持哪些语言, 当然是由其训练数据中包含哪些语言或框架决定. 可想而知, 开源代码中的主流编程语言或框架,支持就会更好.

当然, 那些小众的, 开源代码占有量不多的, 支持就会差.

专有与开源齐头并进

编程类大模型, 专有及开源模型的发展都非常迅速, 都有很好的选择.

专有类

专有类的大模型, 是指没有开源的一些大模型. 通常你可以购买它们的服务来使用这些大模型, 不需要自己部署. 考虑到部署大模型需要非常高的硬件资源, 对于我们大多数程序员来说, 购买专有的这些服务是更可行的方式.

Github Copilot

程序员都知道, 说起开源, 没有比Github更有名的代码托管仓库了.

Github Copilot是一个由微软, Github以及OpenAI合作开发的专门面向编程的AI工具.

早在2021年10月起, Github就开始使用开源的代码来训练Github Copilot, 甚至还遭到很多开源开发者抗议. 但这并没有影响Github Copilot的发展.

Github Copilot可以说是编程类大模型中最早, 也是表现最为优秀的一个. 另外, Github Copilot支持JetBrains IDEs , VS Code , Neovim等主流编程IDE.

Github Copilot的核心功能包括:

• 代码补全: 根据上下文及你的要求, 补全代码
• 生成代码片段: 帮你生成测试代码或文档注释等
• 代码检查: 帮助你检查你的代码的问题
• 帮助你做代码风格检查, 代码重构, 调试等

做为一个程序员, 如果你不想错过AI时代, 使用Github Copilot这一类的AI工具是必不可少的. 对个人使用, Github Copilot一个月10美元.

通义灵码

Github其实在国内已经被限制访问, 虽然我认为做为程序员, 这是你一定要解决的. 但如果你在寻找国内替代方案, 当然有.

阿里有自己的大模型通义千问, 甚至还开源了QWen大模型. 做为国内前沿的科技公司, 阿里也推出了通义灵码, 也就是类似Github Copilot的AI工具.

功能上, 通义灵码与Github Copilot重叠性非常高, 它同样支持代码补全, 代码生成, 测试或注释生成等, 并且也支持主流的编程IDE.

更关键的是, 通义灵码针对个人免费. 意味着你不需要支付每个月10美元的成本就能使用AI工具.

虽然可能比Github Copilot稍差一些, 但从国内替代角度来选择, 通义灵码是绝佳的替代AI.

CodeWhisperer

Amazon出品的编程AI工具. 对个人免费. 前提是你得注册一个Amazon的帐号(非中国), 并且绑定支付.

但是与Github Copilot不同的是, CodeWhisperer更针对Amazon 云服务有关的编程, 如果你编程主要是使用的Amazon的各种云服务或SDK, 那CodeWhisperer是你约会的AI助手.

开源类

说完专有类的, 接下来我就说下编程类大模型开源类的几个优秀选择.

需要申明的是, 虽然程序员都很喜欢开源, 但我想说的是, 开源类的AI模型并不适合你. 因为部署大模型需要资源非常高, 而且国内面临买不到好显卡的困境.

所以, 对于个人程序员来说, 使用上面说的那些专有类AI模型是最好的选择. 但做为程序员, 我们也需要了解开源有哪些选择

Code Lllama

说起开源大模型, 没有比Meta公司的Llama 2影响力更大的模型了. 其实相当一部分开源模型都是基于Llama 2再次重新训练出来, 又改个名来的.

同样, Meta的Llama 2是通用型的AI模型, 意味着它并非面向特定行业或领域.

幸运的是, Meta公司基于Llama 2, 训练出了Code Lllama, 也就是面向编程的开源大模型.

Code Lllama同样分为三个子模型, 分别是:

• CodeLlama - 70B
• CodeLlama - 70B - Python: 特别面向Python语言的子模型
• Code Llama - 70B - Instruct 70B: 经过微调的可以理解自然语言的子模型

当然, Code Llama是开源的, 但如果你想真使用上它, 在你有足够资源的前提下, 你得部署它, 还要寻找支持Code Llam2的IDE插件等.

starcoder2

CodeLlama 70B是700亿参数, 对GPU内存的要求非常高, 这个硬件要求, 一般人或公司整不起.

如果真想部署一个本地的编程大模型, 可能starCoder2是更具可行性的选择.

starcoder2的bigcode训练的开源大模型, 它包括:

• starcoder2 - 3B
• starcoder2 -7B
• starcoder2 -15B

可以看见, 它的参数量远小于CodeLlama的70B , 最大也才15B. 最小还有个3B版本.

如果你是MacBook M1及以上芯片的电脑, 你可以在你本地用Ollama把starcoder2给跑起来. 至少7B这个参数量都可以流畅的运行.

所以, 相对而言, starCode是你想部署本地或想尝试学习部署一个本地编程类AI的最佳选择.

最后

也许很多程序员担心, AI工具未来会不会替代程序员的工作.

从我使用的一些经验来看, 现在这一类的编程类AI大模型, 确实能根据需求生成各种代码, 很多代码质量也比较高. 但也仅此为止, 它现在承担的角色更多的是你的助手, 能节省你相当一部分时间.

不管如何, 做为程序员, 你应当拥抱AI. 这是不可逆转的趋势.

我的建议是, 至少从通义灵码开始使用AI助手, 有条件的可以尝试Github Copilot, 在你的编程过程中, 慢慢与AI工具磨合, 让它成为你的约佳助手.