Insight Daily
Aitrainee | "大众号:AI学习生Hi,这里是Aitrainee,欢迎阅读本期新文章。
最近,Qwen 2.5已经发布了,我已经写了一篇关于他的文章,但我们还没有在真正的编程环境中测试它。以是本日,我将向你展示如何将Qwen 2.5与 Aider、Claude Dev、Continue 一起利用,并且我们将进行一些编程测试,看看它的表现如何。
在我们开始之前,我们须要决定利用什么模型,由于有很多可用的模型。
最好的选择是Qwen 2.5的72B模型,由于这是可用的最大模型,击败了llama3.1 405B,以是我们可以把这个模型作为紧张的模型,与Claude Dev、 Continue 和Aider一起利用。
除此之外,对付大略的谈天和代码交互,我们可以本地利用7B编码器模型,而对付自动补全功能,我们也可以利用新的1.5B编码器模型。
不过,我并不推举这样做, 由于SuperMaven可以免费供应自动补全做事,而且速率也非常快,常日效果更好。
VSCode+Aider+Supermaven:打造免费开源的顶级AI开拓环境,别再为Cursor费钱了!
不过,如果你想试试,我会向你展示如何配置,并且我们也会看看Qwen 2.5的自动补全能力。
我们可以轻松地在本地托管7B和1.5B模型,但我们无法在本地托管72B模型,因此我们须要选择一个供应商。有多个供应商供应免费积分和利用权限, 例如Together AI,但他们还没有添加新的Qwen模型。
因此,我将利用Hyperbolic,它已经供应了新的72B模型,并且供应了10美元的免费积分。
▲ https://app.hyperbolic.xyz/models
只管推理速率较慢,由于它利用的是BF16变体(即未量化的模型),这常日能供应更好的结果。无论如何,我们将利用它,并且你也可以免费跟随进行操作。
让我们开始吧!
首先,从Continue开始 。前往VS Code,在扩展中搜索Continue,找到后安装它。安装完成后,我们须要进行设置。
在此之前,先前往Hyperbolic创建一个API密钥。复制并妥善保存,由于稍后我们会用到它。
完成后,回到Continue Dev,点击“添加”按钮,然后选择OpenAI兼容选项。
输入Hyperbolic的基本URL,
随便选择一个模型添加,
但我们须要Qwen模型,还须要输入API密钥。
为此,点击“设置”选项,打开此文件,在这里输入API密钥,并将模型名称变动为Qwen 2.5。
完成后,保存设置,现在我们相称于在 Continue中添加了一个
Qwe n 2.5 72B的根本模型可用于和 Continue进行谈天、天生代码、运用变动和重构代码等待操作。当然 Continue的代码补全可以设立单独的模型, 我推举利用SuperMaven,
由于它免费且快速,但如果你想让补全功能在本地运行,我们可以利用新的Qwen 2.5 coder:1.5B模型来配置,教你如下操作:
Ollama拉取qwen 2.5:1.5B
你可以看到它运行得非常好,效果也不错。这是一个基本的Copilot设置。你可以利用更大的72B模型或7B编码器模型进行谈天,并利用1.5B模型进行自动补全。
上面是Continue中的配置,现在先容Claude Dev中如何运行qwen 2.5:72B(这两个插件常常协作利用)
现在,我将利用Hyperbolic端点,以是选择OpenAI兼容选项,但你也可以选择ollama本地选项。
选择API端点、API密钥和模型名称。完成后,点击“完成”按钮并保存。现在我们可以开始利用它了。
让我通过创建一个大略的Todo运用来展示。我们让它天生一个大略的HTML、CSS和JS的Todo运用程序。你可以看到它正在天生代码,现在我们等待一下。
天生的页面运行得很好。这很棒,虽然不如Claude,但可用,而且Hyperbolic有免费的积分,以是你可以免费发送大量要求。
现在我们先容第三个工具: Aider( Aider+ Claude Dev+ Continue这三个常常协作利用 )。首先运行命令`pip install aider-chat`进行安装。
完成后,我们可以利用它了,不过还须要配置Hyperbolic。通过添加环境变量来变动OpenAI的基本URL,并添加API密钥作为另一个环境变量。统统设置好后,
利用这些参数启动Aider,它将与Hyperbolic一起运行。如果你想利用本地模型,启动时指定模型名称即可。
现在让我们哀求它制作一个大略的扫雷游戏,利用HTML、CSS和JS。发送要求后,它开始事情了。稍等一下。
让我们运行一下。好,游戏运行正常,效果很好。
所有的工具在Qwen上都运行得不错,基本没有问题。虽然不如Claude那样功能全面,但这已经很好了。你可以利用它与Aider和Claude Dev天生一些非常不错的东西。而且,通过Hyperbolic访问是免费的。
总的来说,这是一个很棒的设置。你可以试试,让我知道是否对你有效。非常酷!
希望这篇文章对你有帮助,感谢阅读!
如果你喜好这系列文章请以 点赞 / 分享 / 在看 的办法见告我,以便我用来评估创作方向。
往期推举
快速打造AI运用!
Taipy:只用Python,轻松构建生产级AI Web运用,功能强大还大略!
Qwen2.5:13个新模型来袭!
开源通用、编码、数学模型全解读,72B超越Llama 405B - 本地安装测试
g1:o1推理链开源实现,事理竟如此大略!
办理 60-80% 的困扰LLM的大略逻辑问题
Sentient Agent:让 AI 掌握你的浏览器,一键完成任务!
三行代码自动掌握浏览器(填表、查股票、播放视频)
Llama 3.1 70B AQLM-PV版发布!
大模型压缩后可在24GB显存GPU受骗地运行!
!
Claude Dev 升级:全面支持 o1 & Gemini,升级你的开拓体验!
Claude Dev(已升级):Ollama、Groq全面支持!
轻松集成AI事情流
参考链接:[1] https://app.hyperbolic.xyz/[2] https://www.youtube.com/watch?v=uu-oag2IkvQx[3] https://supermaven.com/
知音难求,自我修炼亦艰
捉住前沿技能的机遇,与我们一起成为创新的超级个体
(把握AIGC时期的个人力量)
点这里 关注我,记得标星哦~
一键三连「分享」、「点赞」和「在看」
科技前沿进展日日相见 ~
修正于