月之暗面又开源了！登顶全球第一，还超了新版DeepSeek-R1
智东西编译 ZeR0编辑 漠影
智东西6月17日报道，今日凌晨，月之暗面推出针对软件工程任务的全新开源代码大模型Kimi-Dev-72B。
该模型在SWE-bench Verified编程基准测试中取得了全球最高开源模型水平，以仅72B的参数量，成绩超过了刚于5月28日发布、参数量多达671B的新版DeepSeek-R1。
Kimi-Dev-72B在AI软件工程能力基准测试SWE-bench Verified上取得了60.4%的高分，创下开源模型的SOTA成绩。
▲开源模型在SWE-bench上的性能已得到验证
▲闭源模型在SWE-bench上的性能已得到验证
通过大规模强化学习进行了优化。它能够自主修补Docker中的真实存储库，并且只有当整个测试套件通过时才会获得奖励。这确保了解决方案的正确性和稳健性，并符合现实世界的开发标准。
Kimi-Dev-72B现已在Hugging Face和GitHub上提供下载和部署。其发布给社区的关键资源包括模型权重、源代码，技术报告也即将推出。
Hugging Face地址：huggingface.co/moonshotai/Kimi-Dev-72B
GitHub地址：github.com/MoonshotAI/Kimi-Dev
月之暗面介绍了Kimi-Dev-72B的设计理念和技术细节，包括BugFixer和 TestWriter的组合、中期训练、强化学习和测试时自我博弈。
1、BugFixer和TestWriter的组合
成功修复错误的补�。╬atch）应能通过准确反映该错误的单元测试。同时，复现错误的成功测试应引发断言错误，并在将正确的错误修复补丁应用到代码库后通过。这致使BugFixer和TestWriter互补，一个足够强大的编程大语言模型应该在这两个方面都表现出色。
BugFixer和TestWriter的工作流程类似：它们都会先找到正确的文件进行编辑，然后编辑正确的代码更新，无论是修复脆弱的实现还是插入unittest函数。因此，对于这两种角色，Kimi-Dev-72B都采用了相同的极简框架，该框架仅包含两个阶段：文件本地化和代码编辑。BugFixer和TestWriter的双重设计奠定了Kimi-Dev-72B的基础。
2、训练中期
为了增强Kimi-Dev-72B作为BugFixer和TestWriter的先验知识，月之暗面使用约1500亿个高质量的真实数据进行中期训练。
以Qwen 2.5-72B基础模型为起点，月之暗面收集了数百万个GitHub问题和 PR提交作为其中期训练数据集。数据配方经过??精心构建，使Kimi-Dev-72B 能够学习人类开发者如何推理GitHub问题、编写代码修复和单元测试。
月之暗面还进行了严格的数据净化，将所有存储库从SWE-bench Verified中剔除。
中期训练充分增强了基础模型对实际Bug修复和单元测试的了解，使该模型成为后续强化学习训练的更佳起点。
3、强化学习
通过适当的中期训练和SFT，Kimi-Dev-72B在文件本地化方面表现出色。因此，其强化学习阶段专注于提升其代码编辑能力。
月之暗面使用了Kimi k1.5中描述的策略优化方法，该方法在推理任务中表现出色。对于SWE-bench Verified，月之暗面重点关注以下三个关键设计：
仅基于结果的奖励。仅使用Docker的最终执行结果（0或1）作为奖励，训练期间不采用任何基于格式或过程的奖励。高效的提示集。过滤掉模型在多样本评估下成功率为零的提示，从而更有效地利用大批量。采用课程学习（curriculum learning）法，引入新的提示，逐步提高任务难度。正例强化。在训练的最后阶段，将之前迭代中最近成功的样本纳入当前批次。这有助于模型增强成功模式并提升性能。
Kimi-Dev-72B通过使用高度并行、强大且高效的内部agent基础设施，从可扩展数量的问题解决任务的训练中受益。
4、测试时自我博弈
经过强化学习后，Kimi-Dev-72B能同时掌握BugFixer和TestWriter的角色。在测试过程中，它会采用自我博弈机制，协调自身Bug修复和测试编写的能力。
▲BugFixer和TestWriter之间的测试时自博弈
每个问题最多可生成40个补丁候选和40个测试候�。ò凑毡曜嘉轪gent设置），可观察到测试时自博弈的扩展效应。
结语：未来迭代侧重深度集成，更无缝地融入工作流程
月之暗面正在积极研究和开发扩展Kimi-Dev-72B功能的方法，并探索更复杂的软件工程任务。
其未来的迭代将侧重于与流行的集成开发环境（IDE）、版本控制系统和CI/CD流水线进行更深入的集成，使Kimi-Dev-72B更加无缝地融入开发者的工作流程。
该公司承诺将持续改进Kimi-Dev-72B，进行严谨的红队测试，并向社区发布更强大的模型。
来源：月之暗面GitHub项目
不风本子被❌到喷水18禁免费看
穿入vr世界成为x领域猎人
校霸的爸爸白皑草大结局免费阅读
2024在线无码精品㊙️入口
OVA今泉家似乎变成了聚集地动漫
玩弄丰满奶水的老师喷流白浆
公啊好痛嗯嗯哦哦哦
秘密㊙️入口永久发布页
成人免费视频🔞国产免费麻豆
绝区零艾莲涩涩被❌
别告诉妈妈正版下载安装
把🍌伸进女人的🍑公交车
宝贝c我想摸你奶让我揉揉
H版巜劳拉的性放荡
俄69女厕偷窥撒尿
女人隐私㊙️免费看拉稀
人獸交片av网站
男人的🍌伸到🍑里面的视频
免费看60分钟黄🟡色视频日本
第五人格裸体❌开腿黄漫宿伞
蒂法3d娇喘张腿迎合
小南被调教到奶水都喷出来
美女🈲🈲流❌❌水
精品🈚国产区一区二
赵露思裸体❌开腿羞羞
动漫女刑警被❌虐乳高潮
18黄宝可梦
捆绑祼体美女
猛男洗澡GayXXXX玩出尿
我的世界无码黄动漫网站
欧美金发美人被黑巨大
扒开内裤羞羞❌网站动漫男男
鸣人和手鞠❌无码
西施被扒个精光只剩胸罩
裸体美女hd㊙️免费专区
珐露珊被寄生虫寄生
MM131杨晨晨被❌喷水
少妇寡妇婬乱精品一极大片
扒开❌狂揉❌羞羞欧美
XXX18HDF
1313久久国产午夜精品理论片
成人扒开🍑伸出🍌❌视频
女仆游戏18㊙️免费游戏水多
国产性猛交❌XX❌乱动漫
玖辛奈被强❌喷水羞羞动漫
和平精英(成人版)
女性自慰A片免费看
裸体人妖无码视频
动作男♂yaoi自慰Gay漫画
全棵男性艺术写真
女性乳液狂飙开襟
韩国电影➕床戏BD高清
瑜伽芭比液体裤
扒开疯狂揉脱脱内内作文
密圈·cc
陈美娇一打七花园大酒店
永久免费🔞🔞🔞未满游戏
美女裸体❌挤奶免费网站
抖音60部走光门视频无码
日韩女人的大荫毛
少年白袜自慰出精Gay网站
咒回宿虎同人❌18禁本子
用女人内裤自慰AV片子
日本巨茎胖熊GV网站anime
Chin60老太性饥渴
春丽裸体被爆❌羞羞漫画
七龙珠全彩h龟波本子
纲手❌❌❌裸体拔萝卜网页版
学生隐私秘撒尿偷拍
色啪啪97一区二区三区
脱👙让摸🐻日本
N号房软件免费安装
www.17.com嫩草影院
男男GayGays✅打屁股亚洲
撒尿间谍第12集更新时间
18性XXXXX性猛交
Furry yiff ankha
女教师大荫蒂被男人添
pooping19🚽VK
секс少12女видео
道具自慰(H)双性
网友评论 查看所有评论>>
