DeepSeek R2的前奏？这是劳动节，DeepSeek的新消息并没有停止。几天前，关于DeepSeek-R2出现的谣言到处都是。 DeepSeek有新的动作，但是每个人都没有等待R2，但是正在等待DeepSeek-Prover-V2，这当然是开放资源。 Prover-V2在定理证明轨道上实现了该行业的最佳性能，在MiniF2F试验中，通过AIME 24和25的分数达到了88.9％。在4月30日的夜晚，DeepSeek-Prover-V2的一些技术详细信息在与学习学习学习学习的平台上更新了DeepSeek-Prover-V2的一些技术细节。此时，DeepSeek团队发布了两个版本的Deviceek-Prover-V2模型，分别为7B和671B参数大小。在此MGIN中，DeepSeek-prover-V2-671b在DeepSeek-V3碱基上进行了训练，而DeepSeek-Prover-V2-7B构建在DeepSeek-Prover-V1.5基础上，并支持孔戴的长度XT扩展高达32K令牌。 DeepSeek- Rover-V2-7B链接：https：//huggingface.co/deceptseek-i/deepseek-i/deepseek-prover-v2-7bdeepseek-prover-671b链接：https：//hugging.co.co/deepseek-co/deepseek-ai/deepseek-ai/deepseek-prover-671------它是专门为精益4（数学AI编程语言）设计的大型语言模型的开源，重点是正式的定理证明。它的启动数据是通过在训练的冷阶段通过证明定理验证V3-V3-V3收集的，首先是通过激励DeepSeek-V3通过一系列可以解决的子目标来打破复杂问题的问题。每个子用药都可以解决，并将这些证明整合到“心灵链”中。并结合逐步的DeepSeek-V3的分步，以为增强研究设置初始培训数据。这种方法的效率是，它可以将不变和正式的数学推理与单个模型相结合，这使模型可以思考灵活的li一个人，像一台机器一样紧紧地争论，该机器真正意识到了数学推理的结合整合。如何专门实现这一目标？ DeepSeek还发布了Rover-V2的Deptseek-Pteknical报告，让我们看看它说的内容：通过递归证明搜索开发冷启动的急诊数据的技术概述。为了产生数据集的冷启动，Deviceek团队设计了定理定理的简洁而有效的过程，使用DeepSeek-V3作为统一工具，该工具既负责子目标的拆卸和正式的理解措施表达。具体的过程是指导DeepSeek-V3通过信号中的高级证明草图拆卸定理，在此过程中，这些步骤是形式的形式语言，形成了一系列具有清晰结构和严格逻辑的子目标。 DeepSeek-Prover-V2使用冷启动数据收集过程的过程。减少计算开销始终是StrenDeptseek Group的GTH，这次也不例外。他们使用较小的7b模型来完成每个子用药的证明搜索，从而减轻了计算负担。当成功解决复杂问题的所有步骤时，它们逐渐证明了完全的形式化和连续的证据，即在DeepSeek-V3产生的思维链中，并将其与理解数据的寒冷开始相结合。如何将分解的子用途转换为一系列引理陈述的实例。根据合成冷启动数据进行研究，Deptseek团队选择了定理的许多具有挑战性的问题。 7b将证明，即使模型无法端对端解决它们，它也可以理解一系列可以拆卸的子目标。结合所有子目标的证明可以创建原始问题的完整正式证明。然后将此正式的证据附在DeepSeek-V3产生的思想链上，该链显示了相应的LEMM过程拆卸，从而形成批准数据，将非正式推理与随后的正式过程结合在一起。在调整了证明模型的合成冷启动数据之后，研究团队甚至引入了增强阶段，以进一步提高模型改变正式证明的非正式推理的能力。在训练过程中，观察到识别模型的一般目的，并且采用“正确/错误”二进制反馈作为主要奖励信号。 DeepSeek-Prover-V2-671B的最终模型在MiniF2F检验中达到了神经定理任务中最先进的性能，并在Putnammench数据集中成功解决了658个问题中的49个问题中的49个。 Minif2F数据集中DeepSeek-Prover-V2生成的所有证明都将其分类为zip文件，并打开以下载。下载链接：https：//github.com/deepseek-i/deepseek-prover-v2/blob/main/minif2f-colutions.zip培训详细信息，实验性结果导致DeepSeek-Prover-V2经历了两个培训阶段，此过程建立了两种助手的证明模式：1它是针对快速生成正式证明代码的快速生成的优化，重点是在没有明确的理性步骤的情况下制定简洁的证明。 2。高思料的模式（COT）模式：此模式系统地解释了中间的有理措施，强调透明度和逻辑发展，然后开发最终的正式证明。与DeepSeek-Prover-V1.5结合使用，这一代的两种模式由两个不同的引导信号控制。在第一阶段，在课程研究框架内加强了专门的复发坑，以训练非COT验证模型，而合成难题的验证已通过基于子目标的递归证明。选择非COT生成模式以加快培训过程和数据收集。在此基础上，第二阶段使用冷启动链思维（COT）DATA形成，通过合并复杂的Dept-V3-V3-V3-V3-V3-V3证明模式与证明合成形式形成。遵循通常用于理解模型的常见训练过程，通过额外的加固阶段增强了COT模式。非V2-V2训练模式过程遵循专家迭代的范式，该范围是为正式定理开发而广泛采用的框架。 SA在训练方面的困难，当前的最佳证明策略用于为尚未在以前的迭代中解决的难题提供证明尝试。在精益证明助手验证以训练改进的模型之后，成功的尝试将包括在SFT数据集中。这种迭代循环不仅可以确保从初始演示显示中知道该模型，而且还可以捕获其自己的成功推理，并逐渐提高了解决更困难的问题的能力。一般培训过程几乎与DeepSeek-Prover-V1培训过程一致，仅在分发培训问题方面已经做出了两次更改。首先，Prover-V2引入了自动形式化和各种开源数据集中的其他问题，扩展了范围SA的培训问题。其次，新模型通过子用药分解产生的问题增强了数据集，旨在解决Minif2F基准测试的有效分区时更具挑战性的机会。研究人员在DeepSeek-V3-Base-671b上使用了5E-6的恒定研究率，在16384代币的背景下正确执行了管理的维修。语料库培训由两个辅助资源组成：1）不是通过专家迭代收集的数据，以生成无中等理解措施的精益代码； 2）第2.2节中描述的冷启动COT数据，该数据阻止了在结构化证明路径中对DeepSeek-V3的数学识别的高级过程。强调不是一个明确的示例的成分是提供Proce的明确模型在形式证明结构的数学直觉之前。 Prover-V2采用了GRPO研究算法。与PPO不同，GRPO通过关闭根据亲戚相关的奖励来关闭每种定理的一组候选人和享有声望的技术，从而消除了对个人批评模型的需求。该培训使用二进制奖励，每个形成的证据证明了1奖励是正确验证的，否则为0。为了确保有效的研究，研究人员精心选择的培训技巧，只包括足够的挑战，用于管理的维修模型，但已解决。为每个重复的256个不同问题采样的型号，为每个定理形成32个证明候选物，最大采用长度-NUNOD 32,768令牌。最后，模型的蒸馏。研究人员已将DeepSeek-Prover-V1.5-base-7b上下文的最大长度从4096代币延长到32768，并使用在舞台上加强devaimenting Deviceek-Prover-V2-671b研究。除了COT模型模型外，研究人员还提供了在专家更改期间收集的证据的数据，以实现有效产生简洁的正式产出和小规模的选择证明。此外，7B模型还使用与671B模型训练相同的加固阶段来提高性能。研究人员进行了系统的审查是各种基准数据集中的DeepSeek-Prover-V2证明正式理论的证明，涵盖了SA高中竞争和本科级数学问题的问题。实验表明，该模型的671B版本比其他先进的行业模型实现了未经启发的准确性，并且更好。与Minif2F测试数据集中的最新模型进行比较。 DeepSeek-Prover-V2-671b问题在minif2f基准测试上解决。验证网络 - 实验的测试和putnammench结果。谚语：本书主题的Aime和正式基准基准 - 研究时间，Deviceek还发布了Croverbench，这是一个包含325个问题的基准测试。其中，15个问题来自代数的理论编号和AIME最后两个数学竞赛的问题（Aime 24和25）。正式化后，他们在高中比赛中遇到困难。其余的310个问题是从SA书中的示例和教程中选择的，涵盖了各种内容并拥有出色的教学基础。 proverbench链接：https：//huggingface.co/datasets/deepseek-i/deepseek-proverbench此数据集旨在支持两个级别的全面模型审查：高中竞赛问题和本科生的数学问题。 Coverbench数据集网络的组成评论：从新模式的受欢迎程度看，每个人都希望再次改变世界。许多网民对新开放的DeepSeek的工作表示赞赏。一些在奥运会上学习数学的学生给了我精彩的独家（问题所知道的事情是技巧有多深）。网民亲自尝试了这种效果是令人惊奇的效果，他们将O4-Mini和Grok-3进行了比较。在社交网络上，有人说，衰减，然后处理复杂的问题与人们对初级工程师教授的技能非常相似。 DeepSeek-Prover-V2解决数学问题的想法应解决代码和其他问题。但是，每个人似乎都对DeepSeek-R2充满热情！敲蓝鲸，何时会释放R2？有关更多详细信息，请检查原始链接〜