[TechWeb]根据计划，BAIDU在6月30日正式打开了Wenxin Movie 4.5系列的模型。今天2月14日早些时候，BAIDU创建了此开放资源的预览。目前，Baidu的开源Wenxin Big 4.5（Ernie 4.5）系列型号包括10个型号，例如47B和3B激活参数，具有0.3B参数的密集模型，并实现了预先经验的重量和次要代码的完全开源源。 Ernie 4.5型号可在Apache许可证2.0下获得。此许可允许商业用途，但根据其条款和条件。此外，百度还开设了Wenxin Big Model 4.5开发工具包，该工具包提供培训技能和压缩功能，包括培训，培训，管理罚款ScrucutinyRepair（SFT），低级适应（LORA），直接优化优先优化（DPO）（DPO），软件培训的数量（QAT），以及培训后量化量化（PEQ）技术。目前，Wenxin大型4.5开放酸CE系列可以下载，部署和使用在Paddlepaddle Galaxy社区和HuggingFace等平台上。同时，开源模型API服务（应用程序编程界面）也可以在BAIDU Smart Cloud Qianfan Big Model平台上使用。英特尔首次在英特尔核心Ultra平台上实施了Baidu Wenxin 4.5系列端端模型的改编。同时，百度还发布了Wenxin Mockup 4.5开源系列的技术文档。让我们一起看看。 Wenxin Big Model 4.5 1的三个基本创新。多模式混合专家模型的前进：Wenxin 4.5通过电导在文本和视觉模式下进行练习，我们更好地获得了多模态信息的细微差别，并提高了诸如文本世代，图像，图像理解和多态推理等活动的绩效。在学习两种模态时相互改善，我们提出了一种多模式异质杂交专家结构专家模型，结合了不同的维度旋转旋转，并在计算损失功能的计算过程中增强了不同专家之间的正交性，同时，不同模态和同一时间之间的单词元素，优化的不同模态之间的单词元素，以实现多模态促进和改进的目的。 2。出色的训练框架培训：为了支持Wenxin 4.5模型的出色培训，我们建议异源混合造型和多级负载平衡技术。许多技术，例如专门的并行性，记忆管道调度，FP8混合调度精度和良好的布置，已经显着改善了训练吞吐量。在推理方面，我们提出了并行协作方法和卷积编码量化算法的多专家，以实现4位体积和2位体积，并且效果非常损失。此外，我们已经实施了分离技术的填充和解码用于纸质转换，可以使用整个资源并改善Wenxin 4.5 MOE模型感知的性能。基于PaddlePaddle框架，Wenxin 4.5在了解不同的硬件平台方面具有出色的表现。 3.运动后的模式：为了满足实际情况的不同要求，我们针对预训练的模型。mode微调。其中，大型语言模型是对语言和发电的共同理解进行了优化的，大型多模式的重点是理解视觉语言，支持思维和难以想象的模式。每个模型都采用SFT，DPO或坐姿的多阶段培训（统一偏好优化）。超过QWEN3，DEEPSEEK-V3ERNIE-4.5-300B-A47B基本的多次评论，28个基准中的22个超过了DeepSeek-V3-671b-A37b基础，在所有主要功能类别中都领先表现。与其他SOTA模型相比，重要的IM一般能力，推理和密集知识的证明。 ERNIE-4.5-21B-A3B基本参数的总数为210亿（约占QWEN3-30B的70％），在包括BBH和CMATH在内的许多数学和推理基准上，它都比QWEN3-30B-A3B基准均高。尽管Ernie-4.5-21b-A3b基碱基较小，但该模型具有残留效应，在影响与效率之间取得了平衡。该邮政训练的Ernie-4.5-300B-A47B模型对教学和基于知识的任务显示了重大好处，并取得了导致行业导致基准的结果，例如Ifeval，Multif，Simple-IF，SimpleQa和Chinesimpleqa。轻巧的Ernie-4.5-21B-A3B模型尽管总参数量减少了约30％，但与QWEN3-30B-A3B相比，它仍然可以达到竞争性能。在非思想模式下，Ernie-4.5-VL在视觉感知，文档理解和视觉知识方面具有出色的成果，并且在一系列基准测试中表现良好。在TONINGMIND的模式Ernie-4.5-VL不仅反映了更强的推理技能，而且还反映了不思考模式，而且仍然是理解无法想象模式的强大能力。 Ernie-4.5-VL-424B-A47B在各种多模式检查基准上取得了剩余的结果。它的思维方式对高难题的基准（如MathVista，MMMU和VisualPuzzles）具有明显的好处，并在基于感知的数据集（例如CV BENCENS和REALWORLDQA）中保持了良好的结果。尽管使用较少的激活参数，但轻巧的视觉语言模型ERNIE-4.5-28B-A3B的效果比qwen2.5-vl-7b和qwen2.5-vl-32b在大多数基准方面的效果相对较好。此外，Wenxin 4.5轻量级模型还支持两种思维模式，而不是思考的模式，提供了函数在Ernie-4.5-VL-424B-A47B中。图注意：Ernie-4.5的性能前提模型图注意：Ernie-4.5-300B-A47B Intel自适应SI之后的性能训练模型Wenxin系列模型开放发布后的DE部署，Intel“ Day Zero”将实现Wenxin终端模型的改编，并将端端部署到Intel Core Ultra Platform。英特尔宣布，OpenVin已成功地适应了具有0.3B参数的密集Wenxin 4.5型号，并成功部署到了Intel Core Ultra平台上，并获得了出色的倾斜度性能。 OpenVino Tool Suite是Intel开发的套件的开源套件，该套件旨在优化和加速深入研究模型的性能，支持跨平台部署并利用英特尔硬件源。 OpenVino在人工英特尔产品和解决方案中有助于行业的各种高级模型，并在AI PC，Edge AI和更多智能使用方案上使用。从2021年开始，Baidu Paddlepaddle和Intel Openvino将深入运转，双方将进行深刻的适应，从而为开发人员提供更有效的AND方便的AI开发工具链。 （Yiue）