首页 科普 正文

阿里云宣布开源,上架超个模型

新浪科技讯9月19日下午消息,今日举办的2024云栖大会上,阿里云CTO周靖人发布通义千问新一代开源模型Qwen2.5。据悉,Qwen2.5全系列涵盖多个尺寸的大语言模型、多模态模型、数学模型和代码模型,每个尺寸都有基础版本、指令跟随版本、量化版本,总计上架100多个模型,其中旗舰模型Qwen2.5-72B性能超越Llama405B。

据介绍,阿里云宣布开源,上架超个模型相比Qwen2,Qwen2.5全系列模型都在18Ttokens数据上进行预训练,整体性能提升18%以上,拥有更多的知识、更强的编程和数学能力。Qwen2.5-72B模型在MMLU-rudex基准(考察通用知识)、MBPP基准(考察代码能力)和MATH基准(考察数学能力)的得分高达86.8、88.2、83.1。Qwen2.5支持128K的上下文长度,可生成最多8K内容,支持中文、英文、法文、西班牙文、俄文、日文、越南文、阿拉伯文等29种以上语言。

其中,72B是Qwen2.5系列的旗舰模型,其指令跟随版本Qwen2.5-72B-Instruct在MMLU-redux、MATH、MBPP、LiveCodeBench、Arena-Hard、AlignBench、MT-Bench、MultiPL-E等权威测评中表现出色,在多个核心任务上,以不到1/5的参数超越了拥有4050亿巨量参数的Llama3.1-405B,继续稳居“全球最强开源大模型”的位置。

专项模型方面,用于编程的Qwen2.5-Coder和用于数学的Qwen2.5-Math都比前代有了实质进步。Qwen2.5-Coder在多达5.5Ttokens的编程相关数据上作了训练,当天开源1.5B和7B版本,未来还将开源32B版本;Qwen2.5-Math支持使用思维链和工具集成推理(TIR)解决中英双语的数学题,本次开源了1.5B、7B、72B三个尺寸和一款数学奖励模型Qwen2.5-Math-RM。

在多模态模型方面,阿里云还宣布了视觉语言模型Qwen2-VL-72B开源,Qwen2-VL能识别不同分辨率和长宽比的图片,理解20分钟以上长视频,具备自主操作手机和机器人的视觉智能体能力。(文猛)