AI热点 3月前 152 阅读 0 评论

腾讯混元自研深度思考模型「T1」正式发布

作者头像
AIbase基地

AI技术专栏作家 | 发布了 246 篇文章



近日,腾讯正式推出了其自研的深度思考模型——混元T1正式版。

混元T1正式版在大规模强化学习的基础上,针对数学、逻辑推理、科学和代码等理科难题进行了专项优化,从而实现了推理能力的显著提升。在常见benchmark上,如大语言模型评估增强数据集MMLU-PRO中,混元T1取得了87.2分的优异成绩,仅次于顶尖模型o1。同时,在CEval、AIME、Zebra Logic等中英文知识及竞赛级数学、逻辑推理的公开基准测试中,混元T1也展现出了业界领先推理模型的水平。

腾讯最强!混元自研深度思考模型T1 正式发布:吐字快、能秒回

除了基础推理能力外,混元T1正式版还在多项对齐任务、指令跟随任务和工具利用任务中展现出了非常强的适应性。这得益于其沿用了混元Turbo S的创新架构,并采用了Hybrid-Mamba-Transformer融合模式。这是工业界首次将混合Mamba架构无损应用于超大型推理模型,有效降低了传统Transformer结构的计算复杂度,减少了KV-Cache的内存占用,从而显著降低了训练和推理成本。

此外,基于出色的长文捕捉能力,混元T1能有效解决长文推理中常见的上下文丢失和长距离信息依赖问题。混合Mamba架构针对长序列处理进行了专项优化,通过高效的计算方式,在确保长文本信息捕捉能力的同时大幅降低资源消耗。在相近的激活参数量下,混元T1实现了解码速度提升2倍。

目前,腾讯混元T1已经开放体验,并上线了API服务。用户可以根据需求,以每百万tokens1元的输入价格和每百万tokens4元的输出价格,享受这一强大推理模型带来的便捷与高效。


作者头像

AI前线

专注人工智能前沿技术报道,深入解析AI发展趋势与应用场景

246篇文章 1.2M阅读 56.3k粉丝

评论 (128)

用户头像

AI爱好者

2小时前

这个更新太令人期待了!视频分析功能将极大扩展AI的应用场景,特别是在教育和内容创作领域。

用户头像

开发者小明

昨天

有没有人测试过新的API响应速度?我们正在开发一个实时视频分析应用,非常关注性能表现。

作者头像

AI前线 作者

12小时前

我们测试的平均响应时间在300ms左右,比上一代快了很多,适合实时应用场景。

用户头像

科技观察家

3天前

GPT-4的视频处理能力已经接近专业级水平,这可能会对内容审核、视频编辑等行业产生颠覆性影响。期待看到更多创新应用!