DeepSeek-V2.5:融合通用与代码能力的全新开源模型
DeepSeek-V2.5 保留原有 Chat 模型的通用对话能力和 Coder 模型的代码处理能力,并更好地对齐人类偏好。
推荐理由:DeepSeek首次将通用对话与代码能力合一的开源模型,当时直接拉低了多任务成本,今天看仍是模型混合能力演变的早期标杆。
全球 AI 公司、研究机构和媒体的最新动态,自动挑出值得看的,全天自动更新。
更新于 11月22日 13:23 · 每小时自动更新
DeepSeek-V2.5 保留原有 Chat 模型的通用对话能力和 Coder 模型的代码处理能力,并更好地对齐人类偏好。
推荐理由:DeepSeek首次将通用对话与代码能力合一的开源模型,当时直接拉低了多任务成本,今天看仍是模型混合能力演变的早期标杆。
DeepSeek 将 V2 Chat 与 Coder V2 合并升级为 V2.5,API 用户通过 deepseek-coder 或 deepseek-chat 均可访问。新模型在通用与代码能力上显著提升,ArenaHard winrate 升至 76.3%,HumanEval 达 89%。
推荐理由:DeepSeek 把 coder 和 chat 合并成 V2.5,API 端点不变但性能全线拉高,已有的集成直接受益,代码和通用能力不再是两张皮。
PromptArmor 披露 Slack AI 存在间接提示词注入漏洞,攻击者可在其自建的公开频道发布恶意指令,诱导 Slack AI 把用户私有频道中的 API key 等机密数据嵌入钓鱼链接并渲染给用户,点击后数据被外泄。
推荐理由:报告给出完整攻击链和复现细节,读者可以据此评估 Slack AI 的间接提示词注入风险并调整设置。
OpenAI 在 API 中推出 Structured Outputs 功能,模型输出现在能够可靠地遵循开发者提供的 JSON Schema。
推荐理由:OpenAI 官方宣布 API 输出可遵循开发者提供的 JSON Schema,对需要稳定结构化输出的工程场景有直接参考价值。
Suno 发布博文回应 6 月 24 日 RIAA 代表主要唱片公司对其提起的版权诉讼,称诉讼在事实和法律上均有缺陷,训练数据来自开放网络上的中高质量音乐,与 Google、Microsoft、OpenAI 等公司的做法类似。
推荐理由:Suno 官方首次系统回应 RIAA 诉讼,说明了其训练数据来源和防抄袭机制,有助于理解版权争议双方的核心分歧。
DeepSeek 更新 /chat/completions 接口,新增 JSON 输出、Function 调用、对话前缀续写(Beta)及 8K 最长输出(Beta)。同时新增 /completions 接口,支持 FIM 补全(Beta)。
推荐理由:DeepSeek API 这次更新补上了 Function calling 和 JSON 模式,加上 FIM 补全,让开发者的工具调用和代码补全场景有了更完整的方案,虽然都是 Beta 但方向很对。
LlamaIndex 发布 LlamaExtract beta,这是一个托管服务,可从非结构化文档中抽取结构化数据:能从候选文档集推断 schema(用户可后续编辑),并按指定 schema 抽取字段值。
推荐理由:原文来自 LlamaIndex 官方,介绍了从文档推断 schema 并抽取结构化数据的用法,读者可以评估它在 RAG 数据处理管线中的适配性。
Mistral 发布 Mistral Large 2(版本 24.07,API 名 mistral-large-2407),123B 参数、128k 上下文窗口,支持数十种语言和 80 多种编程语言。
推荐理由:官方给出参数量、许可证、基准表现与开放渠道,读者可以据此评估该模型在性能成本和多语言场景中的位置。
DeepSeek 将 deepseek-coder 模型升级为 DeepSeek-Coder-V2-0724。此次升级为模型版本更新,具体参数规模、性能基准及可用性细节未在更新日志中披露。
推荐理由:DeepSeek Coder 升级到 V2-0724,编码能力再进一步,对 API 用户是直接可用的提升,虽然官方没给技术细节,但仍值得关注。
Hugging Face 发布 Llama 3.1 系列模型,包含 405B、70B 和 8B 三个规格,支持多语言和长上下文。
OpenAI 官网宣布发布 GPT-4o mini,定位为推进高性价比智能的新模型。
Mistral AI 与 NVIDIA 联合发布 12B 模型 Mistral NeMo,支持最高 128k tokens 上下文窗口,base 与 instruct 权重以 Apache 2.0 许可开源。
推荐理由:原文给出 12B 模型的上下文窗口、压缩效率与基准对比,并说明与 Mistral 7B 的替换关系,便于评估其在中小模型场景的可用性。
Mistral 发布 Mamba 架构代码模型 Codestral Mamba,采用线性时间推理,可免费使用、修改和分发。模型具备高级代码与推理能力,性能与 SOTA Transformer 模型相当,已测试最高 256k tokens 的上下文检索能力,共 7,285,403,648 参数。
推荐理由:官方说明了 Mamba 架构在线性推理时长和长序列上的优势,以及 256k 测试、部署渠道和许可证差异,可据此判断适用场景。
Anthropic可解释性团队分享了2024年7月的多项研究进展与初步想法,并指出了未来面临的五大核心挑战。这些挑战包括:大量未被提取的“缺失特征”可能构成神经网络的“暗物质”;跨层叠加现象使特征难以映射到特定层;注意力叠加可能掩盖了如归纳头等基本单元的真实结构;权重叠加产生的“干扰权重”给电路分析带来混淆;以及如何将微观的电路理解整合为宏观的模型认知。团队认为,尽管在特征叠加等问题上已取得显著进展,但这些新挑战是通往神经网络机制性理解道路上的关键障碍。
推荐理由:可解释性研究新挑战,帮助理解AI模型黑箱,对安全和信任至关重要。
通义 FunAudioLLM 团队开源基于 LLM 的 TTS 系统 Fun-CosyVoice 3.0,官方称在内容一致性、说话人相似度和韵律自然度上超越前代 CosyVoice 2.0,面向零样本多语言语音合成。
推荐理由:官方发布开源 TTS 新版本,附评测表、安装与部署方式,适合关注多语言语音合成落地的开发者参考。
SenseVoice 是一个语音理解基础模型,支持 ASR、语种识别、语音情感识别和音频事件检测。发布的 SenseVoiceSmall 检查点支持普通话、粤语、英语、日语和韩语,并输出情感与事件标签;采用非自回归端到端架构,同参数量级下推理速度比 Whisper-Small 快 5 倍以上、比 Whisper-Large 快 15 倍以上。
推荐理由:官方仓库文档同时给出基准对比、部署路径和微调方案,读者可以据此评估 SenseVoice 在中英文语音识别场景的可用性。
LangChain 宣布 LangGraph v0.1 稳定版发布,并推出处于封闭 Beta 的 LangGraph Cloud,用于大规模、容错地部署智能体。
推荐理由:官方发布交代了 LangGraph v0.1 稳定版的控制设计与 Cloud 的容错部署能力,可帮助读者判断智能体上线时的基础设施选型。
Google 推出新的开源大语言模型 Gemma 2,Hugging Face 发布博客介绍相关内容。
LlamaIndex 宣布开源框架 llama-agents 的 alpha 版发布,用于构建和部署生产级多智能体 AI 系统,可将每个 agent 变成独立运行的微服务。
推荐理由:官方发布开源多智能体框架 alpha 版,介绍了微服务架构、编排方式、监控工具和从本地到生产部署的具体用法。
OpenAI 宣布收购 Rockset,官方消息仅此一条,摘要未提供交易金额、目的或后续安排等更多细节。