AI 让光学计算重获新生:Optalysys 等初创公司押注光计算
光学计算行业市场规模已从 2022 年的 4 亿美元增至 22.2 亿美元,AI 推理的功耗瓶颈正推动这一领域复苏。英国初创公司 Optalysys 将光学计算元件嵌入数据中心网络路径,在数据传输过程中完成计算。康奈尔大学团队 2022 年演示的光学神经网络每次乘法运算能耗低于一个光子(约 2.5×10⁻¹⁹ 焦耳),但研究者提醒编码开销可能抵消这一优势。
光学计算行业市场规模已从 2022 年的 4 亿美元增至 22.2 亿美元,AI 推理的功耗瓶颈正推动这一领域复苏。英国初创公司 Optalysys 将光学计算元件嵌入数据中心网络路径,在数据传输过程中完成计算。康奈尔大学团队 2022 年演示的光学神经网络每次乘法运算能耗低于一个光子(约 2.5×10⁻¹⁹ 焦耳),但研究者提醒编码开销可能抵消这一优势。
Sarvam 上线 Sarvam Token Factory,通过一个 OpenAI 兼容 API 提供自家模型和开放权重模型,运行在印度的 NVIDIA B200 集群上。
METASTONE 推出面向生产工作流的多模态模型服务,整合视频生成加速、缓存与显存管理、token 压缩和 Context Engine。公司自测显示,其视频加速方法相对密集计算基线平均端到端提速 2.48 倍并保持生成质量,该结果未经独立验证。
阿里巴巴发布新一代大模型 Qwen4-Max,其主干包含 2.4 万亿参数,每次推理仅激活 710 亿参数,并配有 3280 亿 N-gram 参数充当缓存。该模型采用四通道残差结构并带门控,注意力机制引入 Gated DeltaNet 与 QSA 以降低处理长提示词的硬件需求和基础设施成本。
推荐理由:读者可了解 Qwen4-Max 在残差通道与注意力机制上的改动,以及这些改动带来的 token 消耗下降幅度。
TypeSafe AI 于 9 月 15 日发布决策模型 Jev,宣称其响应延迟为 70 至 500 毫秒、每百万 token 收费 0.042 美元且输出 token 免费,并称其不会产生幻觉。
推荐理由:梳理决策模型从 Jev 到 Cloudflare、OpenAI 等跟进者的扩散,并给出延迟、成本与准确率的实测对比。
NVIDIA 介绍如何通过后训练 Nemotron 提升模型在特定科学领域的准确率。文章指出,科研智能体正承担更长、更复杂且更依赖视觉的工作流,准确率与推理效率成为关键。
NVIDIA Vera Rubin NVL72 在 MLPerf Endpoints v1.0 的智能体推理评测中取得领先性能。该基准通过 API 以编程和企业工作流评估推理系统在服务容量与响应速度之间的平衡,对应 AI 智能体跨轮次携带增长对话历史、混合生成推理、工具调用与回复的负载特征。
阿里千问团队发布 Qwen4 代首款模型 Qwen4-Max,采用 2.4T 参数稀疏 MoE 骨干、每 token 激活 71B,支持文本、图像、视频输入和 1M token 上下文,仅通过 QwenCloud API 等托管渠道提供,不开源权重。
同一件事,精选收录的是 《阿里发布 Qwen4-Max 基座大模型,智能体与编程能力进阶》
由朱松纯发起、北京通用人工智能研究院孵化的通芯智能,正研发面向AGI算法的新型推理芯片,成立半年内连续完成种子轮和天使轮融资,合计数亿元。该芯片规划Vector、Tensor与AGI Core三类单元,兼容CNN、Transformer等主流模型,并为逻辑、因果、价值推理及概率计算提供专用加速。公司成立三个月已完成架构设计和立项,进入芯片设计阶段,12月初将开展FPGA原型验证。
Cmpnd 发布原型优化器 dspy-wsp,将权重空间编程接入 DSPy,由前沿 LLM 在沙箱中读取并直接改写学生模型权重,无需梯度、训练循环或微调数据集。
NVIDIA 介绍如何通过 ConnectX-8 RDMA 连接两台 DGX Station,用 vLLM 以张量并行把 GLM-5.3 的权重和计算拆分到两块 GPU 上,通过单一端点提供推理服务。所用模型为 NVIDIA GLM-5.3 NVFP4,是 Z.ai 混合专家模型的量化版本。
Google 发布 Gemini Decisions API,由新模型 Gemini Decision 1(gemini-decision-1)驱动,已在 Google AI Studio 的 Gemini API 中开放。
推荐理由:原文给出了定价、延迟和校准误差数据,读者可据此判断这类闭集决策接口适合替代哪些分类器调用。
Meta 介绍 Facebook 的 Your algorithm 系统,用户可用自然语言写下想看和不想看的内容,偏好同时作用于 Feed 和 Reels。页面顶部由 LLM 生成一句话的 Lately Summary 和预填的 Interested In 列表,每次增删改都由小模型校验主题、去重并映射为规范名称后写入共享偏好库。
Ethan Mollick 在 Claude Fable 5.2 公开发布前试用后认为,按「在多数可用电脑完成的智力任务上达到多数人类专家水平」的定义,它已接近 AGI,但仍是「参差不齐的 AGI」。
推荐理由:作者用六个亲手设计的跨领域任务,展示 Claude Fable 5.2 的能力边界与失败模式,可据此理解当前模型离通用智能还差什么。
Sebastian Raschka 发布《从零构建推理模型》配套视频课程,共 8 讲、约 11 小时,用 Python 和 PyTorch 从预训练的 Qwen3 0.6B 出发实现推理模型。
中国商务部发布政策提案,拟要求前沿 AI 模型等技术的国际共享须获政府预审批,作者认为外界反应过度,因为文件写明开源技术将走自动审批通道;美国国土安全部则发布命令,禁止 DeepSeek 作为供应商参与联邦民用采购。
Cloudflare 的 27B 多模态决策模型 Clef 已在 Ollama 上线,用户可在本地或 Ollama 云端运行。Clef 接收状态和一组带类型的结构化问题,一次读取输入并同时为每个问题打分,支持文本、JSON 和图像输入,兼容 Jev 与 System One API,基于 Qwen3.8-27B 微调,采用 Apache 2.0 许可。
Reflection 的首个开放权重模型 Beam 于 10 月 16 日正式发布,Ollama 作为 day-zero 合作伙伴限时免费提供。Beam 是 MoE 模型,总参数约 501B、每 token 激活 23B,面向软件工程、推理和长周期智能体任务,上下文窗口为 100 万 token,采用 Apache 2.0 许可。
推荐理由:读者可以了解 Reflection 首个开放权重模型 Beam 的规格、Apache 2.0 许可和 Ollama 上的免费接入方式。
Amazon Web Services 团队提出 Priming 方法,以预训练 Transformer 权重为起点构建混合状态空间模型,把混合架构的预训练成本降低 99% 以上,整个流程消耗不到源模型预训练 token 预算的 0.5%。
推荐理由:亚马逊团队提出复用预训练 Transformer 权重改造混合架构的方法,把预训练成本降低 99% 以上,并给出可复现的模型与代码。
Sebastian Raschka 梳理了文本分类从词袋加朴素贝叶斯、逻辑回归,到 RNN、CNN、BERT 与 GPT 式 Transformer 的演进,并以此解释 TypeSafe AI 新模型 Jev 为何受到关注。
Ollama 在 0.35 版本中新增对决策模型的支持,基于 TypeSafe 的 Jev API,通过新的 /v1/systemone 端点把文本作为状态、附带一组命名问题,由本地模型在一次请求中全部作答。
Ethan Mollick 演示 GPT-6 Astra 将 1977 年文字冒险游戏 Zork 改造成可玩的 3D 动作冒险游戏,Fable 5.1 则依据视频与书目重建了 Umberto Eco 约 5000 册藏书的 3D 图书馆。他指出,现有模型能力与大多数人实际用法之间存在"能力悬置",并主张以深度知识、广博知识、品味和能动性四项人类优势与 AI 协作。
Sebastian Raschka 结合 GPT-6 Astra 的使用体验与基准表现,分析其可能采用的循环 Transformer(recurrent depth)架构,并回应 Astra 隐藏推理链的传闻。
Sebastian Raschka 撰文解释推理模型的推理强度档位如何训练与实现,并以 GPT-5.6 的 Light 到 Ultra 六档设置为例说明推理强度与响应长度、准确率和成本的关系。
Ethan Mollick 提前测试了首个面向公众发布的 Mythos 级模型 Claude 5 Fable,称其表现明显超过他用过的所有公开模型,能连续执行多页规格任务达十余小时。
推荐理由:作者用等时线地图和 Concord 两个长任务实测 Mythos 级模型,呈现能力跃升与过程不可见之间的张力。