跳到正文

#部署/工程

今日 5 条
今天10月1日周四
  1. AWS Machine Learning Blog83

    Claude Sonnet 5.5 正式上线 AWS Amazon Bedrock

    AWS 宣布 Claude Sonnet 5.5 正式上线 Amazon Bedrock 与 Claude Platform on AWS。该模型针对明确范围的编码与知识工作进行了优化,具备更快的生成速度和更低的单任务成本,支持生成架构图等更精细的文档。开发者可通过 Bedrock 控制台、Anthropic SDK 或 AWS SDK(Boto3)调用 global 推理配置文件接入使用。

    推荐理由:原文梳理了 Sonnet 5.5 在 Bedrock 上的适用场景与调用代码,开发者可据此评估其与 Opus 5.5 的分工配合。

  2. AWS Machine Learning Blog70

    xAI Grok 4.7 正式上线 Amazon Bedrock

    xAI 旗下前沿模型 Grok 4.7 正式上线 Amazon Bedrock,支持 500K context window、图像输入以及 low、medium、high 和 xhigh 四档推理力度配置。

    推荐理由:文章详细梳理了该模型在云端的推理配置与调用路径,开发者可以据此评估长流程智能体开发与推理成本控制。

  3. AWS Machine Learning Blog44

    Condé Nast 如何借助 Amazon Bedrock 构建多模态视频检索方案

    康泰纳仕(Condé Nast)基于 Amazon Bedrock 与 Amazon OpenSearch Service 构建了多模态视频检索方案,覆盖超 140,000 个视频。该方案采用 TwelveLabs Marengo 嵌入模型联合编码字幕、画面和音频,支持自然语言与图像检索并精确定位时间戳。新系统将编辑团队的内容检索耗时从平均每次 250 分钟大幅缩短至 2 分钟以内。

  4. Microsoft Research56

    Microsoft Research 开发机器学习系统预测美国电网空间天气风险

    Microsoft Research 的机器学习系统为美国本土 66,935 座变电站预测空间天气引发的电网风险,可提前 30–60 分钟生成地点级风险估计。系统结合太阳风观测、AE 和 Dst 指数预报,以及各站位置和地质条件,评估显示其对重大事件的检出率为 76.5%。文中展示的是代表性风暴情景下的模型输出;作者指出,系统投入电网运行前还需要结合公用事业单位和运营数据进一步验证。

9月30日周三
9月29日周二
  1. MIT Technology Review · AI32

    HPE:让 AI 成为资产,而非开支

    HPE主张,企业在AI需求稳定且规模足够时,应评估自有容量是否比按请求付费更经济,并将AI容量转化为可持续利用的业务资产。Deloitte数据显示,员工获得AI的比例在2025年上升5%,至少40%的AI项目已投入生产的企业占比预计将在六个月内翻倍。要实现投资价值,企业还需推动工作负载上线、治理使用并持续提高容量利用率。

9月28日周一
9月26日周六
  1. AWS Machine Learning Blog41

    在 Amazon EKS 上结合 EFA 与 DeepEP 扩展 MoE 强化学习,吞吐量提升 40%

    AWS 推出结合 Amazon EKS、EFA 与 DeepEP 扩展大规模 MoE 模型强化学习(RL)训练的架构方案,将训练吞吐量提升 40%。该方案针对 RLHF 与 GRPO 等后训练流程,协调分布式 rollout 推理与策略训练的异构计算负载。同时利用 DeepEP 优化跨节点的专家并行(EP)all-to-all 通信,缓解大规模扩展时的网络带宽瓶颈。

  2. AWS Machine Learning Blog62

    AWS 详解 NarrateAI:在 Amazon Bedrock 上构建生产级大模型质量保证机制

    AWS 团队分享了智能体助手 NarrateAI 在 Amazon Bedrock 上的工程实践,通过五项协同技术实现 99.3% 的数值准确率并兼顾实时流式响应。系统采用自适应流水线编排将调用量减少 72%,通过跨账号多模型故障转移解决 API 限流,并基于生产者-消费者架构实现逐段实时评估与两阶段数据校验,将评估等待延迟降低 86.8%。

    推荐理由:原文详细拆解了流式段落评估与两阶段数值校验的工程架构,读者可以据此设计低延迟高准确率的大模型质检流水线。

9月25日周五
  1. AWS Machine Learning Blog32

    Datacor 如何基于 Amazon Quick Sight 构建自助式租赁分析系统

    Datacor 在 TrackAbout 方案中集成 Amazon Quick Sight,为管理着 2750 万资产和每月超 72.5 万份账单的气体与焊接分销商构建自助式租赁分析系统。该方案通过自动化跨云管道将运营数据定时同步至 AWS Quick Sight SPICE 引擎,提供交互式仪表板与生成式 BI 自然语言查询能力。业务用户无需提 IT 工单即可实时分析车队利用率与收入回收等指标。

  2. Ars Technica · AI68

    Google 首个 Suncatcher 轨道数据中心测试卫星将于 10 月 1 日发射

    Google 将于 10 月 1 日发射首颗名为 MVP 的实验卫星,正式启动 Project Suncatcher 轨道 AI 数据中心的在轨验证。该卫星由 Planet Labs 制造,体积约为冰箱大小,配有约 1 千瓦功率的太阳能电池板,内部集成了 4 颗 Google 自研 TPU 加速器,用于测试在太空环境中运行 AI 模型训练与推理任务。

9月24日周四
  1. Microsoft Research60

    Microsoft Research 展示机器人 Physical AI 推理卸载的实测结果

    Microsoft Research 的研究显示,将机器人 Physical AI 推理卸载至边缘或云端 GPU,可提升移动操作任务表现并延长续航。使用较轻 GPU 时,语义映射与规划速度最多下降 383%,导航及时检测障碍物的能力下降 30%,VLA 模型准确率下降 50%。

    推荐理由:文章将移动操作任务的实测结果与 Kubernetes 工具链结合,呈现了推理卸载对机器人性能和续航的影响,以及相应的部署方式。

9月23日周三
  1. OpenAI News73

    GPT-6 改进 Prompt Caching 机制

    GPT-6 改进了 Prompt Caching 机制,支持更高的缓存命中率、全新诊断工具以及显式断点控制。这些改进可帮助开发者在调用过程中更精确地管理缓存,从而降低请求延迟和使用成本。

    推荐理由:GPT-6 优化了 Prompt Caching 机制并增加了显式断点与诊断工具,有助于开发者在复杂调用场景中进一步降低延迟和成本。

9月22日周二
  1. NVIDIA Blog42

    为什么 Physical AI 规模化部署要求 NVIDIA Halos 覆盖每一层安全

    NVIDIA指出,Physical AI要实现规模化部署,必须在硬件、软件、AI、运行环境及部署生命周期各层持续保障安全。面对动态环境、AI行为风险和持续更新,安全验证还需结合仿真、合成数据与真实场景测试。NVIDIA Halos覆盖自动驾驶汽车与机器人开发、验证和部署环节,提供全栈安全系统。

9月21日周一
  1. NVIDIA Blog56

    NVIDIA:AI 安全是一个工程问题,如何在 Agent 栈各层构建防御

    NVIDIA 撰文指出 AI 安全是一个具备明确控制与责任主体的工程问题,需要贯穿模型、工作流线束与运行时的整个 Agent 栈建立强制边界。文章提出安全策略必须独立于智能体推理逻辑由运行环境强行约束,并介绍了用于沙箱隔离与资源管控的开源安全运行时 NVIDIA OpenShell 以及行业联盟的协同防御实践。

  2. Simon Willison54

    Simon Willison 发布 llm 插件 llm-keys-ui 0.1

    Simon Willison 发布 llm-keys-ui 0.1 插件,用于在通过手机控制远程编码智能体时向机器配置 API 密钥,避免直接在对话窗口中明文粘贴。用户可通过 `uvx --with llm-keys-ui llm keys-ui --all` 命令启动 Web 界面输入密钥,远程环境后续可直接通过命令行读取并使用。

9月16日周三
  1. NVIDIA Blog48

    Emerald AI、Google 与 NVIDIA 联合成立联盟,推动弹性 AI 数据中心建设

    Emerald AI、Google 与 NVIDIA 联合成立 AI 能源管理联盟(AEMA),旨在推动可根据电网条件动态管理用电的弹性 AI 数据中心。联盟遵循技术中立与基于性能的原则,致力于制定故障穿越与应急响应标准、加快设施并网并优化成本分摊。通过将算力设施转变为可调度的电网资源,加速 AI 基础设施的可持续扩展。

9月11日周五
8月21日周五
7月29日周三