跳到正文

#安全/对齐

今日 0 条
9月30日周三
  1. Google DeepMind77

    Google DeepMind 推出合成生物学水印技术 SynthID Bio

    Google DeepMind 推出针对合成生物学的水印技术 SynthID Bio,可在 AI 生成的蛋白质序列与 3D 结构中嵌入不可见签名,且不破坏其实验室生物活性。该技术通过微调 AlphaFold 3 扩散网络并调整氨基酸选择实现水印嵌入,在湿实验中验证了与未加水印设计相当的结合亲和力。团队已开源相关代码、体外实验数据并公开模型权重,用于支持 DNA 合成安全筛查与数据库溯源。

    推荐理由:该方案将水印机制延伸至蛋白质结构与序列生成,为合成生物学的来源溯源和生物安全筛查提供了可验证的技术路径。

9月29日周二
9月17日周四
  1. OpenAI News70

    OpenAI 发布模型不对齐报告框架

    OpenAI 分享了一套用于追踪、调查和披露模型不对齐(misalignment)行为的框架。该框架同时附带了 6 份关于模型出现意外或引发担忧行为的调查报告。

    推荐理由:原文提供了追踪与披露模型不对齐行为的流程框架,读者可以借此了解前沿机构处理模型异常行为的标准与实践。