历史 AI新闻

全部

1. 英国 AI 一揽子投入：1.65 亿英镑国家 AI 生物安全计划，AISI 再获 1.2 亿英镑

   政府层面对 AI 安全与产业的大额投入。

   @KanishkaNarayan107 赞 · 8 转发 · 5 回复 · 13,678 浏览查看原帖

   展开收起英国 AI 一揽子投入：1.65 亿英镑国家 AI 生物安全计划，AISI 再获 1.2 亿英镑

   英国 AI 大臣 Kanishka Narayan 在 7 条串推中介绍了财政大臣宣布的 AI 投资包，提出「是否安全、是否由我们主导」两个检验标准。内容包括：1.65 亿英镑国家 AI 生物安全计划，其中 1 亿英镑建「全球首个」AI 生物安全实验室；AI 安全研究所（AISI）再获 1.2 亿英镑；6000 万英镑建国家网络盾牌，7000 万英镑建实时漏洞中心（NERV）。此外还有 1800 万英镑的先进芯片设计学院、Sovereign AI 新增 6000 万英镑、2300 万英镑给 AI 经济研究所，以及 3000 万英镑与各地市长合作推动企业用 AI。

2. NIST、NSA、CISA 联合发布超级智能训练与评测事故应对 10 条关键实践

   政府对前沿 AI 事故处置的规范化。

   @NIST13 赞 · 6 转发 · 2 回复 · 2,813 浏览查看原帖

   展开收起NIST、NSA、CISA 联合发布超级智能训练与评测事故应对 10 条关键实践

   美国国家标准与技术研究院（NIST）、国家安全局（NSA）和网络安全与基础设施安全局（CISA）联合发布文件，提出 10 条自愿性关键实践，用于应对超级智能（SI）智能体在训练和评测中「未按预期或未经授权行事」的事故。实践分为准备、检测、响应、恢复、报告五个阶段，包括设计技术管控、监测异常活动、保全证据、关停越权活动、恢复前加固隔离、通知政府和公开共享信息。文件把「SI 控制事故」定义为智能体在无人指示的情况下做出重大操作，违反运营方为限定任务范围或保证人类监督而设的规则。主要读者是训练或评测长时程、低人工监督智能体的机构。

3. 得州总检察长起诉 OpenAI 和奥特曼：指其误导消费者 ChatGPT 安全性，要求法院派评估员审批新模型

   美国州一级对大模型公司的执法开始要求事前审批。

   @unusual_whales2,539 赞 · 208 转发 · 145 回复 · 399,007 浏览查看话题

   展开收起得州总检察长起诉 OpenAI 和奥特曼：指其误导消费者 ChatGPT 安全性，要求法院派评估员审批新模型

   得州总检察长 Ken Paxton 于 10 月 23 日（周五）在科林县地区法院起诉 OpenAI 及 CEO 奥特曼，指控其就 ChatGPT 的安全性误导消费者、未能保护用户免受伤害，依据是得州《欺诈性贸易行为法》和保护未成年人的 SCOPE 法。据《得州论坛报》，67 页起诉书开篇引用了奥特曼 2015 年的一句话。诉状请求法院禁止未成年人使用相关产品、由法院指定的评估员审批新模型，并寻求超过 100 万美元的救济，其中包括每次违规 1 万美元的罚款。OpenAI 发言人称公司与专家合作，「致力于与得州及其他州」制定全行业政策。《得州论坛报》指出，马斯克是 Paxton 参议员竞选的最大捐款人。

4. 瑞典政府办公厅从 10 月 26 日起在员工电脑上屏蔽 ChatGPT 和 Claude，只保留 Copilot

   欧洲政府开始按供应商协议收紧员工可用的 AI 工具。

   @_0xBenjamin29 赞 · 2 转发 · 12 回复 · 823 浏览查看话题

   展开收起瑞典政府办公厅从 10 月 26 日起在员工电脑上屏蔽 ChatGPT 和 Claude，只保留 Copilot

   据瑞典广播电台 Ekot 10 月 23 日报道，瑞典政府办公厅（Regeringskansliet）从 10 月 26 日（周一）起在员工电脑上屏蔽 ChatGPT 和 Claude，员工需改用经批准的工具，如经审查后已加强安全设置的 Copilot。数字化主管 Mikael Wettercrantz 在内网称，使用没有协议约束的 AI 服务可能「对我们的信息安全造成后果」。瑞典税务局和国家机构护理委员会（SiS）也已屏蔽这些服务，执行局正在考虑；交通局内审发现约十种 AI 服务存在问题使用。DeepSeek 此前已被限制，部分员工仍可通过内部 AI 助手平台使用相关模型。