Claude Mythos是什么，它会带来哪些风险？
Source: BBC Technology
5小时前
Liv McMahon，技术记者和
Joe Tidy，网络记者，BBC世界服务
Reuters
概述
在最近几周，随着领先公司 Anthropic 对其新模型 Claude Mythos 所作的宣称，整个 AI 界沸沸扬扬。该公司表示，这款工具在某些黑客和网络安全任务上能够超越人类，这引发了监管机构、立法者以及金融机构对其可能对数字服务构成的危险的讨论。
多家科技巨头已通过名为 Project Glasswing 的计划获得 Mythos 的使用权限，该计划旨在提升对 Mythos 本身的韧性。也有人指出，Anthropic 有动机宣称其工具具备前所未有的能力，这意味着——正如 AI 领域一贯的情况——要在合理的宣称与夸大其词之间进行辨别并不容易。
Claude Mythos 是什么？
Mythos 是 Anthropic 最新的模型之一，作为其更广泛的 AI 系统 Claude 的一部分开发。Claude 包括该公司的 AI 助手和模型系列，能够与 OpenAI 的 ChatGPT 和 Google 的 Gemini 相抗衡。
- 2024 年 4 月初，Anthropic 以 “Mythos Preview” 形式公开。
- 负责测试 AI 模型在特定请求或任务上表现的研究人员（即 “红队”）在报告中指出，Mythos 在计算机安全任务上 表现出惊人的能力。
- 该工具能够定位潜伏在数十年老代码中的 dormant bugs，并轻松利用它们。
Anthropic 并未向所有 Claude 用户广泛发布，而是通过 Project Glasswing 为 12 家科技公司提供了访问权限，称其为 “确保全球最关键软件安全的努力”。合作伙伴包括：
- Amazon Web Services（云计算）
- Apple、Microsoft 和 Google（设备制造商）
- Nvidia 和 Broadcom（芯片制造商）
- Crowdstrike（其有缺陷的软件更新在 2024 年 7 月导致全球大规模宕机），以及其他 40 多个负责关键软件的组织。
在与 Project Glasswing 同时发布的视频中，Anthropic 首席执行官 Dario Amodei 表示，公司已主动提出与美国政府官员合作，帮助防御这些模型带来的风险。
为什么会有担忧？
Anthropic 表示，在测试中，该模型在网络安全和黑客任务方面表现出极高的技能，超越了人类。
“Mythos Preview 已经发现了数千个高危漏洞，包括每个主要操作系统和网页浏览器中的一些，”Anthropic 于 4 月 7 日声称。
“鉴于 AI 进展的速度，这类能力很快就会普及，可能会超出那些致力于安全部署的行为者的控制。”
该模型能够在几乎不需要监督的情况下定位旧系统中的关键漏洞，其中包括一个已存在 27 年的漏洞，并提出利用这些漏洞的方法。
路透社 – 对 AI 能力的公众担忧在三月引发了旧金山的抗议。
关键反应
- 加拿大财政部长 François‑Philippe Champagne 向 BBC 表示，Mythos 已在华盛顿的国际货币基金组织（IMF）会议上讨论，称其“足够严重，需要所有财政部长关注”，并将该技术描述为“未知的未知”。
- 英格兰银行行长 Andrew Bailey 表示，监管机构“现在正非常仔细地审视这项最新的 AI 发展可能对网络犯罪风险意味着什么”。
- 欧盟 也在与 Anthropic 就 Mythos 的担忧进行讨论。
Source: https://www.aisi.gov.uk/blog/our-evaluation-of-claude-mythos-previews-cyber-capabilities
网络安全专家对此有何评价？
前英国国家网络安全中心（NCSC）负责人 Ciaran Martin 在接受 BBC 采访时表示，Mythos 能比其他 AI 模型更快地发现关键漏洞的说法“真的让人震惊”。
“即使面对我们已知的、组织可能尚未修补的现有弱点，它也就像是一个非常优秀的黑客，”他说。
许多独立的网络安全分析师尚未亲自测试 Mythos，仍对其性能持怀疑态度。英国 AI 安全研究所（AI Safety Institute）得出结论，虽然 Mythos 是一个非常强大的模型，但其最大威胁在于防御薄弱、易受攻击的系统：
“我们无法确定 Mythos Preview 是否能够攻击防御严密的系统，”该研究所的研究人员写道。
我们应该担心吗？
对 AI 的担忧并不新鲜。新模型和工具不断出现，常常伴随着要彻底改变我们生活的承诺——无论是好是坏。恐惧与兴奋的混合已成为该行业营销策略的标志。
就 Mythos 而言，我们仍然没有足够的信息来判断希望或担忧是否合理，还是仅仅是行业炒作的映射。
路透社 – Anthropic CEO 达里奥·阿莫代此前已警告其产品可能被滥用。
根据国家网络安全中心（NCSC）的说法，现在最重要的不是惊慌，而是把基本的网络安全做好。大多数黑客并不需要超级 AI 工具；更简单的攻击往往就足够了。
“对某些人来说这是一次末日事件，对另一些人来说则是大量的炒作，”马丁在接受 BBC 采访时说。
“从中期来看，这些工具提供了一个机会，可以修复互联网中许多根本性的漏洞。”
Tech Decoded：每周一将全球最大科技新闻直接送入您的收件箱。