思科(CSCO.US)发布AI安全服务 剑指OpenClaw等超智能体安全隐患

智通财经APP获悉，思科(CSCO.US)推出安全服务，旨在保护世界免受人工智能代理和其他各方的侵害。通过建立可信身份、实施严格的零信任访问控制、在部署前强化智能体、在运行时实施安全防护，以及为安全运营中心(SOC)团队提供以机器速度阻止威胁的工具，思科正在将安全性构建到新兴人工智能经济的基石之中。

例如，最近爆火的OpenClaw是一款广受欢迎的人工智能代理平台，在技术圈内备受追捧。该平台由 Peter Steinberger 开发，他后来加入了OpenAI。OpenClaw 允许用户设置自己的人工智能代理，这些代理可以在计算机上运行，执行从检查电子邮件、回复消息到管理系统文件等各种任务。

虽然这些功能令人印象深刻，但它们也可能带来安全隐患。这是因为用户赋予了人工智能模型控制自己电脑的权限。虽然这在正常情况下很棒——超级自动化，但它也可能导致严重的问题，例如永久删除重要的电子邮件或系统中的整个程序。

对于在企业设备上测试 OpenClaw 的公司来说，这会成为一个更大的问题。为此，许多组织正在推出新的安全产品，旨在控制 OpenClaw，防止其人工智能代理带来弊大于利的后果。

上周，英伟达(NVDA.US)在加州圣何塞举行的 GTC 大会上推出了自己的此类平台NemoClaw，而思科则在周一展示了其进军该领域的成果。

“OpenClaw 就是 ChatGPT 对客服人员来说的意义所在，它实际上是一个催化剂，让精通技术的用户更容易在工作场所和家中部署客服人员，”思科总裁兼首席产品官Jeetu Patel解释道。

Patel补充道：“不利的一面，也是挑战所在……是这些特工的信任和安全风险。因为这些特工……他们有点像青少年。他们极其自信，缺乏经验，没有充分意识到后果，也不知道规则在哪里。”

为了解决这些担忧，思科表示，它正在采取多管齐下的方法，力求保护世界免受流氓人工智能代理的侵害，保护人工智能代理免受世界的侵害，并利用人工智能来检测来自恶意行为者和黑客的潜在威胁。

用“保卫世界免受人工智能威胁”来形容这件事听起来有些夸张，但Patel认为并非如此。人工智能和其他任何软件一样，都可能被利用来攻击基础设施或窃取敏感数据。

Patel表示：“这些人工客服的风险远高于聊天机器人。聊天机器人最糟糕的情况是给出错误的答案。而人工客服最糟糕的情况是客服人员采取了错误的行动，其中一些行动可能会造成灾难性的后果，例如清空你的银行账户或删除你的电子邮件，这些操作都无法撤销。”

思科和其他公司一样认为，最好的办法是像对待人类员工一样对待人工智能代理，赋予它们可验证的身份，然后对其进行管理，并为这些数字助手提供对正确系统和服务的适当访问权限。

与此同时，保护人工智能代理免受外界干扰，旨在防止黑客破解人工智能并强迫其执行原本不会执行的任务。

思科表示，为了实现这一目标，它正在推出一项服务，该服务将允许客户测试其人工智能代理在模拟攻击下的性能，以了解它们在哪些方面表现出色，在哪些方面存在不足。

最后，该公司表示，它正依靠代理来应对其他人工智能威胁，确保客户能够以与攻击者相同的速度对各种情况做出反应。

OpenClaw只是人工智能爆炸式发展的最新成果，并且很可能在不久的将来推动更多变革。毕竟，它才于去年11月首次亮相，就已经开始影响各大公司的商业决策。当然，这将需要更多类型的网络安全技术和方法来帮助防御者赶上攻击者。