AI正在影响人们的日常生活，很多人在应用ChatGPT或Copilot在辅助自己的工作。借助于人工智能的帮助，业务处理能力可能带来十倍以上的产能增长。这一方面推动了工作方式的转变，同时也促进了AI的快速发展，新的AI应用程序、智能体、人形机器人等层出不穷。数量庞大的连接、大量的智能体以及无数应用程序的交互、非常复杂的工作流程以及架构，也带了全新的、规模超前且难以预知的风险。
1月16日, 思科发布人工智能防御系统（Cisco AI Defense）。将于今年3月上线的这一开创性解决方案旨在助力企业的AI转型进程。思科亚太、日本及大中华区总裁Dave West相信，此举将为思科自身及客户塑造未来数十年的世界。
在Dave West看来，不久的将来只有两类企业存在：一类是以AI为驱动、为前沿的公司，另一类是视AI无关紧要的公司，由于前者份额的不断增长，意味着人工智能的安全保障将成为未来最大的挑战之一。Cisco AI Defense就是针对这一挑战的思考与应对措施。
兼顾速度与安全，护航组织和模型以及传统三层架构
谈及架构，思科亚太、日本及大中华区网络销售和解决方案工程副总裁Raymond Janse van Rensburg指出，传统的应用程序有三层架构，分别是基础设施、数据和应用程序，而AI的诞生丰富了这一内容——架构被拓展至四层，那就是模型。大量的模型往往处于多个云当中，其非确定性决定了人类难以知晓其输出的内容，其不断发展变化的动态特性，也在不断创造新的风险。因此，保护组织和模型以及传统三层架构免受各类风险的影响十分重要。
Raymond Janse van Rensburg表示，所有问题及对策均与安全（Safety）、保障（Security）两个概念相关，前者是指类似偏差的注入问题，也就是模型是否做应该做或者人们期望它做的事情，后者是指保护保护模型免受来自于外部的威胁与攻击，并导致模型中的行为发生变更。
尽管模型的供应商在模型中纳入了安全相关的性能，但这些安全的标准可能与使用者所在组织中的安全标准存在差异。因此，安全要有共同的基础，在所有的AI模型以及应用程序和智能体中，实施相同的安全护栏。
在市场发展快速变化的情况下，绝不能够以牺牲安全为代价来追求速度，也不能够牺牲速度来确保安全。思科从根本上重新构想人工智能时代的安全和保障，有效兼顾了速度和安全；Cisco AI Defense并不是单点解决方案，而是集成的安全平台的一部分。
两大举措支持企业无缝创新并保障安全
思科全球人工智能软件和平台副总裁DJ Sampath表示，Cisco AI Defense通过两大举措支持企业无缝创新并保障安全：
一是以包括可视化方式了解员工、用户以及使用ChatGPT等各类AI工具与应用程序任何人员的过程，无需任何额外安装。对于AI应用程序的用户而言，学习曲线也很简单。如在上传保密信息的时候，他们会收到类似 “这些信息可能会包含个人数据，最好不要上传”等提示信息，如果他们试着复制粘贴一些恶意代码，也会收到警告。鉴于需求来自全球、法规各自不同且在不断变化，思科为不同地区定制保护措施，并确保它们符合相关地区的法规要求。所有这些操作都提供了极大的灵活性，使用的方便性。仅需点击思科AI助手，即可轻松化解任何疑惑。
二是为正在开发AI应用程序或AI智能体的任何人提供相应的安全。比如通过在公有云或私有云上执行安全护栏，监控这些工具正在做什么、哪些模型能够驱动它们，需要哪些数据来做训练、需要什么样的可视性以及提供足够高的可视性支持。
二者都是在大规模验证和大规模保护两个重要的创新基础上来推动的。
对于模型的验证过程，思科采用人工智能的算法红队来操控模型一系列问题，这些问题可能是如何非法启动或者偷窃一辆汽车等等，整个过程以目的为导向来建构，并且不断提高其效率或速度。思科采用了去年夏天推出的名为“攻击树”或 “剪制”的技术并将其整合，通过汇集的海量数据以可视化方式来验证效果。同时还与Scale AI等行业顶尖公司进行合作，利用数据进行更好的模型建设。
此外，思科还提出大量建议，比如因不同的护栏及结果对AI安全进行分类，研究团队进行认知超载攻击进行相关研究，进一步能够提升安全的等级，速度非常快，效率也非常高。
DJ Sampath认为这些举措在业界独一无二。他演示了Cisco AI Defense应用全过程及其效果，模型的验证快捷、高效，护栏的操作简便、可靠，风险的拦截及时可见。
思科正在推进其在不同的平台上应用，使得跟用户与应用连接更加紧密，提供更好的保护。该系统的核心点是基于早期推出的版本提供的海量反馈。
简单、便捷、高效、易操作
在业务管理中，负责运营安全的员工已经在使用多种监测工具，监督情况也变得相当复杂。思科不断地创新AI应用，提供多种方法让安全操作更加简单。如XDR AI助手可管理提示，减少警报疲劳的产生，技术插件TA可将人工智能防御系统无缝集成到Splunk中，让用户可使用SplunkAI助手来减轻可能从警报中看到的任何过载，从而简化修复响应。Cisco AI Defense还具有非常高的保真度，自动过滤大量误报。
DJ Sampath表示，思科在设计时就考虑到了良好的用户体验和可用性，让开发者无障碍地去使用，并支持其不断构建应用程序；Cisco AI Defense因为能够提供所有AI工具的可见性，因而能够对AI的管理进行进一步的简化，也意味着进一步提升AI应用的安全性。
对于即将部署Cisco AI Defense的新用户，最低的设置就是AI的云可见性解决方案，最多只需要5分钟就能够完成部署。由于思科的解决方案处于出口网关或代理服务器内部，对应的大部分是未加密流量；即使是加密的流量，也能终止SSL，然后通过查看请求响应提示提供所需要的安全性，确保护栏不会影响到系统性能。虽然可能导致数百毫秒的延迟，但在生成式AI用例中是可接受的。
强化与合作伙伴的密切关系
思科一直与合作伙伴紧密合作。Dave West表示，97%的业务是与合作伙伴共同进行合作完成的并在保证安全性方面取得巨大成功。DJ Sampath补充道，Cisco AI Defense面世之前，思科已面向主要的合作伙伴和渠道介绍了整个内容，并根据他们的反馈进行优化；思科将所有解决方案整合到思科安全云中，使MSSP能够通过该控制台配置和管理所有这些安全功能，进一步提升服务能力。
进入2025年，越来越多的AI智能体正在出现，这意味着人们需要了解当前环境所运行的AI到底是什么，并提供合适的治理以及管理政策，保护用户数据与隐私以及知识产权。思科持续与更多用户访谈，了解并保证其不断升级的需求，进行针对性的开发。
“在2022年，我们无法想象到2025年将会发生什么。如今已经是2025年了，AI的快速发展让人有点恐惧，但同时也让人感到兴奋。也许再过两年，AI可能会无处不在了。“Dave West总结说。
