生成式AI时代，亚马逊云科技如何平衡业务创新与安全风险？-DOIT

2024年6月，亚马逊云科技一年一度的安全主题大会re:Inforce在美国费城召开。

大会发布了多项安全服务，对于安全领域的从业者来说，这些发布都是真正需要的。而且，这场大会，可以让他们学到更多关于安全的实践经验和实用技能。

令人好奇的是，在生成式AI引起广泛关注的背景下，亚马逊云科技要如何利用它来构建云服务，同时，还要注意安全相关问题呢？针对这一问题，Hart Rossman进行了详细的介绍。

Hart Rossman是亚马逊云科技全球客户安全技术支持与服务副总裁，他的工作以保障服务的安全为主，同时推动亚马逊云科技在安全领域的持续创新和改进。

安全工作的领导者一定要了解新技术

Hart认为，作为安全工作的领导者，一定要先了解所要保护的技术内容才能提供安全保护。

一位银行的首席安全官向 Hart表示，他希望他的安全领导者首先是银行从业者，其次才是安全从业者。他雇用了很多安全工作者，但他始终认为，只有当他们成为行业专家时，才能够做出正确的安全和风险管理决策。

对于了解机器学习的人来说，生成式AI也不是什么新奇的事物，只是因为它带来了新的互动方式而格外引人瞩目。事实上，亚马逊云科技在这一领域也深耕许久。

Hart认为，生成式AI是安全领域的一个关键时刻。为了帮助客户进行创新，安全领导者必须深刻理解技术原理和应用场景，并开发新的安全手段。

眼下，生成式AI的用例还不明确，但客户和业务人员那里或许有更好的答案，了解这些需求可以更好地帮助他们实现快速创新。

所以，安全工作最大的挑战就是，既要让用户能快速行动来实现创新，同时又要保持安全，两者显然存在一定的矛盾，需要做出权衡。

Hart表示，为了确保生成式AI技术的安全应用，我们需要更新思维模式，需要重新考虑如何保护我们的工作负载、业务和创新。

生成式AI安全范围矩阵与三个实践经验

为此，亚马逊云科技在几个月前发布了生成式AI安全范围矩阵，它总结了在安全领域的研究成果，帮助安全领导者、开发者和审计员思考生成式AI技术应用场景。

Hart介绍称，亚马逊云科技自身在使用范围矩阵的时候，也学到了三项重要的经验。

首先，身份和访问控制的重要性。确保身份和访问控制的正确性是非常重要的，要遵循“最小权限原则”，确保没有人能利用生成式AI服务获取他们通常不能访问的信息。期间会用到Cedar、Verified Permissions、Amazon IAM和Access Analyzer等技术。

第二点，与数据所有者合作，而不是单独进行开发。个体贡献者在开发生成式AI应用时，应与数据所有者沟通，因为他们的计划中可能已经包含了类似的想法，从而避免重复工作。此外，个人贡献者可以提供反馈，协助优化用例和安全模型，确保项目更好地部署。

第三点，要全面考虑整个架构。在引入新技术时，常常会关注新技术的新颖性，容易忽略整体架构。生成式AI应用不是孤立部署的，而是复杂系统的一部分，因此需要全面考虑整个架构，确保实施合适的控制措施，对整个基础设施和工作流的生命周期进行审计。

亚马逊云科技面向生成式AI开展的安全工作

除了这些经验之谈，亚马逊云科技在产品技术层面也有很多安全相关的举措，在Amazon Nitro、Amazon KMS等技术的基础之上，还面向生成式AI相关服务做了很多有针对性的优化。

Amazon Bedrock和Amazon SageMaker是亚马逊云科技在AI方面的重要服务，都可以简化模型的验证和定制过程。其中，Amazon Bedrock可以确保数据在传输和存储中是加密状态，同时，搭配Guardrails可以确保模型输出的安全性。

此外，新公布的安全参考架构可以更好地将所有工具进行整合。亚马逊云科技还将各种云服务和工具整合在一起，以确保生成式AI的安全性和可观测性，其中会涉及到一些安全工具，比如Amazon Maci、Amazon Inspector、Amazon Detector等。

亚马逊云科技还在利用生成式AI改进安全工作流程。比如，基于Amazon Bedrock开发的支持系统，可以利用生成式AI帮助安全响应人员提高效率，可以快速、安全地识别、分类问题，甚至可以与其他工具和调查技术相关联，加快处理的速度。

有了这套系统，在解决安全问题时，大概平均使用10个查询或提示词即可。Hart表示，我原本不确定它会如此有用，但结果安全人员都非常喜欢，它极大加速了他们以高标准调查和解决问题的速度，这非常棒。

亚马逊云科技的客户事件响应团队（CIRT）专门帮助客户处理在亚马逊云科技共享责任模型下发生的安全事件，在看到Amazon Bedrock和Amazon Q之后，该团队也在考虑如何利用这些技术提供更好的响应体验，帮助事件响应人员更充分了解所调查的领域。

为了探索如何更好地应对涉及生成式AI系统的安全问题，并研究使用生成式AI提高调查结果的方法，亚马逊云科技提出了一个心智模型（Mental model），模型包含七个调查要素，涉及访问控制、计算变更等多个方面。

安全实践要付诸行动

最后，Hart强调说，作为安全工作的领导者，不要把了解到的最佳实践停留在纸面上，而是要付诸实践，通过部署生成式AI技术来提高安全操作水平。

亚马逊云科技提供了工具和经验，帮助安全工作的领导者可以更快、更安全地展开创新，并为客户提供更好的安全保障。

Hart的介绍展示了生成式AI在安全领域的巨大潜力，并提供了具体的实践指南，帮助安全专业人员在快速创新和保持安全之间找到平衡。

生成式AI时代，亚马逊云科技如何平衡业务创新与安全风险？