生成式AI不仅带来了前所未有的创新潜力，同时也提出了新的安全挑战。企业必须确保技术在所有可能情况下都能按预期运行，以保障数据安全。
亚马逊云科技在AI和机器学习上的投入已经有超过20年的经验，未来也将会继续在安全服务上应用大模型和机器学习。亚马逊云科技平台副总裁Kurt Kufeld强调，现在的重点不是建立更多服务，而是应用我们现有的数据和技术，然后提供一个更简洁的答案给客户。
自动推理（Automated Reasoning）是一种使用数学方法尝试每一种可能性的技术。Kurt Kufeld表示，自动推理是解决复杂问题的利器，能够确保我们的代码在所有可能情况下都按预期运行。
亚马逊云科技正在使用自动推理进行API调用的授权检查。Kurt Kufeld谈到，每个API的调用通过自动推理能够验证这段代码的正确性。
在90年代初，浮点处理器错误的历史教训值得深思。亚马逊云科技也利用自动推理验证IM访问分析器和Amazon S3公共访问等服务的安全性，通过自动推理能够证明这些服务的代码在所有可能情况下都按预期运行，确保了系统的安全性和可靠性。
亚马逊云科技还计划将自动推理扩展到更多领域。Kurt Kufeld认为，自动推理将彻底改变软件编写方式，显著提高代码的可靠性。同时计划让普通人员也能轻松使用自动推理，提升代码质量和系统安全性。
生成式AI具有广泛的应用潜力，但也有潜在的威胁，是一把双刃剑。生成式AI不仅可以生成高质量的图像和视频，还可以用于代码的生成和分析，但这种能力可能被恶意利用，如创建深度伪造或生成攻击向量，从而对数据安全构成威胁。
“这意味着我们不仅可以利用生成式AI来提高开发效率，还必须警惕其可能带来的安全风险。”Kurt Kufeld说道。
面对生成式AI的潜在威胁，亚马逊云科技采取了一系列安全措施。首先，通过隔离保护客户的专有数据，防止数据泄露和滥用；其次，利用生成式AI优化现有的安全服务，帮助客户更有效地应对安全威胁。
当然，尽管当前许多所谓的AI技术实际上是基于机器学习，但真正的人工智能仍然处于发展的初期阶段。Kurt Kufeld希望给客户一个正确的引导，需要更精确地描述这些技术，以避免误导用户。
Kurt Kufeld描绘了一个更加智能和安全的未来，从自动化推理的精确验证，到生成式AI的广泛应用和严密防护。在技术不断演进的过程中，亚马逊云科技将在自动推理和生成式AI领域进行深入研究和应用，为全球客户提供更加可靠和安全的云服务，推动企业迈向新的高度。
本文为澎湃号作者或机构在澎湃新闻上传并发布，仅代表该作者或机构观点，不代表澎湃新闻的观点或立场，澎湃新闻仅提供信息发布平台。申请澎湃号请用电脑访问。