企业如何获得生成式AI时代的数据“安全感”？

天生式野生智能()正在成为任何人都无奈疏忽的生产力变量。在它的眼前，以往的常识与技艺壁垒开端松动以至坍塌，并为各畛域机构的立异带来新的无限可能性。

但企业应用天生式AI举行营业立异的同时也难免面对新的隐忧。企业或机构向天生式AI模子供应数据——很多是触及焦点营业及客户信息等关头数据——是否能被妥当地保存、应用，及举行需要的断绝;另有天生式AI的一些“固有题目”，如怎么样完成负责任的AI，过滤无害内容，确保内容吻合本地及企业政策等题目……

平日情况下，规模化天生式AI使用都发生在云端，更多企业机构也将依赖于云开展天生式AI的营业立异。是以，咱们能够将天生式AI的平安话题，看做是对云计较平安提出的新挑衅。

亚马逊云科技对AI的研讨已继续数年，此中包孕天生式AI使用被普遍应用后发生的平安需要演化。关于云计较平安，亚马逊云科技的立场是一贯的——在营业早期就思量平安要素，自动设想而不是被动呼应。聚焦到天生式AI相干办事、功能及使用，亚马逊云科技在其平安的根底办法之上，在天生式AI办事及性能设想之初就充沛思量了平安要素，并进一步构建了负责任AI的防护机制。与此同时，亚马逊云科技也在应用天生式AI来赋能已有的或新推出的平安办事。这些行动赞助亚马逊云科技的客户在应用天生式AI办事时能取得不逊色于以往任何时间的平安体验。

从底层根底办法层面完成对天生式AI事情负载数据的断绝与加密维护

企业应用天生式AI最大的顾忌之一是若何维护他们的数据及隐衷平安。企业可能会应用高度敏感的如小我私家数据、合规数据、运营数据和财政信息用于模子优化或应用天生式AI使用。

企业为了安全地应用天生式AI，首先应思量三个题目：1)数据在那边?企业需求晓得用数据锻炼模子的全部事情流程中，这些数据来自哪，以及是若何被处置和维护的。2)若何处置模子推理时的输出和输入数据?锻炼数据并非企业需求存眷的仅有敏感数据集，企业查问自身也应当成为数据维护规划的一部分。3)天生式AI模子的输入是不是正确?分歧的天生式AI的应用场景对准确度和危险的请求分歧。假如企业正在应用大型言语模子来天生代码，那末企业就必须要确认这个代码是不是写得足够好，是不是遵照了企业的最好实际等等。

亚马逊云科技对客户天生式AI的维护始于其根底办法。亚马逊云科技独占的云服务器虚构化引擎Amazon Nitro将主机CPU/GPU的I/O性能卸载至特地的硬件上，非但供应了加倍同等的功能，其加强的安全性能够在客户端和云端全程维护客户的代码和数据在处置过程当中的平安。这一独占的性能曾经获得了当先的网络平安公司NCC Group的自力考证。

Nitro体系供应的硬件级别的平安机制，首先从设想大将客户数据与运营商举行完整断绝，即亚马逊云科技作为运营商无奈造访客户在Amazon Elastic Compute Cloud (Amazon EC2)实例上运转的包孕天生式AI相干在内的事情负载或数据。其次，客户还能够经由过程Amazon Nitro Enclaves和Amazon Key Management Service(Amazon KMS)，应用密钥加密敏感的天生式AI数据，将其存储在指定的地位，并安全地将加密数据传输到断绝的计较环境中举行推理计较。另外，亚马逊云科技还将Amazon Nitro Enclaves和Amazon KMS端到端加密流程进一步扩展到如Amazon Trainium2和其余GPU，进一步加强用户天生式AI数据在根底办法设置装备摆设间的平安通讯。

在天生式AI办事的设想之初就思量安全性，并成为负责任的AI

除了构建平安的环球云根底办法，亚马逊云科技的平安不止平安办事，其所有办事均有平安基线。亚马逊云科技倡始在新办事设想早期就思量平安要素。

以天生式AI完整托管办事Amazon Bedrock为例，作为一项为让客户便捷地应用根底模子构建和扩大天生式AI使用步伐的云办事，Amazon Bedrock在设想之初就思量了若何发扬根底办法平安才能，以及AI办事自身的平安需要。亚马逊云科技和第三方模子提供商不会应用 Amazon Bedrock 的任何输出或输出来锻炼其根底模子。在应用Amazon Bedrock时，客户的数据在传输进程中和动态存储时都经由加密，客户的所有数据都是一直平安且私密的。客户能够应用Amazon PrivateLink创建从Amazon Virtual Private Cloud(Amazon VPC)到Amazon Bedrock的公有连贯;或许接纳基于身份辨认的平安计谋，例如在应用Amazon KMS建立、治理和操纵加密密钥时，界说哪些用户或脚色能够在甚么条件下对哪些资本施行甚么操纵。

关于云计较用户来讲，数据与隐衷平安并不是天生式AI带来的“新话题”。但天生式AI也确凿带来了像“负责任的AI(Responsible AI)”这类AI时期独占的平安磨练。当客户在应用Amazon Bedrock这种天生式AI办事时，不能不思量过滤无害内容，确保内容吻合本地及企业政策等题目。

为此，Amazon Bedrock配备了赞助客户实行负责任AI的防护机制(Guardrails for Amazon Bedrock)。相比于一些AI大模子仅经由过程外部操纵模块来过滤内容，Amazon Bedrock的防护机制能让客户进一步定制AI使用步伐，以便吻合分歧规范的内容政策。

客户只要供应一个天然言语描绘来界说其使用步伐上下文中被谢绝的主题，即可建立个性化的防护机制，还能够设置阈值，跨畛域过滤诸如怨恨谈吐、凌辱、暴力等言语，以及配置过滤器来删除任何个人和敏感信息、轻渎谈吐或特定的屏障词。经由过程这类“内置+定制”的两重防护机制，更大限度保障基于天生式AI的营业能精良实际负责任的AI请求。

借助天生式AI的才能让平安更容易完成

在云环境中，天生式AI其实不仅仅是“被保护者”，它本身也能成为晋升平安的壮大对象，从营业早期就可以提醒那些暗藏的、未被意想到的危险。

代码编写体式格局是信息平安中最大的变量之一，一些小问题就可能致使紧张的平安前因。包孕天生式AI模子本质上也是代码，也大概由于代码编写的缝隙而存在平安隐患。从平安角度来看，从一开端就编写出平安的代码，无疑比在编写完成后，曾经进行了测试，以至曾经托付后再去修正要好得多。

为了赞助云计较客户杀青吻合平安需要的代码编写，亚马逊云科技将AI才能运用到代码生成器上，以办事或性能的体式格局提供给客户。

亚马逊云科技推出的用于IDE(集成开辟环境)和命令行的AI生产力对象Amazon Q Developer，是一个以机械进修为能源的代码生成器，直接在集成开辟环境中为开发者供应及时代码倡议。Amazon Q Developer不仅能极大晋升开发者的编码服从，并且还能让代码加倍平安。它内置了平安扫描性能，可以或许扫描代码以检测难以发明的缝隙，并依据客户的代码，供应专属修复倡议，赞助开发者实时倏地修复该缝隙。

Amazon Q Developer异样为客户供应了定制化的抉择，以便应用本人的公有代码库来晋升产出结果。为了确保用于开辟的数据处于断绝计较环境，以及避免统统未经受权的造访，Amazon Q Developer配置了一系列弗成变换的平安机制，包孕分歧事情负载之间的数据断绝，Amazon KMS对动态数据的加密，基于身份认证的数据造访受权，以及数据存储时的加密和逼迫断绝。

一些原有的平安办事也正在逐步经由过程天生式AI取得新的性能。比方缝隙治理办事Amazon Inspector，它的Amazon Lambda函数代码扫描功能从客岁开端应用天生式AI和主动推理的辅佐代码修复，以简化更新易受袭击代码的进程。Amazon Detective也在客岁增加了应用天生式AI来构建平安事情描绘的才能。天生式AI能够主动阐发考察发明组并以天然言语供应洞察，赞助平安工程师加速平安考察。

这些基于天生式AI的立异办事和新的进级，为平安事情制造了更便捷、更高效的新大概。咱们能够等待，企业的平安工程师将可以或许以更少的事情担负来杀青目的，使企业得以更自在地应答各类平安危险。

写在最初

在不远的将来，天生式AI将如同当下的互联网与云计较同样变得无处不在。虽然新的数字手艺产品也将无可防止地带来新的平安挑衅，但咱们无需为此太过耽忧。成熟的平安防护机制，加之新的平安性能，足认为云上天生式AI营业构建起靠得住的平安环境。自身也成为平安立异的助力，让新的平安性能更具主动性，加倍简略易用。

云计较厂商积存的教训与聪明，将连续在AI时期护航用户的平安——经历过数次庞大手艺变更以后，平安工作者愈发晓得若何应答变更，让新事物的到来可控且有序。