如何查明你的AI供应商是否存在安全风险-创站实验室

在采用AI的何查过程中，最令人担忧的商否问题之一是数据泄露。想象一下这样的存安场景：一名员工登录到他们常用的AI聊天机器人中，粘贴了敏感的全风公司机密数据，并要求对其进行总结。何查就这样，商否机密信息被输入到了不受你控制的存安第三方模型中。

即使有数据防丢失(DLP)策略，全风预防AI数据泄露也颇具挑战。何查如果AI系统是源码库商否基于云的，且员工可以在外部访问它，存安那么公司可能永远不会知道自己的全风数据何时遭到了泄露。

此外，何查大多数AI供应商不仅提供网页界面，商否还通过API提供程序化访问，存安然而，API也带来了一个重大的安全盲点。如果AI供应商允许远程API访问，你如何验证是谁在使用它?如果攻击者获得了API令牌的访问权限，他们可以在不被发现的云计算情况下提取或操纵数据。

如果你在评估AI提供商，安全必须是首要考虑因素，尤其是在处理敏感业务数据时。以下是选择AI供应商时必须具备的安全功能：

1. 认证和授权标准

API访问绝不应通过用户名和密码授予。相反，应寻找基于令牌的认证：

• 供应商必须支持OAuth 2.0以进行安全令牌生成

• 令牌应继承或具有可分配的权限，以确保最小权限访问

• 禁止令牌共享。每个系统或用户都应有唯一的凭据

2. 令牌监控与生命周期管理

供应商应提供活动认证令牌的免费模板集中列表，并且令牌应包含元数据，如：

• 由谁创建

• 创建时间、最后修改时间和最后使用时间

• 分配的权限

• 是否仍然有效或已过期

3. 全面的API日志记录和审计轨迹

AI供应商必须提供API访问的审计日志，并且这些日志应可通过API进行实时监控。每个日志条目至少应包括：

• 访问的日期和时间

• 源IP地址

• 用于访问的令牌

• 执行的操作(例如，“创建新令牌”，“检索数据”)

• 成功或失败状态

高级日志记录应包括完整的API端点、模板下载HTTP方法和HTTP响应代码，以提供详细见解。

4. 透明的文档

AI供应商应以开放格式(例如，OpenAPI或Swagger)提供完整的API文档。如果没有适当的文档，组织将无法了解其AI交互的日志记录和安全性。

在研究了两年多的API安全后，我仍然对AI供应商中缺乏日志记录、监控和安全功能感到震惊。没有足够日志记录的服务器租用API创建了一个无形的攻击面，使得未经授权的访问可以在不被发现的情况下发生。

我们已经听说过API令牌在GitHub存储库中被泄露或在暗网论坛上被出售的恐怖故事。一旦攻击者获得了有效的API令牌，他们就可以无限期地利用它，直到有人发现为止。

AI已经到来，但安全不能再被忽视。在信任任何AI供应商处理敏感数据之前，组织必须要求透明的API安全、香港云服务器严格的监控和强大的认证控制。

如果AI供应商缺乏基本的安全控制，他们就会带来风险。AI供应商应为安全负责。如果AI供应商无法回答是谁在使用他们的API、上次访问时间以及如何使用它们，那么他们就不值得你的业务。