数据中毒成为人工智能系统日益增长的威胁

来源：千家网 2023-09-28

导读

数据中毒的兴起已成为人工智能系统可靠性日益令人担忧的问题，黑客将欺骗性信息植入生成式人工智能模型中以施加控制。这些受污染的数据一旦注入，可能会产生深远的影响，当用户使用这些人工智能系统时，会导致错误信息和错误。

什么是数据中毒

"数据中毒"这个术语通常用来描述当数据库或计算系统受到有害或恶意数据的影响时的情况。数据中毒是信息安全领域的一个重要概念，它指的是对数据进行恶意篡改、操纵或注入以破坏系统的行为。数据中毒可以采取多种形式，包括以下几种：

SQL注入（SQLInjection）：这是一种常见的数据中毒形式，黑客试图通过在输入字段中插入恶意的SQL查询来获取数据库中的数据或执行不当操作。

跨站脚本（Cross-SiteScripting，XSS）：攻击者通过向网页注入恶意的脚本代码，使用户的浏览器执行这些脚本，从而可能窃取用户的信息或执行其他恶意操作。

恶意文件上传：攻击者上传包含恶意代码的文件，这些文件可以被服务器执行，从而导致系统受到攻击。

恶意数据输入：攻击者可以通过输入包含恶意数据的表单或输入字段来破坏应用程序的正常运行，导致应用程序崩溃或执行不当操作。

NoSQL注入：与SQL注入类似，但是目标是NoSQL数据库，攻击者试图利用没有充分验证的用户输入来干扰数据库操作。

数据中毒成为人工智能系统日益增长的威胁

数据中毒可能会导致数据泄漏、系统崩溃、恶意操作或信息盗取等安全问题。为了防止数据中毒，开发者和系统管理员应采取严格的安全措施，包括验证和清理用户输入，实施访问控制和使用安全编程实践，以减少潜在的攻击面。此外，定期的安全审计和漏洞扫描也是防范数据中毒的有效手段。

为了对抗数据中毒，专家建议采取某些预防措施。建议在信任网站之前先验证网站的真实性。坚持使用可靠来源可以降低风险。此外，用户在陌生网站上分享个人信息时应谨慎行事。

生成式人工智能模型带来了一系列挑战。最初，他们接受了避免解决敏感或危险问题的培训，但他们仍然可能被操纵提供不正确的信息。在纠正用户和防止错误信息传播之间，取得适当的平衡仍然是一个持续的挑战。

Deepfake技术是另一个新兴威胁，涉及对图像和音频进行操纵，以创造令人信服的虚假内容。这种技术可以被用来传播虚假信息和损害声誉。

在政策建议方面，一系列拟议的行动旨在解决这些问题。这些措施包括为人工智能的开发和应用建立明确的指导方针和道德标准，建立一个登记处，让人工智能提供者承担责任，并促进政府参与人工智能研究。与所有这些并列的是，考虑建立监测实体，以减轻深度虚假内容和错误信息的传播。

CIBIS峰会

由千家网主办的2023年第24届CIBIS建筑智能化峰会即将正式拉开帷幕，本届峰会主题为“智慧连接，‘筑’就未来”，将携手全球知名智能化品牌及业内专家，共同探讨物联网、AI、云计算、大数据、IoT、智慧建筑、智能家居、智慧安防等热点话题与最新技术应用，分享如何利用更知慧、更高效、更安全的智慧连接技术，“筑”就未来美好智慧生活。欢迎建筑智能化行业同仁报名参会，分享交流！