2024年大数据行业预测（六）

2024年大数据行业预测（六）

安全

GenAI将在2024年证明现有的安全意识培训已经过时；组织将对其计划进行现代化改造，以应对这些新的、更复杂的威胁。随着GenAI在不良行为者社区中的大规模消费，传统安全意识培训的价值将迅速下降。企业将对安全意识计划进行现代化改造，包括持续以用户为中心的控制，增强识别和防御当今现代社会工程攻击的能力，同时提供实时用户指导，以防止用户在不经意间意外成为此类攻击的受害者。–Curtis Simpson，Armis首席信息安全官
2024年，由于人工智能的出现，钓鱼培训将不再流行：由于人工智能，现代的对手正在用新的创新来提升其攻击游戏。高级LLM将使攻击者更容易制作完美的网络钓鱼电子邮件，不会留下错别字或奇怪的格式供受害者捕获。因此，我们所知道的网络钓鱼培训将变得过时。企业将需要寻求其他形式的网络安全培训，以确保其关键资产受到保护，并采用更复杂的防御措施。–Eric Skinner，Trend Micro副总裁
随着人工智能增强攻防战略，API安全不断发展：2023年，AI开始改变网络安全，在进攻和防御安全方面发挥着关键作用。传统上，识别和利用复杂的一次性API漏洞需要人工干预。人工智能现在正在改变这一格局，使流程自动化，从而实现具有成本效益的大规模攻击。我预测到2024年，攻击的复杂性和可扩展性将显着增加。随着人工智能成为恶意行为者和防御者的强大工具，我们将见证一个关键的转变，重新定义数字安全的动态。–Shay Levi，Noname Security首席技术官兼联合创始人
欺骗性AI驱动技术将在2024年变得突出：随着时间的推移，网络安全的复杂程度呈指数级发展，但随着生成式AI变得更加突出，2023年出现了一些最快的创新。由于这些工具通常普遍可用且易于访问，因此我们必须评估其对当前网络环境造成的风险。生成式人工智能对于网络安全行业而言是一把双刃剑，其可以让防御者变得更快、更有能力，但也为对手做同样的事情。随着生成式人工智能在模仿人类方面变得越来越好，攻击者的技术变得越来越具有欺骗性，也越来越难以被发现，这使得传统的社会工程迹象更难以从第一接触点识别出来。这些趋势将持续到2024年，并且变得更加危险。重要的是，该行业的能力在来年继续跟上攻击者对生成式人工智能和5G等新兴技术的使用。–Siroui Mushegian，Barracuda首席信息官
人工智能将在组织如何分析安全数据，并采取行动方面发挥越来越重要的作用：我们将开始看到使用人工智能与分析和运营手册相关的可量化的好处。这些优势将有助于缓解安全运营中心(SOC)分析师目前所做的一些繁重工作。人工智能还将有利于响应和缓解能力转化为操作能力。–Mike Spanbauer，Juniper Networks首席技术官
从生产力到危险：人工智能对身份安全的影响：在数字化转型的更广泛背景下，人工智能以前所未有的方式提高了生产力，并开辟了非凡的可能性，例如创建与人类创造的内容几乎没有区别的逼真图像、视频和文本。但在即将到来的一年里，组织必须做好迎接人工智能这把双刃剑的准备。这种超现实内容生成的能力具有深远的影响，生成式人工智能的兴起，将增强基于身份的攻击。人工智能的发展与更广泛的基于身份的风险和漏洞交织在一起，包括日益增长的网络钓鱼和鱼叉式网络钓鱼活动的威胁，以及攻击者针对特定个人或群体的技术，并且通常会包含已知目标感兴趣的信息。由于人工智能的能力，这已经呈现出新的维度。进入2024年，组织必须保持警惕，了解技术风险，投资先进的安全措施，并全面了解其身份基础设施，以便有机会抵御威胁行为者。–Yaron Kassner，Silverfort联合创始人兼首席技术官
人工智能将推动主动安全模型的采用。人们将更加关注主动方法和工具，包括防火墙、零信任、恶意软件和强化。GenAI面临的最主要威胁问题是，日益增长的隐私问题、无法检测的网络钓鱼攻击以及攻击数量/速度的增加。应对人工智能带来的复杂安全挑战，需要战略规划和主动措施。安全问题以一种近年来从未有过的方式出现了。–Mike Loukides，O’Reilly Media副总裁
人工智能的快速应用将需要安全专业人员进行新的评估：ChatGPT面世已经一年了，自其首次亮相以来，我们已经看到人工智能工具的大规模扩散。说其改变了组织的工作方式是一种保守的说法。然而，随着组织急于采用人工智能，许多组织对如何实现正确的安全控制缺乏基本的了解。到2024年，安全团队面临的最大挑战将是，妥善保护其组织已经使用的人工智能工具和技术。我们已经看到了针对GenAI模型的攻击，如模型反演、数据中毒和提示注入；随着行业采用更多的人工智能工具，这些新型应用中的人工智能攻击面将会扩大。这将带来一些挑战:改进人工智能的使用方式，以帮助提高效率和威胁检测，同时应对这些工具引入的新漏洞。再加上不良行为者也在使用这些工具来帮助自动化新威胁的开发和执行，这已经为新的安全事件创建了一个成熟的环境。就像任何新技术一样，企业在采用人工智能时需要平衡安全性、便利性和创新性，并确保其了解人工智能的潜在影响。–Chaz Lever博士，Devo安全研究高级总监
消费者将更加关注人工智能：最近的一项调查发现，超过一半(51%)的消费者曾是身份盗窃的受害者，或者认识受害者，81%的消费者担心在网上购物时出现人工智能欺诈。消费者和企业有保护自己和彼此的社会责任，呼吁更多的安全工具来保护个人信息。企业对消费者层面还必须加强教育，以避免数据泄露，例如在线购物时，以及购物者在零售商网站上保存支付信息时。身份验证工具，例如移动身份验证，的重要性会越来越凸显。–Tim Brown，Prove identity全球身份认证官
警惕2024年生成式人工智能的武器化：今年和未来的最大威胁涉及生成式人工智能的武器化，以驱动更复杂的网络钓鱼攻击，以及我们将如何从安全角度解决这一问题。我们知道，人类的训练不足以阴止商业电子邮件泄露(BEC)攻击的成功。根据美国联邦调查局（FBI）的《互联网犯罪报告》，在2022年，仅BEC就造成了约27亿美元的损失，其他类型的网络钓鱼造成了5200万美元的损失。有了这样的激励，网络犯罪分子越来越多地加倍进行网络钓鱼和BEC尝试，而生成式人工智能进一步推动了这一过程。到2024年，我们将看到更多此类人为攻击，由于使用了人工智能，这些攻击变得更加复杂和有针对性。我们需要重新考虑如何应对这一问题的路线图。我们应该预料到，基于人工智能的攻击会加速，变得更加普遍和有针对性，而且也会更加成功。攻击者正在从依赖大量网络钓鱼电子邮件的发送方式，转变为现在针对具有某人身份、银行帐户或个人详细信息的特定信息的人，这使得诈骗更加令人信服。我们将看到这些社会工程攻击的针对性和复杂性，以及最终的成功都显著增加。电子邮件将继续成为最大的威胁媒介，但我们现在在任何地方都可以看到这些攻击，包括短信、语音消息、Slack等工作协作工具和社交媒体。在任何可以收到个人和商业消息的地方，都可能受到攻击。–Patrick Harr，SlashNext首席执行官
安全数据共享成为生成式AI驱动的网络防御的关键：生成式AI是一种双重用途的技术，有可能引领人类前进；但如果管理不当，则使人类倒退，甚至走向潜在的灭绝。API推动系统、软件和数据点之间的集成，对于以安全、受保护的方式实现人工智能的潜力至关重要。人工智能在网络防御中的应用也是如此。到2024年，组织将认识到安全的数据共享，对于构建强大、有弹性的人工智能驱动的未来至关重要。虽然人工智能无疑证明了人类的聪明才智和潜力，但其安全和合乎道德的应用势在必行。这不仅仅是获取人工智能工具；这是安全集成的责任和义务，主要是通过API促进的。–Ameya Talwalkar，Cequence Security首席执行官兼创始人
人工智能驱动的攻击和防御：网络犯罪分子将越来越多地使用人工智能(AI)来自动化和增强其攻击。作为回应，网络安全防御将更多地依赖人工智能和机器学习来进行威胁检测和自动事件响应，从而形成一场持续的算法之战。–Joseph Carson，Delinea首席安全科学家
威胁行为者将赢得2024年人工智能之战：生成式人工智能的兴起引发了一场激烈的争论。组织会及时利用生成式人工智能，还是威胁行为者会更快地利用生成式人工智能来获得优势？不幸的是，随着威胁行为者在采用生成式人工智能方面超过组织，天平将向黑暗面倾斜。准备好应对深度伪造、复杂的网络钓鱼活动，以及逃避端点安全防御的隐形有效负载的无情攻击。这些挑战将以前所未有的方式，考验网络安全防御者的勇气。–Aleksandr Yampolskiy博士，SecurityScorecard联合创始人兼首席执行官
黑客将开始利用人工智能，制造一场危机：虽然这是伟大技术创新的意外后果，但我们将开始看到人工智能落入不良行为者之手可能造成损害的证据。人工智能工具可以帮助黑客提高一个数量级的生产力。这将使其能够更快地植入恶意软件，发现漏洞，并利用弱姿态。 –Ratan Tipirneni，Tigera总裁兼首席执行官
人工智能已经为网络防御者提供了巨大的优势，使其能够提高能力、减少劳动并更好地防御威胁。我们预计这些功能和优势将在2024年激增，因为防御者拥有该技术，从而根据特定用例指导其开发。从本质上讲，我们拥有主场优势，并打算充分利用。另一方面，虽然我们的一线调查人员在2023年发现攻击者使用人工智能的情况非常有限，但到2024年，我们预计攻击者将使用生成式人工智能和LLM来个性化并缓慢扩展其活动。攻击者将尽其所能来模糊良性和恶意人工智能应用之间的界限，因此防御者必须采取更快、更有效的响应行动。–Phil Venables，Google Cloud首席信息安全官
随着网络安全攻击风险的上升，到2024年，政府必须采取积极主动的安全措施，确保其与居民的官方沟通渠道不被利用或受到影响，并且首先要非常谨慎地处理从居民那里获得的任何敏感信息。每个人都应该寻找的主要部分是，设置多重身份验证的能力，使威胁行为者尽可能难以进入潜在的通信系统，如Facebook或X(以前的Twitter)。–Ben Sebree，CivicPlus研发高级副总裁
生成式AI的新恶意用途将会出现：对人工智能的恐惧是有根据的，但不是我们预期的方式。内容创建虽然对网络安全构成风险，但现代解决方案可以解决这一风险。真正的威胁是，生成式人工智能正在开发计划和组织攻击的能力。如果这种情况发生，那就意味着人工智能可以动态设计和执行攻击，并利用互联网上的信息来实现这一点。生成式人工智能有望消除我们相对于对手的最大优势：复杂攻击所需的时间和资源。如果生成式人工智能能够策划攻击，就会极大地改变力量平衡。如今，黑客需要数周时间才能发现漏洞。未来，人工智能可以在几秒钟或几分钟内完成同样的事情；而且不需要一支具有不同技能的黑客团队，只需要一个人来处理人工智能。–Adrien Gendre，Vade首席产品和技术官
人们很容易通过极其负面的视角，来看待不良行为者为邪恶目的而对微调LLM的网络安全影响。虽然人工智能确实将使黑客能够扩展其所做的工作，但对于安全专业人员而言亦是如此。好消息是各国政府并没有坐以待毙。构建定制LLM为其他注重安全的政府机构和商业组织提供了一条可行的前进道路。虽然只有资金雄厚的大型技术企业才有资源从头开始建立LLM，但许多企业都拥有专业知识和资源来微调开源LLM，以减轻不良行为者的威胁。我们有责任确保，无论出于恶意目的而创建的是什么，都要有一种平等的、相反的力量，来为善创造相同的工具集。–Aaron Mulgrew，Forcepoint解决方案架构师
自2022年以来，我们见证了数据安全和监管合规技术领域的显著转变。这一转变标志着技术整合的开始，预计未来几年将持续下去。随着消费者寻求满足数据安全和监管要求的解决方案，同时最大限度地减少所需的专业知识、成本和工作量，利基和单一解决方案产品和供应商越来越受到收购和合作伙伴的追捧。使2024年变得特别有趣的是最近的发展和收购，目前表明供应商将在新的一年中采取一些不同的路径——一些供应商将优先考虑增强其云功能，而另一些供应商将合并现有技术，以提供整合的一体化产品。其他企业只是想回答数据风险问题。这些发展将会有重叠，但最终的赢家将是消费者，其将看到企业数据资产覆盖范围的大幅增长、技能要求的降低，以及传统细分技术之间协同作用的提高。–Terry Ray，Imperva副总裁兼首席技术官
对数据和人工智能的信任将是做出明智决策的首要条件，但这种信任只能通过了解来实现。首席执行官需要了解企业如何收集和构建数据、其数据基础设施有哪些方面可以改进，以及在2024年能够有效使用人工智能的局限性。这意味着数据基础设施、质量、安全性和完整性，不能简单地委托给首席技术官(CTO)、首席信息官(CIO)或首席数据官(CDO)。首席执行官必须非常熟悉其在人工智能中投入的内容，以便在适当的背景下对人工智能产生的结果采取行动。–Allison Arzeno，Assurance IQ首席执行官
人工智能投资的激增，将引发人工智能安全的重大转变，重塑技术安全格局：2024年，随着人工智能投资的持续激增，人工智能安全领域将出现关键转变。随着人工智能模型，特别是大型语言模型和生成式人工智能，被集成到不同行业软件链的各个方面，保护这些技术免受快速注入和其他恶意攻击等不断变化的威胁的需求将达到前所未有的水平。尽管这些进步相对新颖，但严格的安全措施的必要性将受到关注，这标志着人工智能技术发展历程中的一个分水岭时刻。当我们继续努力应对海量数据和新挑战的未知领域时，将见证共同努力来巩固边界，并确保这一变革性技术的负责任增长。–JP Perez-Etchegoyen，Onapsis首席技术官
到2024年，将过渡到人工智能生成的定制恶意软件和网络攻击的全面自动化：网络安全团队面临着使用生成式人工智能和其他高级工具快速自动化创建和执行恶意软件的重大威胁。2023年，能够生成高度定制恶意软件的人工智能系统出现，为威胁行为者提供了新的强大武器。来年，重点将从仅仅生成定制的恶意软件转向自动化整个攻击过程。这将使即使是不熟练的威胁行为者也更容易发起成功的攻击。–Adi Dubin，Skybox Security产品管理副总裁
生成式人工智能将成为影子IT的最大推动者：传统上对影子IT的担忧主要围绕成本控制，但今年，随着生成式人工智能服务在企业内未经批准的使用迅速增长，这种风险已经扩大到知识产权和客户数据暴露在组织之外。到2024年，我们预计，如果企业没有强大的人工智能合规政策，和对员工使用的工具的可见性，那么其PII暴露率会更高。还可以，至少会出现几起专有源代码被无意中用于训练不受IT控制的人工智能模型的事件。这对整个技术团队和企业领导者来说是一个重要的警钟，应迫切需要围绕负责任的生成式人工智能使用制定积极主动的强制计划。–Heath Thompson，Quest Software总裁兼总经理
以人工智能为中心的监控系统：安全与安防：在发生安全事件时，传统的视频监控系统需要有人审查数小时的镜头以发现关键事件，这是一个耗时的过程，可能会延迟响应。视频监控行业准备向人工智能驱动的安全系统转型。传统视频监控系统正在向全面的人工智能安防解决方案演进。这些系统将记录视频片段，但也会做更多的事情来增强安全性。这种转变反映了这样一个事实：客户对视频不再那么感兴趣，而更关心预防和解决安全问题。利用机器学习、算法和计算机视觉，人工智能安全和安保系统将有效处理和解释视频内容，从而实现实时威胁检测。这些人工智能驱动的安全系统将成为常态，提供智能、主动的解决方案，最大限度地减少问题，并增强各种类型环境的整体安全性。–Dean Drako，Eagle Eye Networks首席执行官
普遍存在的基于人工智能的网络攻击导致“多重危机”的出现：我们在2022年看到了人工智能的出现，看到了滥用人工智能作为攻击媒介的出现，这有助于进行网络钓鱼尝试更敏锐、更有效。到2024年，预计随着企业转型，网络攻击将变得普遍。如今，人工智能爱好者有可能成为人工智能即时注入的牺牲品。到2024年，攻击者将发现利用人工智能更容易攻击传统IT和云容器，以及越来越多的ICS和OT环境，从而导致“多重危机”的出现。这种危机不仅威胁到金融影响，同时还会产生连锁效应，影响人类生活。由于地缘政治威胁的增加，关键计算基础设施将面临更大的威胁。网络防御将实现自动化，利用人工智能来适应更新的攻击模型。–Agnidipta Sarkar，ColorTokens副首席信息安全顾问
生成式AI的安全计划：随着企业开始将生成式AI项目从实验阶段转向生产阶段，对数据安全的担忧变得至关重要。经过敏感数据培训的LLM可能会被操纵，通过即时注入攻击来暴露该数据。有权访问敏感数据的LLM会带来合规、安全和治理风险。围绕在生产中保护LLM的工作，将需要组织更多地关注数据发现和分类，以便为“提供”语言模型的数据创建透明度。–Dan Benjamin，Dig Security首席执行官兼联合创始人
生成式人工智能将增强而不是取代网络安全中的SOC分析师：随着网络安全领域的发展，由于其成熟度的限制，生成式人工智能在安全运营中心(SOC)中的作用将以增强而不是取代人类分析师为特征。新一代人工智能将主要通过必要的专业知识，来协助和提高SOC员工的能力，以解释其输出，这对中级分析师尤其有价值。企业将需要在营销炒作中辨别真正的新一代人工智能贡献，在投资于新一代人工智能等更多技术或雇佣额外的SOC分析师之间的争论将持续下去，而人为因素仍然至关重要。成功将取决于将这些工具与分析人员的工作流程结合起来，而不是依赖于肤浅的智能。 –Andrew Hollister，loghyth实验室研发副总裁兼首席信息安全官
到2024年底，美国95%的消费者将成为深度伪造的受害者：每个企业和消费者都在追随人工智能潮流，欺诈者也不例外。网络犯罪分子此前已经找到了欺骗系统的方法。2023年初，其被发现绕过ChatGPT的反滥用限制来生成和审查恶意代码。现在，ChatGPT已完全连接到互联网，并且能够生成图像——这是完美深度伪造的秘诀。2023年，52%的消费者认为其可以检测到深度伪造视频，这反映出消费者的过度自信。深度伪造已经变得非常复杂，几乎无法用肉眼检测到，而现在生成式人工智能使其创作变得比以往任何时候都更容易。错误信息已经像野火一样蔓延，而随着即将到来的选举，深度伪造只会变得更加复杂。到2024年底，绝大多数美国消费者都将接触到深度伪造，无论是否知道这是合成媒体。–Stuart Wells，Jumio首席技术官
无论头条新闻如何暗示，根据我们在安全运营中心亲眼所见，2024年企业网络面临的最大风险不会来自人工智能发起的攻击。人工智能有望为防御者和攻击者提供支持，但我们看到，当缺乏可见性或安全控制时，网络攻击实际上进展得最快。为什么这一点值得注意？虽然最近围绕人工智能的炒作和随后的恐惧只会继续下去，但最大的威胁将来自现有的漏洞和不安全的配置，而攻击者不需要人工智能来利用这些漏洞。–Aaron Walton，Expel威胁情报分析师
2024年，人工智能只会让不良行为者更容易进行有针对性的攻击。如今的攻击很简单，其将继续瞄准我们从一开始就没能弥补的缺陷——太多的连接，没有足够的可见性或洞察力来了解什么在与什么通信。在建立网络弹性方面，更广泛地采用零信任和“假设违约”方法确实是我们取得进展的唯一途径。否则，我们将继续看到网络空间的巨大损失。 –Paul Dant，Illumio网络安全战略与研究高级总监

存储

人工智能将加速存储和安全要求：从本质上讲，生成式人工智能模型会产生大量数据。因此，在接下来的一年中，组织预计其数据存储和安全需求将激增，从而导致对可扩展存储解决方案的投资，无论是本地、基于云还是混合。人工智能生成的数据的动态和连续生产将需要更频繁的备份周期，企业将需要实施更强大的数据生命周期管理解决方案来确定数据保留、归档或删除策略，确保只长期存储有价值的数据。鉴于人工智能生成的见解对业务至关重要，确保备份的完整性也至关重要。鉴于人工智能生成的数据可能敏感且关键，加强的安全措施将是加速存储难题的最后一部分，这意味着数据安全需要融入所有生成人工智能项目的结构中，包括预防、检测和数据可恢复性。–Tony Liau，Object First产品副总裁
我们最终克服了数据孤岛问题：到2024年，组织将越来越多地采用并行全球文件系统，真正实现数字化转型。文件系统传统上隐藏在专有存储层中，该存储层通常将文件系统和组织的数据锁定到存储供应商平台中。将数据从一个供应商的存储类型移动到另一个供应商的存储类型，或者移动到不同的位置或云，涉及创建文件系统元数据和实际文件本质的新副本。文件副本的激增，以及跨孤岛启动副本管理所需的复杂性会中断用户访问，并且是阻碍IT现代化和整合的关键问题。传统的文件系统范例被困在供应商的存储平台中，在单个数据中心的孤岛中是不方便的。但越来越多的云迁移使问题变得更加复杂，因为拥有大量非结构化数据的企业，通常很难将所有文件完全迁移到云中。与试图通过将文件副本从一个地方转移到另一个地方来管理存储孤岛和分布式环境的解决方案不同，可以跨越来自任何供应商的所有存储类型，并跨单个或多个位置和云的高性能并行全局文件系统更加有效。–Molly Presley，Hammerspace营销高级副总裁
从专用存储到AI平台的优化商品存储：AI工作负载的增长，推动了针对速度和吞吐量进行优化的专用高性能计算(HPC)存储的采用。但到2024年，预计将转向商品化存储。云对象存储、NVMe闪存和其他存储解决方案将进行优化，以实现经济高效的可扩展性。专用存储的高成本和复杂性，将让位于针对人工智能需求量身定制的灵活、更便宜、易于管理的商品存储，从而使更多组织能够使用经济高效的解决方案，来存储和处理数据密集型工作负载。–Haoyuan Li，Alluxio创始人兼首席执行官

综合数据

人工智能生成的数据：数据一直被视为做出明智决策的可靠且公正的方式。当我们应对人工智能生成数据的增长时，组织将需要花费时间和监督来验证数据或风险幻觉结果。这些数据集的另一个重大影响是，数据在网络攻击中被修改的风险，这造成结果将是灾难性的。我们依靠正确的数据来投票、接受政府服务、登录工作设备和应用，并做出明智的、数据驱动的决策。如果组织或政府的数据被威胁行为者修改，或者我们在未经验证的情况下过于信任人工智能生成的数据，将会产生广泛的后果。–Sri Mukkamala，Ivanti首席产品官

垂直行业/应用

强大的数据引擎将使金融数据移动成为可能：金融组织刚刚开始意识到其数据的潜力，将其用于财务规划和分析、预算规划等方面的指导。然而，大部分数据仍然是孤立的，我们已经达到了这样的程度：这些组织拥有如此多的数据，需要开始思考这些数据如何为企业带来价值，否则就会面临失去竞争优势的风险。到2024年，我们将看到金融组织寻求对其跨存储库的数据进行分类和协调，以实现新的解决方案。因此，数据引擎、数据平台和数据湖，将成为有效理解和利用此类数据的关键工具。因此，我们预计金融科技应用将不断增长，从而实现聚合数据分析、报告和可视化。–Bernie Emsley，insightsoftware首席技术官
人工智能将成为2024年联络中心内持续学习文化培养的推动力，提高代理的批判性思维能力。认识到适应性的作用，联络中心管理者将分配资金用于培训计划，使代理能够适应不断变化的挑战，并认识到这些技能对未来生产力至关重要。超过60%的管理者认为批判性思维是未来代理所需的首要技能。招聘策略将侧重于表现出强大的批判性思维能力和不断学习新技能的积极意愿的个人。–Dave Hoekstra，Calabrio首席产品官

全章【完】！

若想查看“2024年大数据行业预测”相关篇章，请点击：