随着人工智能的蓬勃发展以及人们探索各种用例，推理位置成为人们关注的重点之一。推理位置是 AI 决策、预测或其他输出发生的地方。需要确定的关键在于边缘还是云端哪个推理位置更合适。
延迟要求
专家在评估推理位置时，应该考虑其计划中的应用是否需要实时或类似的快速响应。这将为他们关于延迟（即 AI 接收输入并通过提供输出进行响应的时间）的决策提供参考。
选择边缘作为推理位置是降低延迟的绝佳方法，因为处理直接在支持 AI 的设备上进行。另一种方法是将输入发送到云端进行处理，这需要更长的时间。当人们需要尽可能快的功能时，边缘 AI 是理想的解决方案，但如果他们不介意稍长的延迟，基于云端的处理可能更适合他们。
边缘也适用于网络连接受限的区域。采矿、石油和天然气等行业的行业领导者已经发现，AI 可以简化工作流程并解决问题。然而，连接问题可能会限制数据无缝传输到云端。如果直接在设备上进行处理，则可以绕过该问题。
预算和带宽
将大量数据传输到云端进行处理可能会非常昂贵。对于决策层来说，预算是一个主要考量因素，而边缘计算则更具成本效益，因为处理是在本地进行的。
相反，云端 AI 应用需要数据往返于处理地点，这需要大量的带宽。从长远来看，这种方法通常成本更高，因此领导者应该将预期成本计入总体预算。一个值得注意的统计数据是，他们在云服务上的支出有 32% 被浪费了。
这并不意味着他们应该将云 AI 排除在外。然而，相关方应该明智地确定他们将定期在特定服务上花费多少。然后，他们应该评估这些支出是否物有所值。
边缘设备的一个潜在缺点是其处理能力有限。云端提供了强大的处理能力和存储空间。此外，如果公司已经依赖云端来处理许多其他应用，并且领导者熟悉其基础设施，那么专注于云端可能更有意义。
例如，德意志银行的领导层将260个应用程序迁移到云端，这是将生成式人工智能融入其业务各个方面的计划的一部分。决策者认为，该提供商在云计算和人工智能技术领域的成熟地位将为该银行提供支持，使其能够推进其计划。然而，供应商锁定是一个潜在的缺点，可能会影响灵活性。
安全问题
关于安全的对话也导致一些人选择边缘或云人工智能推理位置。云的处理位置比边缘设备更远，但这也意味着网络安全问题可能会在传输过程中出现，或者是因为提供商的疏忽。同时，如果用户了解其功能，云的内置安全功能可以创建安全的推断位置。
一份2025年的报告估计，到2028年，边缘计算支出将达到3800亿美元，分析师提到人工智能是推动因素之一。他们将1000个潜在的企业用例分成六个技术领域，并发现人工智能是继增强现实之后增长第二快的领域。研究人员还提到，提高的安全性使边缘人工智能机会对许多方面具有吸引力。
边缘设备上人工智能数据的本地处理给了专业人员更多的控制和监督，让他们保持严密的安全。它还可以更容易地验证信息使用是否符合必要的法规。或者，边缘设备共同扩大了潜在的攻击面，要求使用它们的组织优先考虑网络安全。
检查个别情况
由于对于企业应该使用云人工智能还是边缘没有普遍接受的答案，决策者应该考虑他们的情况和目标所特有的方面。这种个性化的方法鼓励他们在行动前仔细检查细节。
Ellie Gabel，Revolutionized.com 副主编
参与评论 (0)