通过在边缘和云之间分配任务,我们可以优化 AI 应用程序的速度、效率、安全性和隐私性。
译自 The Future of AI: Hybrid Edge Deployments Are Indispensable,作者 Luis Ceze。
选择和可访问性的概念在最大化人工智能的影响中发挥着关键作用。
在人工智能的世界中,云一直是传统的动力源。它为复杂计算和训练模型所需的大量数据需求提供了繁重的任务,并维持了大规模部署推理的极端计算需求。
但随着人工智能的扩展和普及,延迟、隐私问题、连接性和网络带宽限制了人工智能的全部影响。边缘人工智能抵消了其中一些限制,特别是对于需要立即数据处理、具有严格延迟限制和可用性要求的应用程序。它还通过将敏感数据本地化来直接解决隐私和安全问题。
这对于任何人来说都不应该感到惊讶。它让人想起早期的云时代,当时远程托管数据和应用程序在成本、性能和更快地将产品推向市场的能力方面提供了效率提升。在那些日子里,这个决定不是二元的;它是一种混合组合,为任何组织和项目提供了必要的灵活性。
从主要基于云的 GenAI 转向边缘加云选项类似于 Web 应用程序的演变。Web 最初主要是基于服务器的,具有“哑”浏览器,这些浏览器主要与用户交互,但随着它们的发展,它们逐渐吸收了应用程序逻辑和 UI。
这种向人工智能边缘计算的转变,类似于 Web 向类似于操作系统的复杂浏览器的转变,解决了这些限制,并为各种人工智能应用程序和项目提供了必要的灵活性。
人工智能应用程序中的边缘部署提供了许多好处,正在重塑技术格局。
其中最重要的是“始终可用”。本地部署人工智能模型消除了对外部网络连接或远程服务器的依赖,最大程度地降低了因维护、中断或连接问题而导致的停机风险。这种级别的弹性在医疗保健和其他敏感行业等领域尤为关键,在这些领域中,不间断的服务绝对至关重要。
边缘部署还确保了“低延迟”,因为光速是一个基本的限制因素,并且在访问云基础设施时可能会出现显着的延迟。随着边缘处越来越强大的硬件可用,它可以处理物理上附近的数据。
另一个好处是能够利用专门针对其需求量身定制的硬件,在绕过网络延迟和带宽限制以及云提供商施加的配置限制的同时优化性能和效率。
最后,边缘部署允许在安全环境中集中大型共享资产,这反过来简化了存储管理和访问控制,增强了数据安全性和治理。
虽然边缘部署在人工智能应用程序中提供了引人注目的特性,但基于云的部署也是如此。
例如,云提供了更多计算能力。云环境通常提供大量的计算资源,使其成为需要大量计算能力的任务的理想选择。复杂模拟、大规模数据处理和高性能计算是云计算擅长的领域。
云提供了对在线数据源的广泛访问。云解决方案促进了对大量在线数据源和服务的访问。当人工智能模型需要实时数据更新或访问托管在云中的海量数据集时,这可以被证明是无价的。
云环境也非常适合持续模型训练。它们可以有效地管理和跨分布式资源分配训练过程,确保人工智能模型始终与最新数据保持同步。
边缘本身并不是万能药。云计算在处理需要大量计算能力和历史数据分析的任务中发挥着至关重要的作用。
边缘和云解决方案之间的协同作用不可否认,它创造了一个混合生态系统,最大化了人工智能应用程序的潜力,同时满足其独特需求。它结合了边缘部署的低延迟、数据隐私和定制优势,以及云计算的可扩展性和广泛资源,为各种人工智能场景提供了一个全面的解决方案。
通过在边缘和云之间分配任务,我们可以优化人工智能应用程序的速度、效率、安全性和隐私性。
但这远不止于此——边缘加云的方法使人工智能民主化,使其即使在互联网连接有限的偏远地区也能有效运行。该解决方案可能会为欠发达地区的 AI 驱动进步开辟前所未有的机会,弥合数字鸿沟,避免在人工智能革命中将许多人抛在后面。