VAccel:轻量级虚拟机管理程序的硬件加速

2020-12-05 00:05:26

我们从头开始探索系统软件堆栈,入侵VMM和引导代码,再到应用程序和unikernel。 在年轻的中小型企业的支持下,我们为世界各地的实体提供专业服务,应对复杂的研究与开发。 工程问题。 成为在真正的无服务器部署上试用vAccel的首批参与者之一! 给我们留下有关您的项目的注意事项,我们将与您联系,提供有关如何亲自尝试的更多详细信息! 给我们留言,让我们知道您有兴趣! vAccel通过采用软件技术将可加速的工作负载映射到相关的硬件功能来提供灵活的执行。 vAccel包含大量后端实现,可以使用简单直观的胶水插件与任何可用的加速框架集成。 vAccel将安全问题转移到硬件上,确保在同一加速器上连续运行不会泄漏敏感数据。

vAccel的开销可以忽略不计。例如,与本地执行相比,针对ML图像推理工作负载测得的最大开销为5%。

任何应用程序都可以从vAccel中受益,而无需太多麻烦!公开加速功能非常容易:只需链接运行时系统并为用户提供功能原型。

vAccel通过将执行的大部分困难部分转移到主机系统上,表现出可预测的性能。

vAccel的设计基于硬件加速框架中云和边缘用户的需求。在共享基础架构上运行其软件堆栈的用户关心灵活性,互操作性,安全性和性能。基础架构提供商通过虚拟化技术确保安全执行,但在灵活性和互操作性方面仍然落后。真正的设备共享在无服务器设置中很重要,在这种设置中,衍生的功能是短暂的,响应延迟/启动时间必须最短。此外,必须自己对硬件进行编程会阻止用户转移到其他提供商/供应商。最后,vAccel消除了软件堆栈重复,以实现资源效率并满足Edge的硬件限制。

浏览我们的博客,找到有关如何在本地或公共云上的AWS Firecracker上试用vAccel的有趣教程。也可以查看ARMv8部分!在Edge上进行安全且隔离的ML推理确实很有趣!

CloudKernels博客