摘要:随着Hailo推出最新的人工智能加速器,其融资总额现已突破3.4亿美元。这款专为个人计算机和汽车行业打造的人工智能加速器,以出色的低功耗性能处理大型语言模型(LLM),成功将生成式人工智能技术引入边缘计算领域,为行业发展注入新动力。

边缘人工智能处理器的领先芯片制造商Hailo近日宣布C轮融资再获1.2亿美元投资。与此同时,Hailo还推出创新型Hailo-10高性能生成式人工智能(GenAI)加速器。这款加速器的问世,将开创一个新时代:用户无需注册任何基于云端的生成式人工智能服务,便能在本地轻松拥有并运行生成式人工智能应用,享受更为高效便捷的人工智能体验。

本轮新融资由现有及新投资者共同领投,其中包括Zisapel家族、Gil Agmon、Delek Motors、Alfred Akirov、DCLBA、Vasuki、OurCrowd、Talcar、Comasco、Automotive Equipment (AEV)以及Poalim Equity等众多机构与个人。至此,Hailo的累计融资金额已突破3.4亿美元。

Hailo首席执行官兼联合创始人Orr Danon表示:“新一轮融资的顺利完成,不仅为我们提供了重要发展机遇,更为公司的长期稳健发展奠定了坚实基础。随着Hailo-10 生成式人工智能加速器的问世,我们成功将传统与生成式人工智能技术引入边缘设备,这将大大拓展这项前沿技术的普及范围和应用场景。”他还进一步强调:“Hailo-10的设计理念是将生成式人工智能融入用户的日常生活中,摆脱云网络的束缚。这将保证灵活性和即时性,让用户充分利用聊天机器人、智能副驾驶等新兴内容生成工具,显著提升工作效率,丰富生活体验。”

Hailo-10:边缘生成式人工智能

全新的Hailo-10 生成式人工智能加速器支持一系列广泛的应用,进一步巩固了Hailo在性能成本比和性能功耗比方面的领先地位。借助与Hailo-8 人工智能加速器和Hailo-15 人工智能视觉处理器相同的综合软件套件,Hailo-10能够轻松实现人工智能功能在多个边缘设备和平台上的无缝集成,为用户带来更加流畅、高效的智能体验。

在边缘设备上启用生成式人工智能可确保用户随时访问生成式人工智能服务,无需担心网络连接限制。同时,它还能有效消除网络延迟问题。此外,生成式人工智能在边缘设备上的运行还能更好地保护用户隐私,因为个人信息在处理过程中始终保持匿名状态。最后,减少对云数据中心庞大处理能力的依赖,也有助于提高整体的可持续性。

借助Hailo-10,个人计算机、智能汽车以及商业机器人等边缘设备得以充分释放生成式人工智能的强大潜能。用户因此能够全面掌控生成式人工智能体验,并使其深度融入日常生活,成为不可或缺的一部分。为实现沉浸式的生成式人工智能体验,Hailo精心打造了Hailo-10架构,该架构能够以低功耗实现出色的生成式人工智能性能。

Danon先生进一步阐述道:“随着边缘生成式人工智能技术的不断发展,我们的重点已经转向在极低功耗范围内处理大型大语言模型(LLM),基本上可以控制在5瓦以下。”

在当下热门的生成式人工智能平台中,Hailo-10展现出了令人瞩目的性能。它能够在功耗低于5W的情况下,以每秒生成10 个token(TPS)的速度流畅运行Llama2-7B模型。同时,在处理Stable Diffusion 2.1模型(该模型可根据文本提示生成图像)时,Hailo-10同样在超低功耗范围内实现了每张图像评级低于5秒的出色表现。

Hailo-10的性能高达每秒40万亿次(TOPS),这为边缘人工智能加速器树立了新的性能标杆。根据最新公布的基准测试数据,Hailo-10在性能上超越了集成神经处理单元(NPU)解决方案,同时在功耗方面表现更为出色。与Intel的Core Ultra NPU相比,Hailo-10在保持功耗减半的同时,实现了至少2倍的性能提升。

Hailo-10 生成式人工智能加速器的初步应用将瞄准个人计算机和汽车信息娱乐系统,以取代那些性能不足的上一代CPU。这些老旧CPU无法支持现在已成为标配的聊天机器人、智能副驾驶、个人助理以及语音操作系统。Hailo计划从2024年第二季度开始,向市场提供Hailo-10生成式人工智能加速器的样品。

Danon最后总结道:“无论用户是需要利用生成式人工智能进行实时翻译、总结的自动化,还是编写软件代码,抑或是从文本提示中生成图像和视频,Hailo-10都能让他们在个人电脑或其他边缘设备上直接完成,既不会给CPU带来额外负担,也不会过快消耗电池电量。”

自2017年在以色列成立以来,Hailo凭借卓越的技术实力和创新能力,已崛起为全球领先的人工智能加速器和人工智能视觉处理器供应商,成功服务于全球300多家客户,展现了其强大的市场竞争力。公司在东京、台北、深圳、硅谷和芝加哥等全球多个重要城市设立了办事处,为其全球业务的拓展奠定了坚实基础。

关于Hailo

专注于人工智能的芯片制造商Hailo正在开发能够在边缘设备上实现数据中心级性能的专用人工智能处理器。Hailo的处理器是对传统计算机架构进行重新思考的产物,使智能设备能够以最小的功耗、尺寸和成本执行复杂的深度学习任务,如实时目标检测和实时分割。这些处理器旨在适应多种智能机器和设备,影响包括汽车、安全、工业4.0和零售在内的各个领域。 更多信息请访问Hailo官网。