kok·体育(中国)平台官网 - kok体育平台在线网站!

kok·体育(中国)平台官网 - kok体育平台在线网站

kok体育平台在线

全国咨询热线

029-85247636

kok体育平台官网
您当前的位置 : 首页 > 新闻动态 > 行业新闻

GenAI浪潮下智能硬件怎么来实现低延时AI语音交互

发布时间:2024-11-16 03:06:38来源:kok体育平台官网 作者:kok体育平台在线

  在 GenAI 的浪潮下,各行各业正迎来全新的变革,作为 AI 载体的智能硬件行业也不例外,一方面,AIGC 与机器人的结合,推动具身智能产业加快速度进行发展,科幻电影里善解人意的清扫机器人“瓦力”、医疗机器人“大白”正在走进现实。另一方面,以智能手表、智能眼镜、智能耳机为首的穿戴式智能硬件与多模态大模型的结合也成为当下的新趋势。

  在2017年以天猫精灵、小爱同学、小度等语音助手驱动的智能设备被视为第一批 AI 硬件革命,这类智能设备虽然经过多年的市场教育已逐渐融入了我们的生活,成为不少家庭的语音助手,但其中 AI 的智能化还较为初级。近两年伴随 GenAI 的兴起,更智能化的多模态大模型赋予了智能硬件新的生命,带来全新的人机交互体验,催生智能硬件行业新的变革。

  声网经过市场调查与研究发现,目前多模态大模型在智能硬件场景的落地主要以智能眼镜、智能手表、智能耳机等穿戴式设备为主,同时在智能门铃、智能陪伴玩具等 IoT 场景也有一些应用。不同场景展现出的客户的真实需求与场景特点存在一定的差异化,例如:

  智能儿童手表是多模态大模型最早落地 IoT 行业的硬件场景之一,目前 360儿童手表、小天才等儿童手表中已率先集成应用。流畅的 AI 互动问答可以填充儿童空闲时间,智能化的回答也为儿童带来了知识科普的价值,起到教育学习的辅助作用。同时,智能手表的屏幕较小,对语音交互的诉求更强,加入对话式 AI 显得更顺其自然。

  不同于将重点放在虚拟与现实结合的AR眼镜,智能眼镜更看重通过 AI 提升语音交互能力,今年 Meta 联合雷朋推出的「Ray-Ban Meta」智能眼镜就是代表产品。通过在智能眼镜中加入摄像头、AI 等功能,用户可通过语音交互让眼镜来帮助工作&日程安排,或者开启百科问答、学习辅助、英文翻译、语音导航、超拟人情感陪伴及音乐娱乐等功能。

  在 AI 与 RTC 能力的加持下,智能眼镜能支持第一视角音视频回传(包含音视频通话、视频录制、直播等),还支持实时翻译、同声传译等场景,搭配手势识别,实现跨语言环境 的语义理解。

  智能耳机与大模型的结合大多分布在在实时翻译、情感交流、录音转写等核心功能,在实时翻译方面,智能耳机目前主要使用在在1对1翻译,支持双方对话过程随时发言,无需等待翻译完成或对方发言结束,适合双人会议、差旅、教学、社交等高频深度对话场景,代表产品有三星 Galaxy Buds 系列无线 Pro等。同时,借助 RTC 的能力,在智能耳机中还能实现多人同频道、AI降噪等功能。

  在情感交流方面,代表产品有当下热门的Ola Friend 智能耳机,该产品可实现英语陪练、旅行导游、情感交流等功能。开发者如想快速上线此类型的智能耳机,声网能够给大家提供快速、已用、完整的解决方案,并采用了灵活可扩展的 AIAgent架构,具备工作流编排能力,开发者与企业可自主选择 LLM 等组件,根据特定需求定制和扩展 AI 驱动的实时互动体验。

  此外,在GenAI 的趋势下,IoT 行业还出现了智能陪伴机器人、智能儿童毛绒玩具、智能戒指等一系列智能硬件场景,带来不同硬件终端下的 AI 语音交互体验。

  声网作为全球实时互动云行业的开创者,一直在探索 GenAI 与 RTE 结合带来的体验提升和场景创新,此前发布了实时多模态对话式 AI 解决方案,在此基础上,针对 IoT 行业的特殊性,声网探索出了AI x IoT 智能硬件解决方案,该方案能够在低功耗、低算力芯片上快速实现大模型的接入,具备低延时实时互动、低成本灵活适配的特性,通过丰富的功能在智能硬件场景中构建真实、自然的AI语音交互体验。

  例如对交互延迟来优化,语音交互延时低至1s内;支持多模态 AI 语义识别和理解;支持 AI降噪,保证清晰的语音交互、支持小包体、低内存、低功耗;适配支持70+主流、超高的性价比的芯片等,帮助开发者与企业快速构建适配自己硬件的AI实时语音对话服务。

  1、毫秒级人机交互体验:声网 AI x IoT 智能硬件解决方案逐步优化了端到端互动体验,实现人与设备之间基于 LLM 的毫秒级互动体验。通过在客户端进行低延迟的音频采集和播放、借助声网自研的 SD-RTN™ 实时传输网络实现全世界的低延时 RTC 传输,并进一步通过更快速的 LLM 推理首字耗时、低延迟流式 TTS、同机部署等一系列技术方法,保证对话的实时性与流畅性。

  2、文本/图像/音频/视频的多模态交互:在智能硬件场景,声网的解决方案同样支持文本/图像/音频/视频的组合输入&输出,同时开发者与企业也无需额外集成STT、TTS 等模块化组件,一套方案就能快速构建 AI实时语音对线、聚焦关键信息,提升语义理解度:

  针对语音对话中经常会出现的噪音、回声等问题,声网拥有行业领先的音频 3A 能力,通过AI噪声抑制、背景人声过滤、音乐检测/过滤等算法,确保人与 AI 的对话不受环境干扰,从始至终保持顺畅。

  实现任意可视设备的智能化体验:在硬件场景构建音视频互动需要非常注意 SDK 对芯片、系统的适配性以及包体的体积等。声网的解决方案适配支持 70+ 主流、超高的性价比的芯片/模组,例如:展锐 Cat.1系列芯片、乐鑫 ESP32-S2/S3、BK 7256、BK7258、杰理AC7916、博流BL808等 RTOS 芯片,以及高通、联发科、君正、Sigmastar、全志、海思、Mstar 等 70+ Linux 芯片。集成包体积增量也<400KB,支持在 RTOS、embedLinux 等低功耗系统流畅运行,同时 SDK 还支持 PCM、G711U/A、G722、AAC、OPUS 等多种音频格式。

  如您想进一步体验 Demo或者接入 声网的AIxIoT智能硬件解决方案,可在声网公众号找到这篇文章。

  特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

  澎湃新闻CTO孙挥:国内大模型在中文文本处理方面已接近甚至超越国外水平,媒体在AIGC商业模式上有特有优势

  2岁的年纪 30年的泡脚经验,小宝宝跟着大人一起去泡脚,网友:两岁的年纪走出来六十岁大爷的姿态

  宝宝玩仙人掌玩具没想到反而被吓到了,妈妈:我也没想到啊,网友:吓得玩具都不敢学他了

  家长带娃主打一个活着就好,麻万幼儿园亲子运动会之坑娃现场,娃:这样的游戏是非赢不可吗

  闪击华为Mate70!OPPO Reno13系列再次被确认,卖点十分激进!

  红米Turbo 4再次被确认:天玑8400+6500mAh电池,性价比佼佼者

  OPPO Find X8 Ultra与vivo X200 Ultra:旗舰手机的巅峰对决!

下一篇: 2024-11-16