“赛轮思AI”（Cerence Inc）3月13日宣布推出其代理式AI助理平台——Cerence xUI。

该平台可在本地和云端协同工作，以推动下一代基于大语言模型（LLM）的车载用户体验发展。

Cerence xUI提供了一个专为汽车设计的语音助理平台，该平台整合了与英伟达（NVIDIA）及微软合作开发并优化的CaLLM™系列的云端和嵌入式大语言模型（LLM）及小语言模型（SLM）、第三方LLM、实时数据源以及车辆情境数据，从而创建出一个引人入胜的对话式交互界面，能够执行多种任务、回答各类问题，并为用户提供娱乐体验。

该平台能够记住用户的个人偏好，并根据用户的行为模式和情境信息调整回复内容，主动提供个性化建议。

Cerence xUI的混合架构既能在云端运行，也能在本地车内运行，适用于不同行业的解决方案，并在NVIDIA DRIVE AGX Orin™平台上进行了优化。

这使汽车制造商能够根据自身需求，选择最合适的方式部署该平台：它可以作为现有嵌入式信息娱乐系统的云端扩展；作为对现有已投入使用的混合式系统的补充；或作为完全集成云端与本地系统的基础。

这使得汽车制造商能够轻松利用赛轮思AI在汽车系统集成和AI驱动用户体验方面的独特技术专长，为现有和未来汽车轻松提供升级后的大语言模型（LLM）驱动的功能和能力，包括：

1、连续对话功能：实现简洁且连贯的人车交互。支持使用自然、对话式语言，能够在单个应用内或跨多个云端及本地应用之间，处理复杂且多步骤的查询任务。

2、为车载环境量身定制的对话式用户体验：提供无缝、直观且引人入胜的交互体验，简洁直观，非常适合车内使用。通过独有的并行多用户交互技术，有效减轻了驾驶者和乘客的认知负担。

3、通用领域和特定领域知识全覆盖：涵盖旅游、音乐、体育、新闻等多个领域的广泛知识，借助内容提供商合作伙伴和实时数据源，使汽车制造商能够为用户提供静态和动态的信息流。

作为Cerence xUI的基础，CaLLM系列语言模型基于开源基础模型，并在赛轮思AI针对汽车领域专门收集的数据集上进行深度优化。

借助NVIDIA AI Enterprise这一端到端的云原生软件平台（集成高性能推理技术，如NVIDIA TensorRT-LLM和NVIDIA NeMo），赛轮思AI进一步增强了CaLLM的功能，使其能够作为核心代理协调器，无缝促进本地与云之间的计算协同工作，为驾驶者提供更加丰富的驾驶体验。

此外，CaLLM Edge提供了一系列模型，包括Meta的Llama家族和Microsoft的Phi系列，这些模型经过赛轮思AI广泛的汽车数据集优化，以提供针对汽车应用场景的专用AI。

因此，CaLLM系列语言模型旨在提供卓越性能、降低延迟、增强隐私和安全保护，并通过智能护栏有效抵御恶意或不必要的交互，同时为汽车制造商带来成本效益。