AI360
资讯
首页
专栏
快讯
应用中心
API 平台
#
边缘计算
13 篇相关内容
相关话题
大语言模型
机器人
自主系统
推理优化
AI效率
模型优化
Hugging Face
推理框架
AI部署
端侧AI
产业倡议
WAIC
Hugging Face 推出 Cosmos 3 Edge:边缘设备上的高效AI推理新方案
Hugging Face 正式发布 Cosmos 3 Edge,这是一款专为边缘计算场景优化的AI推理框架,旨在在资源受限的设备上高效运行大语言模型。
H
Hugging Face
·
18 小时前
Hugging Face
边缘计算
推理框架
大语言模型
H
WAIC聚焦端侧AI架构,Om AI联汇发起物理AI协同倡议
在世界人工智能大会上,端侧原生架构获得产业界普遍认可,Om AI联汇正式发起物理AI协同发展倡议,推动AI与物理世界深度融合。
O
Om AI联汇
·
1 天前
端侧AI
边缘计算
产业倡议
WAIC
O
NVIDIA推出Jetson Thor边缘AI计算机,加速机器人规模化部署
NVIDIA发布基于Thor架构的T3000和T2000模块,专为运行边缘基础模型设计,推动通用机器人从实验室走向大规模商业应用。
N
NVIDIA AI
·
5 天前
边缘计算
机器人
NVIDIA
AI硬件
N
小型语言模型也能闭环控制?多智能体自校正架构实现工业自主操作
研究人员提出结合规则对齐小型语言模型与多智能体自校正的闭环控制框架,在热控制仿真中实现91.5%的动作对齐准确率,为边缘设备自主控制提供新方案。
a
arXiv
·
7 天前
小型语言模型
闭环控制
工业自动化
多智能体系统
a
StickyMoE:让专家模型“记住”路由路径,推理更省内存
研究人员提出StickyMoE训练方法,通过引入路由一致性损失函数,减少相邻token间专家切换频率,从而降低边缘设备推理时的内存交换开销,在保持模型性能的同时显著提升推理效率。
a
arXiv
·
8 天前
MoE模型
模型训练
推理优化
边缘计算
a
实时句子级手语翻译系统新突破:Raspberry Pi实现低延迟交互
研究人员提出首个面向实时部署的句子级手语翻译系统,通过优化计算架构将响应延迟降低27%,在Raspberry Pi上实现摄像头捕捉、本地显示与语音输出的完整交互链。
a
arXiv
·
8 天前
手语翻译
实时系统
边缘计算
多模态AI
a
词汇表移植技术:解决孟加拉语轻量语音识别中的自回归崩溃问题
研究提出一种创新的词汇表移植方法,通过替换解码器词汇表为原生孟加拉语词汇,显著降低轻量语音识别模型在非拉丁语系语言上的自回归崩溃风险。
a
arXiv
·
8 天前
语音识别
边缘计算
多语言处理
自然语言处理
a
BaseRT:苹果芯片原生推理引擎,大模型性能提升超50%
研究人员推出专为苹果芯片设计的原生Metal推理运行时BaseRT,在Qwen3、Llama 3.2等模型上实现比现有方案最高1.56倍的解码吞吐量提升,为边缘设备AI推理提供新方案。
a
arXiv
·
19 天前
推理优化
苹果芯片
边缘计算
大语言模型
a
谷歌发布Nano Banana 2 Lite与Gemini Omni Flash,加速轻量化AI开发
谷歌DeepMind推出Nano Banana 2 Lite模型及Gemini Omni Flash开发套件,旨在为开发者提供更高效、轻量化的AI工具,助力快速构建智能应用。
G
Google DeepMind
·
20 天前
轻量化模型
谷歌
AI开发工具
边缘计算
G
Sipp:浏览器内运行本地小模型,速度提升三倍
开源项目Sipp让用户能在浏览器中直接运行小型本地语言模型,速度比传统方式快三倍。
S
Sipp
·
26 天前
本地推理
浏览器AI
开源项目
边缘计算
S
TurboQuant:以极致压缩技术重塑AI效率,DeepMind算法新突破
Google DeepMind发布TurboQuant算法,通过极端压缩技术大幅提升AI模型运行效率,为边缘计算与低功耗场景带来突破性解决方案。
G
Google DeepMind
·
26 天前
模型压缩
算法优化
Google DeepMind
边缘计算
G
高通战略转向:从“智能座舱之王”迈向“物理AI”新赛道
高通正将战略重心从追求单一场景算力转向布局物理AI生态,旨在让人工智能能力渗透至更广泛的物理设备与场景中。
量
量子位
·
27 天前
高通
边缘计算
物理AI
智能座舱
量
Reachy Mini机器人实现全本地化运行,无需云端依赖
法国机器人公司Pollen Robotics宣布其开源机器人Reachy Mini现可完全在本地运行,无需依赖云端服务,大幅提升响应速度与隐私安全性。
H
Hugging Face
·
27 天前
机器人
边缘计算
开源硬件
自主系统
H