AI360
资讯
首页
专栏
快讯
应用中心
API 平台
#
智能体架构
2 篇相关内容
相关话题
LLM智能体
AI安全
系统隔离
arXiv
AI自主性
大模型
人工智能伦理
系统设计
将“隔离”作为LLM智能体系统安全的首要原则:概念、分类与挑战
一项最新研究提出,应将“隔离”作为保障大语言模型(LLM)智能体系统安全的核心设计原则,通过建立用户-智能体、智能体-工具等五大边界,系统性分析安全风险传播路径与防御策略。
a
arXiv
·
6 天前
LLM智能体
AI安全
系统隔离
arXiv
a
AI智能体本质再思考:自动化与真正自主的边界在哪里?
随着大模型系统被冠以“智能体”之名广泛应用,研究者从哲学与科幻视角重新审视“智能体”定义,提出区分“代理型”与“自主型”系统的五维框架,并设计新型通用智能体架构。
a
arXiv
·
27 天前
智能体架构
AI自主性
大模型
人工智能伦理
a