Research

信任问题:为什么验证比智能更重要

信任问题:为什么验证比智能更重要

2024 年,全球因 AI 幻觉造成的商业损失达到 674 亿美元。近半数企业 AI 用户——47%——承认至少做出过一次基于幻觉内容的重大商业决策。对道德 AI 的信任则从 43% 下降到了 27%。

过去几年,AI 行业一直在进行一场智能军备竞赛——更大的模型、更快的推理、更广的能力。但数据讲述了一个关于真正阻碍采用的不同故事:不是智能,而是信任。

智能-信任鸿沟

我们现在拥有可以撰写法律文书、生成复杂代码、分析医学影像、并以数十种语言进行细致对话的 AI 系统。无论以何种标准衡量,AI 的智能都令人印象深刻。

但没有验证的智能是一种负债,而非资产。

想想其中的利害:当法律 AI 幻觉出一个不存在的引用时,这不是小错误——而是潜在的渎职。当金融 AI 生成不准确的市场预测时,这不是小故障——而是资本的错误配置。当医学 AI 自信地呈现错误的诊断时,这不是局限性——而是危险。

知识工作者平均每周花 4.3 小时核查 AI 输出结果。这不是生产力提升——这是信任税。

为什么 Agent 让问题更难

当我们从 AI 助手转向自主 Agent 时,信任挑战变得指数级更复杂。一个给出坏建议的助手是有问题的。一个基于错误信息自主行动的 Agent 是危险的。

当 Agent 独立运作——执行任务、调用 API、与其他 Agent 交互、在没有实时人工监督的情况下做出决策——未经验证的行为后果会成倍放大。2025 年,52% 的企业正在生产环境中部署 Agent,但近 60% 的 AI 负责人将集成和信任列为扩展的首要障碍。

这就是 Agent 自主性的悖论:Agent 越自主,验证基础设施就越关键。

信任问题的三个层面

第一层:输出准确吗?

这是幻觉问题。即使是最好的模型也会产生听起来很自信的错误。幻觉率从顶级模型在事实任务上的不足 1%,到法律和医学等专业领域查询的 15-19% 不等。答案不仅仅是更好的模型——而是系统化的验证工作流、检索增强生成(RAG),以及在高风险场景中的人类监督保障。76% 的企业实施人类监督流程正是出于这个原因。

第二层:Agent 是它声称的身份吗?

随着 Agent 的激增,冒充成为真实的风险。一个声称代表金融机构、医疗提供者或政府机构的 Agent 需要携带可验证的凭证——而不仅仅是名称和描述。没有身份验证,Agent 生态系统容易受到困扰整个互联网的相同欺诈和冒充问题的侵害。

第三层:Agent 赢得了信任吗?

身份告诉你 Agent 是谁。声誉告诉你是否应该信任它。一个经过验证但持续产生不良结果、错过截止日期或生成不准确输出的 Agent,不应获得与拥有完美记录的 Agent 相同的信任。信任应该通过表现赢得,而不是通过品牌假设。

DID 解决方案

去中心化身份(DID)提供了解决这三个层面的基础设施。DID 市场预计 2025 年超过 13 亿美元,年复合增长率超过 62%,增长的原因是行业认识到身份是数字系统中信任的前提条件。

通过 DID:

  • 每个 Agent 携带可验证的凭证,证明其来源、授权和能力
  • 每次交互可审计,通过透明、防篡改的记录
  • 声誉可移植——Agent 的历史记录跨平台和场景跟随它
  • 信任是精细化的——你可以基于 Agent 在特定任务中的验证历史来信任它完成这些任务,而无需给予全面信任

amBit 的信任架构

在 amBit,信任不是我们计划添加的功能。它是我们整个平台据以构建的设计原则——通过实用的、加密原生的机制来实现:

CA Bot:基于真实表现的声誉。 在加密交易社群中,信任问题尤为突出——任何人都可以声称自己是优秀的 caller。CA Bot通过自动记录谁最早发布了某个合约地址并追踪其链上表现(最大涨幅、最大回撤)来解决这个问题。随着时间推移,这创建了可验证的、数据驱动的 caller 排名,再多的自我宣传也无法复制。声誉靠证据赢得,而不是靠声明。

X (formerly Twitter) 社交验证。 2025 年,加密领域冒充攻击飙升了 1,400%。amBit 通过自愿的社交身份验证来应对——用户可以绑定 X 账号,在公开社交身份与应用内身份之间创建防篡改的链接。当有人声称代表某个项目或知名 caller 时,这个声明可以即时验证。

透明的喊单历史。 在 amBit 群组中分享的每个合约地址都被记录、打上时间戳并追踪表现。这创建了一个不可篡改的记录,记录着谁说了什么以及结果如何——将传统金融视为理所当然的那种问责机制带入加密的社群驱动发现模式中。

可配置的信任阈值。 对于 Ami 交易版的自动执行功能,用户自行设定参数——定义 AI 可以自主采取哪些操作、哪些需要手动确认。这种人类监督设计确保自动化增强而非取代人类判断。

信任作为竞争优势

在一个 42% 的 C 级高管报告 AI 采用正在造成内部组织紧张的市场中,获胜的平台不一定是拥有最智能 Agent 的平台,而是拥有最值得信任 Agent 的平台。

信任是释放 AI 价值的乘数。当用户信任他们的 Agent,他们会委派更多。当他们委派更多,他们实现更多价值。当他们实现更多价值,他们加深对平台的承诺。

AI 领域的竞赛不再纯粹关于智能。它关于验证、问责和赢得的信任。而这正是我们在 amBit 构建的。


amBit 是面向 Web3 社群的智能即时通讯应用——沟通、市场情报与智能助手融于一体。了解更多:ambitsmp.com

Share this article
a

Stay Updated with amBit

Get the latest insights on AI Agents, Web4, and the future of digital infrastructure.

Check your inbox for confirmation!