量子位专访楼天城：AI是匹脱缰野马，Harness是这个时代最关键的能力

📰 概要

2026年4月28日，量子位发布对小马智行CTO楼天城的专访。楼天城在访谈中提出：「AI是匹脱缰野马，Harness是这个时代最关键的能力」。

作为中国自动驾驶领域的顶尖技术领袖，楼天城曾被称为「楼教主」，是编程竞赛界的传奇人物。他的观点在AI圈引发广泛讨论。

楼天城认为，当前AI的能力增长已经超出人类预期，但人类对AI的控制能力没有同步提升。这种失衡是最大的风险来源。

楼天城的观点为什么值得关注？因为他是从技术一线出来的。他不是空谈AI威胁论，而是从工程实践角度谈控制问题。

「脱缰野马」这个比喻很准确。AI的能力每天都在增长，但我们的工具、方法、思维模式还停留在上一个时代。

「Harness」翻译过来是「驾驭」。不是控制，是驾驭——意味着共生关系，不是主仆关系。这个用词很讲究。

楼天城没有给出简单的答案。他说的是：我们需要新的工程范式来处理这个问题。这不是哲学问题，是工程问题。

从技术背景看，楼天城谈Harness是有底气的。他在小马智行负责自动驾驶系统的整体架构，这个领域每天都在处理「AI能力vs安全性」的矛盾。

自动驾驶是AI「脱缰」风险最直接的场景。AI判断失误可能导致事故，但完全不用AI又失去技术意义。楼天城每天都在做这种权衡。

从行业影响看，楼天城的观点正在成为行业共识。越来越多的AI领袖开始讨论「AI Alignment」问题——不是讨论AI会不会毁灭人类，而是讨论如何让AI更好地为人类服务。

这种讨论从学术圈蔓延到工业界。OpenAI成立了对齐团队，Anthropic提出宪法人工智能概念，Google发布AI原则。

从技术演进看，「Harness」能力需要三个方面支撑：可解释性、安全验证、实时监控。

可解释性：让人类理解AI为什么做出某个决策。深度学习的「黑箱」特性是Harness的最大障碍。

安全验证：在大规模部署前，验证AI的行为边界。这需要新的测试方法和标准。

实时监控：在AI运行过程中，实时检测异常行为并介入。这需要端到端的安全系统。

从工程实践看，楼天城提到的Harness不是理论概念。在小马智行的自动驾驶系统中，每一辆车的AI决策都在被实时监控。

远程安全员可以随时接管车辆。这是一种「人机协同」的Harness模式——AI主导，但人类保留最终控制权。

从AI发展看，Harness能力正在成为核心竞争力。不只是技术能力，更是组织能力、管理能力、制度能力。

对AI从业者来说，理解Harness比理解AI本身更重要。你能做出强大的AI，但能不能驾驭它？

从行业趋势看，Harness正在从「可选」变成「必选」。监管机构开始要求AI系统必须有安全控制机制。用户开始选择他们信任的AI产品。

从技术风险看，「脱缰」的AI可能带来三类问题：能力滥用（用AI做坏事）、能力失控（AI行为偏离预期）、能力依赖（人类失去自主能力）。

楼天城没有给简单答案，因为这个问题确实没有简单答案。但他指出了方向：Harness不是控制AI，而是与AI共生。

从实践角度，Harness需要技术手段和管理手段结合。技术手段包括安全沙箱、行为监控、熔断机制。管理手段包括AI使用规范、人员培训、应急预案。

什么情况Harness特别重要？如果你做的AI产品涉及人身安全（自动驾驶、医疗AI）、高风险决策（金融、法律）、敏感数据处理，合规和安全性必须从第一天就纳入设计。

从职业发展看，「AI对齐工程师」正在成为新热门岗位。这个岗位的职责是确保AI行为符合人类意图，既有技术挑战，也有社会价值。

从团队角度，每个AI团队都需要有人扮演「AI安全官」角色。这个角色不需要是AI专家，但需要理解AI风险和人类价值。

今天下班前，想一个你正在做的AI项目：如果AI做出意外行为，你有没有能力发现并介入？如果没有，这就是Harness的缺口。