你不会赢下模型竞赛。
你坐在它下面。
所有人都在花费数十亿让自己的提议者更聪明。底线是他们仍然都需要的那一层——那一层让任何提议者变得可部署、可审计、可承保。我们不押注智能竞赛的赢家。我们是赢家仍然必须运行其上的运行时。
Perslis 不是司机。
它是刹车。
Perslis 是位于概率智能与执行机构之间的安全与控制护栏。规划器——任何模型,你的或我们的——可以提议“变道”或“加速”。随后由一个确定性层判断该动作在当前状态、约束、权限与安全不变量下是否可准入。不可准入的动作,永远到不了执行机构。
模型无法绕过地板。
每条指令在执行前都必须经过准入层;没有通往执行机构的旁路。一个敌对或损坏的规划器,正是我们的测试。
不安全的指令被确定性地拒绝。
同样的状态、同样的指令、同样的裁决,每一次都如此——并附上写明触发不变量的收据。不是概率,不是策略,而是一条你能读懂的规则。
置信度或状态不足 → 进入已知安全状态。
当世界状态过期、传感器不一致、或规划器置信度低于门槛时,地板不猜:它驶向预先定义的回退——减速、停车、保持。
模型会开车。我们造刹车。
升级路径很简单:带上你的模型,装上刹车。能力仍是你的;准入、拒绝与安全回退成为模型之下的一层经验证的机制,并附带审计轨迹。
为何一道底线是一家公司,
而不是一个功能。
1 · 从构造上与模型无关
我们不是自主栈的竞争者——我们是它下面的运行时。安全论证从不取决于谁的模型最好,因此我们把产品卖给每一个构建自主系统的团队,而不是与他们对抗。
2 · 护城河是运行时
可防御的资产是准入运行时以及它产生的凭证轨迹——那份可审计、可认证的安全论证。模型在残酷的曲线上被商品化;一个带可检视记录的已验证执行层不会。
3 · 与供应商及硬件无关
一套抽象,多道底线——汽车、无人机、机器人、船、自行车。任意提议者,任意执行器。同一个引擎与同一种凭证结构跨垂直领域移植,因此每一个新领域都在为平台叠加复利,而不是把它分叉。
4 · 从设计上降低风险
我们先在仿真中解决了最难的软件控制问题:给定对世界的可信读取,什么运动是可准入的——并独立于模型加以执行。物理层是可融资的路线图,而非未经证实的跃迁。
一个准入运行时,
三个领域。
运动并非一个垂直领域。它是 Perslis 早已在科学与法律中运行的同一个原语的第三个实例:面向由模型中介的系统的准入控制运行时。同一个问题——它能否进入可信状态?——被分别问向一个论断、一条引证、一个动作。
科学
生物底线拒绝被捏造的蛋白质事实;只有源头钉住的论断才被准入。
法律
法律底线拒绝被捏造的判例法;一条引证必须能解析到一份真实记录。
运动
运动底线拒绝不安全的指令;只有可准入的动作才能抵达硬件。
一个横向平台,而非一个垂直领域:只要有模型提议、且世界要为错误买单,底线就是那一层,决定什么被放行。
模型被商品化。
运行时不会。
模型被商品化。一个带可审计凭证轨迹的已验证准入运行时不会。
今天存在的东西,
如实说明。
今天存在的,是一套在仿真中演示的软件运行时安全架构(MetaDrive)——并非一套经过认证的真实车辆系统。物理层——感知、延迟、执行器故障与认证——是路线图,我们把这一点摆在最前面说清楚。
这是有意为之。那些层位于我们已经回答的问题的下游:给定对世界的可信读取,什么运动是可准入的——并独立于模型加以执行?我们先解决控制问题,因为这一部分不会因为更大的模型或更好的传感器而变得更容易。其余的是有清晰视线的工程。