人工智能安全方法论小议

一：底层生物学逻辑

生物进化上来说，霍金是对的，不好好控制人工智能，那人类其实没有优势，未来的发展方向是人--人机结合--强人工智能，这种存活率更高，而且有飞向太空的可能。

无人驾驶Level 5，其实就是部分的机器人了，只不过运动自由度只有

- x轴前后

- y轴不可

- z轴旋转

其他方向我们认为是恶性事件，但如果里面坐的是机器人呢？同时飞行汽车。

我们对于SAE Level 5的刻画不到位，反而是机器人的刻画会更准确，一个具有多自由度的运动载体，两种发展方向

1.高度自主化的机器人

2.可多自由度的出行工具，例如cybertruck

3.人开车的不安全性，ODD过于狭小，而真正机器人开车ODD的可行性。ODD的大小，取决于两方面，一个是机器人道德安全，一个是机器人的能力，一个是机器人高度思维及意识的产生。

4.当前万物互联得本质，是机器之间的通讯，而linux等操作系统，更像是构建生物体的过程。

二：安全的定位

功能安全本质讨论机器以人或环境为主体，防止受不合理EE的攻击和风险。

网络安全本质讨论资产受外部攻击的过程。

随着人工智能演化：

1.功能安全保护人还是保护环境等资产优先？这是第一个道德风险问题，不过AI安全是以人为保护主体，所以人生命是第一位，这也是网络安全的第一性，其他网络安全目标比这个目标次要，因而我们建议21434中的impact rating，本质的框架仍然不足，采用集合进行更好：

if for one attack：decision_set（element1…） = （）

impact rating= （element1，element2，…）*（coupling factor1，…）*（effect1…）

这种方式更可以刻画线性特征，因而，21434的影响分析要素是弱化版本之后，此处的集合要求封闭且攻击目的可判定

2.网络安全本质探讨被保护主体即资产本身，如果有一天网络安全和功能安全的对象相同，则一个外部黑客非物理攻击和内部故障或weakness造成的问题，一个从内部故障出发造成的影响面，二者的区别及实践，汽车行业正在进行中，我辈一起努力，此处的结合，会和工业级大不相同，有一天DFA必须分析security的影响，而cyber必须考虑safety的失效率及误用等因素

3.谈谈人性。人性不可测，同时人性是善或恶，千百年来已有大量讨论。网络安全假设前提人本恶即故意举动，功能安全假设前提理性人，且没有故意害人的举动，也就代表误用，漏用。

-故意举动，对资产没有影响，无效攻击，需防御

-故意举动，对资产有影响，有效攻击，需按照攻击强度上防御强度，故蓝队多重防御

-非故意举动，对资产无影响，不需防御

-非故意举动，对资产有影响，需防御

-故意举动，对人生命有伤害，侵犯法律，以及功能安全的要求

-故意举动，对人生命无直接伤害，但对隐私等间接属性有上海，则违反法律，以及产品质量要求

-误用，对人生命有直接伤害，违反法律和功能安全要求

-误用，对人生命无直接伤害，但对隐私等有伤害，违反法律

-滥用，对人生命有直接伤害，例如毒品或吸烟，酒精因素，超速开车，醉驾，心不在焉开车，非规定状态开车，违反法律和功能安全要求

-滥用，对人生命无直接伤害，例如抽烟，大麻等，违反法律条款。

以上，同时抽烟等对人寿命影响行为，是可靠性问题，我们在其他主题讨论。