智能虚拟助理知得信任吗？

从恶意的黑客到意外的语音记录，通过虚拟助理处理的数据可能会让你面临安全和隐私风险

你曾与Siri、Alexa或Cortana打过交道吗？这些都开始于面向消费者的虚拟个人助理（VPA），用于大多数智能手机和像声控电视遥控器这样的产品。但是，到最近为止，VPAs正在演变为智能虚拟助理（IVA），用于商业应用。一些通信供应商现在使用IVAs来支持业务功能，比如安排会议和电话会议。

你知道吗，有了这样的数字助手，你的语音数据就会被发送到云或另一个远程位置进行处理？在你的电视遥控器前讲话安全吗？要求Alexa开始你的会议，你是否正在把你的商业数据置于危险之中？

智能虚拟助理

IVA是一个使用人工智能（AI）的系统，它模拟人的交互来完成任务。由于神经网络、机器学习以及人工智能等技术的进步，IVAs正在快速发展。智能技术允许IVAs学习、推理和理解，执行像客户服务座席这样的任务来解决客户的问题。

实际上，在多个垂直市场中，IVAs被用于各种应用程序。他们通过为联网的家庭和车辆提供一个直观的界面来帮助消费者完成任务。

生态系统

IVA生态系统由三个主要部分组成。在远程云位置，调用处理中心对文本和/或语音命令进行分析和响应，并执行请求的操作。在用户端，有一个终端设备，如AmazonEcho或带有Cortana的PC。这些设备安装了与IVA通信的嵌入式应用程序。

用户的请求以文本或声音的形式提交给IVA，或者以聊天格式提交，并存储在云中。IVA对话可以通过应用程序和用户的设备访问。这就产生了一种隐私风险，因为语音记录可能提供个人身份识别信息，或者未经授权的实体可以使用这些数据来识别用户。

IVA软件可以集成到物联网设备中。许多IVAs允许第三方供应商链接他们的设备和服务，扩展IVA的特性和技能。例如，Alexa技能商店包含超过10，000个语音激活应用程序。

安全与IVAs

我确信会有创造性的黑客开发恶意软件，为IVAs的隐私和安全攻击提供机会。最近发生的一些事件突显了与IVAs相关的重大安全和隐私风险。由于IVAs还在不断成熟，预计会有更多的这些风险浮出水面，并且随着时间的推移会发生更富有想象力的攻击。

一篇题为“Alexa我可以信任你吗？”的NIST文章，指出了四个可能的安全/隐私漏洞场景，如下图所示。

图片来自NIST的文章“Alexa，我能信任你吗？”

窃听

Packet sniffing是网络诊断系统的一部分。它可以应用于捕获来自IVA的通信。可以分析请求和响应，以确定使用了哪些APIs。

正如文章指出的那样，并不是所有的网络通信都是通过安全连接传输的。有些人使用未加密的连接来检查网络的传输率，这使得检测IVA设备成为可能。尽管IVA通信可能是加密的，但是有机器学习技术可以对流量进行分类，并报告有效载荷大小、数据率和其他模式。加密的流量可以用来识别设备的状态。

妥协于终端设备（物联网）

我曾经发表过关于物联网（IoT）安全的博客--“争取安全的物联网”和“剥离物联网互操作层”。

需要注意的是，IVA设备可以像任何其他端点一样被破坏。你甚至可以体验到拒绝服务的攻击。网络摄像头和DVRs可以被恶意软件感染。终端设备可以被命令设置成为一直在听的状态，这就像已经在许多联网的婴儿监视器上所做的那样。你的协作系统怎么样？他们正处于危险之中吗？

恶意的语音命令

由于IVAs处理语音命令，攻击者可以模拟用户并发出恶意的语音命令。它可以打开一扇智能门，启动一辆汽车，甚至可以在没有用户信息的情况下在线订购商品。一些IVAs提供了一个语音训练功能，以防止这种模拟。如果模仿是高质量的，那么IVA可能无法区分真假。

意想不到的录音

在IVA装置范围内说话的人可能被录音。这可能是偶然的，但是这个人说的话仍然会被传送到云上，这使其他各方（包括合法访问存储数据的人以及黑客）入侵数据库。他们可以偷听私人谈话。非预期录音的潜在影响是意味着你不能完全控制你的语音数据。我们的协作网络会被破坏吗？

我们已经了解到，当我们在IP网络中引入新设备时，他们通常没有把安全性作为他们的主要设计目标。Internet从来没有被设计成一个真正安全的网络环境，所以安全是留给端点的。安全性通常是一个附加组件，在发生了一些突出安全性问题的事件之后才采用的。似乎那些构建端点和生产软件的人需要在他们的设计和开发中提升安全性保护措施。