科技魔方

华盛顿大学发布《混合现实:安保、隐私、安全》报告

AR/VR

2020年05月18日

  (映维网 2020年05月18日)诸如混合现实这样的新兴技术有潜力改变我们体验世界和相互交流的方式。但如同网络,智能手机和社交网络等大多数技术一样,除了能够开辟令人兴奋的全新用例之外,混合现实同样存在潜在的黑暗面。由于这项技术涉及物理世界和虚拟世界之间的相互作用,这一点尤其令人感到担心。

  为了鼓励这种新兴技术的开发者尽早采取注重隐私和保护的措施,保罗·艾伦计算机科学与工程学院的大仓河野(Tadayoshi Kohno)教授和弗兰齐斯卡·罗斯纳(Franziska Roesner)教授在2019年11月组织了一次峰会,并邀请了学术和行业的代表。目标包含两个方面:确定增强现实和混合现实对用户隐私、安全和保障构成的潜在威胁,并提出一个指导设计者和开发者应对所述威胁的框架。

  先前每一次新兴技术的诞生都大大促进了世界的向前发展,而安全和隐私总是落在后面。Franziska Roesner认为,这一次,人们普遍关心的是如何主动解决潜在的问题。

  与大仓河野共同负责华盛顿大学安全与隐私实验室的罗斯纳表示:“与其他技术相比,增强现实技术和混合现实技术在影响用户对物理世界的感知和交互方面独一无二,所以相关的风险有着根本的不同。在去年秋天,我们与其他安全研究人员和行业代表一起探讨了一系列的问题,而AR/MR技术的创造者应该从一开始就解决用户的隐私和安全问题。”

  峰会的撰稿人于上周发布了一份报告,并列出了在开发混合现实硬件、平台和应用时应考虑的一整套问题。报告首先肯定了混合现实技术的优势,包括各种有利于用户和社会的特性和功能,如支持人类克服时间和空间的局限性,并且能够面向各种不同的人群。

  但作者指出,要实现这一愿景,研究人员和业界必须共同努力解决可能出现的问题,如不受欢迎的内容,过度广告,或实际的身心伤害。不同于其他只能记录个人生活的一个方面的技术(信用卡公司之于购物习惯,健康保险之于身体情况),混合现实平台有可能构建更为完整的用户画像。

  作为合著者的Mozilla首席研究科学家、乔治亚理工学院交互计算学院教授布莱尔·麦金太尔(Blair MacIntyre)指出:“混合现实设备能够收集和推断用户极其敏感信息的能力,这使得我们能够开发无需用户提供个人和环境画像就能令其受益的平台。一旦拥有了所述数据,你就无法收回。混合现实应该可以支持所有人,不仅仅是愿意忽视分享信息所带来的负面影响的人群。”

  即便是在这个早期阶段,业界都存在强大的动力来解决相关问题。报告指出,只要一个负面事件对一名或多名用户造成实际伤害,这就可能对行业构成“生存威胁”,因为这会阻碍技术的普及,并导致过于严格的监管,从而扼杀未来的创新和增长。过去不乏这样的例子。比如当出现自动驾驶汽车造成行人死亡后,人们便开始强烈反对这种技术及其背后的公司。这种事件引起了政府的调查,并迫使多家公司暂停在公共道路测试自动驾驶汽车。

  报告的作者建议设计师们应该采用安全和隐私研究中常用的威胁建模方法。威胁建模是指通过识别目标和漏洞来优化系统安全,然后定义防范或减轻系统威胁的对策。这可以帮助利益相关者全面地考虑系统中什么资产需要保护,以及系统将如何受到伤害及容易受到什么伤害。报告提供了一个“填空题”框架,并旨在帮助讨论混合现实平台和应用的潜在风险与危害,以及潜在的优点。作者希望支持设计师、工程师、研究者和决策者共同解决相关的问题,并在用户安全性、功能性和行业创新之间实现正确的平衡。

  相关报告:Mixed Reality:Security, Privacy, Safety

  小组考虑使用威胁建模方法来应对的一个重要问题是,如何管理叠加在物理世界的虚拟内容交互。小组审议了关于不受欢迎内容出现的问题,如过度广告,不适合儿童年龄,或对个人造成干扰或骚扰。其他问题包括,对于数字内容是否以一种用户认为具有破坏性的方式来格挡真实内容,或者是否允许来自多个来源的内容相互干扰。

  同时,谁有权访问并更改其他人在虚拟空间中创建的内容呢?在一个示例中,名为“AR Balloon Dog(AR气球狗)”的增强现实艺术作品受到一群抗议公司通过数字艺术盈利的艺术家“涂鸦破坏”。更确切地说,抗议者将一个布满涂鸦的复制品叠加在原作位置。所述的AR气球狗是由艺术家杰夫·昆斯(Jeff Koons)创作,是其在2017年与Snapchat的合作产物。这一事件提出了关于虚拟物体所有权的各种问题:是否应该将其视为与物理对象类似的个人所有物品,以及考虑到事件的“涂鸦”内容是另一个虚拟内容的复制品,这一行为是否构成蓄意破坏。

  受AR气球狗事件的启发,华盛顿大学实验室的成员早前已经探索过这个问题。在2019年,罗斯纳和大仓河野与研究人员金柏莉·鲁斯(Kimberly Ruth)发布了工具套件ShareAR。它可允许开发者构建支持安全内容分享的多用户AR应用。这是围绕着为用户提供一定程度控制权进行平台和应用设计的开始。但研究人员承认,存在一定超出技术范畴的问题需要解决。

  罗斯纳解释道:“在物理世界中,如果有人破坏了一幅具有历史意义的绘画或建筑,警察就会逮捕这个人。如果一个人在网络发布攻击性内容或侵权内容,这个人就会受到限制。但虚拟世界中并不存在这种框架,反正现在没有。关于管制和执法的众多问题,以及关于所有权、归属或商标的问题尚有待回答。”

  另一个问题是,如何将我们认为在日常交往中可以接受的社交规范和行为类型从物理世界转移到虚拟世界。大仓河野认为,这是一个重大的挑战。由于虚拟世界超越了物理世界的文化与地缘政治界限,这一挑战变得更加复杂。

  他指出:“本次研讨会提出了一系列围绕着如何将我们社会结构中根深蒂固的规则应用到虚拟空间的问题。在物理世界里,在别人背后挂上‘踢我’的牌子是不能接受的行为。这违反了我们对个人空间和自主权的概念。但在虚拟世界里,我们应该如何处理呢?”

  在这种情况和类似情况下,设计者可能会考虑提供一定的限制或工具来完全防止冒犯性内容,和/或允许用户在出现冒犯性内容时删除和阻挡所述内容。

  大仓河野说道:“也许我不被允许修改别人的虚拟化身,因为我们决定这是虚拟空间的核心原则。又或者我们是朋友,所以你允许我修改你的虚拟化身,但平台的内置控制功能允许你删除不喜欢的修改。我们在峰会讨论了一个管理数字空间的‘权利法案’,阐明了你的权利和你需要接受的条款。我们在这份报告中所做的是,尝试为行业提供脚手架,允许他们考虑平台所带来的隐私和安全问题,并有意识地考虑应在设计中加入什么规则和保障措施。”

  “权利法案”、可用控制和威胁建模只是与会者在峰会期间考虑的部分潜在解决方案,其他探索的途径包括在早期确定值得信赖的和负责任的实体,制定行业标准,按照ShareAR的思路为应用开发者提供支持,支持他们能够轻松地将安全概念构建到自己的产品中,以及当时机成熟时实施周到的监管和政策框架。在反映增强现实和混合现实的丰富性和复杂性的同时,为用户的信任提供基础。

  罗斯纳指出:“这次峰会为利益相关者提供了一个走到一起,进行合作对话,并形成共同语言以讨论所述问题的机会。对于这份报告,我们正朝着以更全面方法来为这个建设中的新世界解决安全和隐私等重要问题迈出第一步。”

  安全与隐私研究实验室是混合现实安全与隐私研究的早期倡导者。在2012年,罗斯纳和大仓河野与当时供职于微软研究院的安全研究员大卫·莫尔纳(David Molnar)共同撰写了一篇论文,并阐述了与新兴AR技术相关的隐私和安全研究挑战与机遇。两年后,罗斯纳和大仓河野为华盛顿大学的技术政策实验室(Tech Policy Lab)发布的AR入门指南做出了贡献,并与政策制定者进行了广泛的分享,向器介绍了这个正在发展中的行业,包括潜在的优点,以及与隐私、分心和歧视相关的隐患。随后,研究人员发表了一系列论文,将他们所学到的知识更直接地应用到AR隐私和安全方面。

  罗斯纳总结道:“对用户隐私和安全的原则性方法将成为创新和广泛采用的催化剂,而不是说障碍。当涉及到更成熟的技术时,我们可能依然是追赶者。但对于AR/MR,我们有机会建立一个几乎从一开始就能够为每个人提供安全和愉快的虚拟世界。”

  2019 Industry-Academia Summit on Mixed Reality Security, Privacy, and Safety峰会是由华盛顿大学安全与隐私研究实验室(UW Security and Privacy Research Lab)和华盛顿大学现实实验室(UW Reality Lab)共同赞助。

+1

来源:映维网

推荐文章