Spark和Mesos的诞生之地,又在研究什么新技术?

大家对加州大学伯克利分校的AMPLab可能不太熟悉,但是它的项目我们都有所耳闻——没错,它就是Spark和Mesos的诞生之地。小数又那里听说了新的工具,一起来围观最前沿的技术吧!

加州大学伯克利分校电子工程和计算机学院的助理教授Joseph E. Gonzalez向我们介绍了该校实验室研究的最新情况。

AMPLab是加州大学伯克利分校一个为期五年的计算机研究计划,其初衷是为了理解机器和人如何合作处理和解决数据中的问题——使用数据去训练更加丰富的模型,有效的数据清理,以及进行可衡量的数据扩展。

AMPLab于去年11月份结束关闭。新的实验室就此开启——RISELab,另一个该校五年期项目,有着强力的财政支持,将聚焦于提供安全执行的实时人工智能系统。

RISELab的团队任务是前瞻性地推动大数据分析到一个更加深入的世界,在那个世界,AI是真实的,世界是可编程的。举个例子:围绕着“小型自主飞行器”管理数据设备,无论是无人机还是气垫汽车,都是数据在被高速且安全地处理着。

其他的挑战还包括安全领域,但不是传统意义上的访问控制。当然也包括类似 “homomorphic” encryption的概念,加密数据可以直接被使用不需要解码。“如果没有对云的理解,我们如何预测云上的数据?” Gonzalez如是说。

尽管实验室还处于初期阶段,一些项目已经浮现在人们面前:

Clipper

机器学习包括两项基本的工作:根据预测建立模型以及从模型提供预测。Clipper专注于后者,是一个多用途、低延迟的预测服务系统,根据机器学习framework以最低的延迟进行预测。

Clipper在机器学习方面主要有三个目的:其一,加速从被训模型中获取预测的速度。其二,在多个机器学习framework上提供一个抽象层,开发者只需要编程一个API即可。其三,Clipper的设计让它可以动态地响应,如单个模型响应请求。举例来说,允许一个给定模型对特定类型的问题进行优先级的回复。目前还没有明确的机制,但已是未来的趋势。

Opaque

目前看来RISELab的项目会补足AMPLab余下的工作。Opaque就是其中之一:Opaque和Apache Spark SQL一起为DataFrame提供强力的安全保障。它使用Intel SGX处理器的扩展部分,把DataFrame标记为加密,所有的操作都在”SGX enclave”下执行,数据就地使用AES算法加密,只有通过硬件层保护的应用使用它时才可见。

没有性能损耗的情况下,它提供了同态加密(homomorphic encryption)的优势。使用SGX的性能损耗大概在50%,但是当前最快的同态算法实现起来也要比它慢2000倍。另一方面,SGX的处理器在云上还未提供,尽管Gonzalez表示近期将会实现。最大的障碍在于,为了让它能够工作,“你必须相信Intel”。

Ground

Ground是一个数据湖(data lake)context管理系统。它提供了在Java中实现一个RESTful服务的机制,让用户去推论他们拥有什么数据,数据从哪里来向哪里去,谁在使用数据,数据何时变化,为什么会有这种变化等。

数据聚合(data aggregation)已经从严格的数据仓库型管理中移除,向开放且灵活的数据湖接近,但是也让追踪数据形成变得很难。在某些方面,弄清楚谁改变了给定数据集以及如何改变,比了解数据本身更重要。Ground提供了一个通用API和追踪信息的元模型,可以和很多数据储存库一起工作。

Gonzalez承认定义RISELab的目标并不容易,但是他表示,“它的核心在于从如何建立高级分析模型、如何分析数据到如何利用洞察来做出决定的转型过渡——将Spark和大规模分析的产品与世界连接”。

作者:Serdar Yegulalp

文章来源:http://www.infoworld.com/arti…

    原文作者:优云数智
    原文地址: https://segmentfault.com/a/1190000008271696
    本文转自网络文章,转载此文章仅为分享知识,如有侵权,请联系博主进行删除。
点赞