参考消息

美媒:研究人员开发新软件令大数据分析速度快百倍

2017-11-02 14:52:41 来源:参考消息网 责任编辑:卫嘉

核心提示:与现有的非优化软件包相比,这种代码能将数据分析速度提高100倍。它的性能可与针对特定稀疏数据精心手动优化的代码相媲美,而程序员要做的工作却少得多。

参考消息网11月2日报道 美媒称,在美国电子计算机协会的系统、程序、语言和应用程序大会上,来自美国麻省理工学院、法国替代能源与原子能委员会、奥多比系统软件公司的研究人员展示了一种能针对稀疏数据编写出优化代码的新系统。与现有的非优化软件包相比,这种代码能将数据分析速度提高100倍。

据美国每日科学网站10月31日报道,人们生活在大数据时代,但大多数数据却是“稀疏”的。比如,想象一下,一张巨大的图表绘制出了亚马逊网站的所有顾客与所有产品之间的关系,如果用1来表示某个特定顾客购买的每件产品,用0来表示没有购买的产品。那么这张图表上的绝大部分是0。

对于稀疏数据,分析算法会做大量0的相加和相乘,而这种计算是无用的。为了避免这种情况,程序员会通过编写定制代码来避开0项,但这种代码十分复杂,通常只适用于少量问题。

在美国电子计算机协会的系统、程序、语言和应用程序大会上,来自美国麻省理工学院、法国替代能源与原子能委员会、奥多比系统软件公司的研究人员展示了一种能针对稀疏数据编写出优化代码的新系统。

报道称,与现有的非优化软件包相比,这种代码能将数据分析速度提高100倍。它的性能可与针对特定稀疏数据精心手动优化的代码相媲美,而程序员要做的工作却少得多。

该系统名为Taco,即“张量代数编译器”的英文缩写。在计算机学术语中,像之前所说的亚马逊网站图表那样的数据结构被称为“矩阵”,而“张量”就像是一种更多纬度的矩阵。

近年来,张量的数学运算——张量代数——对于大数据分析和机器学习都变得至关重要。自爱因斯坦时代以来,它也一直是科学研究的一个主题。

以往,在处理张量代数时,数学软件会先把张量运算分解成各个组成部分。例如,如果某个运算过程需先把两个张量相乘,然后再与第三个张量相加,那么软件会对前两个张量运行标准的张量乘法程序,保存结果,然后再运行标准的张量加法程序。

但在大数据时代,这么做却太耗费时间。研究论文第一作者、来自麻省理工学院的弗雷德里克·舍尔斯塔德解释说,要完成对大型数据集的高效运算,那么每一组张量运算都需要自己的“内核”,即计算模板。

凡注明“来源:参考消息网”的所有作品,未经本网授权,不得转载、摘编或以其他方式使用。

精品推荐

排行榜

  1. 1外媒解读中国强军历程:武器技术突飞猛进 年
  2. 2参考睿评|集体宣示反“独”促统,台湾统派迎
  3. 3俄媒:中国实现了苏联没实现的目标
  4. 4英媒称十九大接待工作将一切从简:餐厅全部都
  5. 5反正美军最厉害?美媒评点人类史上6支最强陆
  6. 6日媒称中国“强国化”对日影响深远:“日本该
  7. 7美媒:谁是当今最有实力国家?不是美国
  8. 8西部高原演兵场烟尘弥漫 各型武器齐开火(组图
  9. 9俄媒称中国经济科技快速发展:中国令人信服地
  10. 10最新调查揭开真相:马岛战争“谢菲尔德”号如