-
如何提升深度学习平台效率?阿里云推出了这么一个神器
随着深度学习对人工智能的巨大推动,深度学习所构建的多层神经网络模型的参数空间已从***上升到百亿级,这对计算能力提出了新的挑战。相比CPU,GPU更适合深度学习的神经网络模型,可进行高度统一、相互无依...
-
从分布式计算到分布式训练(分布式计算概念)
对计算机来讲,所谓的计算,不过是将存储在各个地方的数据通过数据总线进行传输,然后经过算术逻辑单元执行一系列预设好的规则,最终再将输出写入到某个位置。 在计算能力有限、存储成本偏高的情况下,就需要利用好...
-
分布式数据集SparkRDD的依赖与缓存(spark是分布式文件系统吗)
RDD简介 RDD(Resilient Distributed Dataset)叫做分布式数据集,是Spark中最基本的数据抽象,它代表一个不可变、可分区、里面的元素可并行计算的集合。RDD是一个类...
-
数据分布式了,计算也得跟上!(什么是分布式数据库)
1.前情提要 经过一番努力,张大胖和Bill成功地实现了一个分布式的文件系统:HDFS。 (参见《HDFS的诞生》)。 这个系统可以把大文件分成一个个片段,分散地存储在各个服务器上,每个片段还额外有2...
-
华为发布新一代企业级分布式数据仓库FusionInsight LibrA(华为分布式架构)
构建PB级企业新数仓,实现万亿数据关联分析秒级响应 [中国,北京,2018年4月25日] 在华为全球金融峰会上,华为发布了新一代企业级分布式数据仓库FusionInsight LibrA 解决方案(以...
-
云计算、大数据和物联网代表了未来,三者之间有哪些区别和联系?
云计算、大数据和物联网代表了IT领域***的技术发展趋势,三者既有区别又有联系。云计算最初主要包括了两类含义:一类是以谷歌的GFS和MapReduce为代表的大规模分布式并行计算技术;另一类是以亚马逊...
-
关于Docker这个问题,你可能不知道?(docker常见问题)
Hello world,大家好,我是 pshu. 今天码农英语课堂的第六期来和大家说一个 docker 相关的冷知识. 首先讲下"冷知识"这个词.。要一个比较地道的翻译的话,我个人觉得 trivia是...
-
京东万台规模Hadoop集群 | 分布式资源管理与作业调度(2台hadoop集群)
京东为什么要做万台规模的Hadoop? 随着京东的业务增长,原有的Hadoop集群已经无法满足高速增长的存储与计算需求。拆分集群虽然可以分担一部分压力,但带来了另外的一些问题,如拆分集群之后假如某个业...
-
架构师入门必看系列,分布式文件系统HDFS解读(分布式文件系统HDFS体系结构)
在Hadoop生态系统中,Hadoop分布式文件系统(HDFS)是非常关键的一环,它为管理大数据资源池和支撑相关大数据分析应用提供了一个具有高可靠性的工具。在分布式存储领域,HDFS也扮演着重要角色,...
-
云计算的六大相关技术(云计算涉及的技术领域)
云计算是一种新型的业务交付模式,同时也是新型的IT基础设施管理方法。通过新型的业务交付模式,用户将通过网络充分利用优化的硬件、软件和网络资源,并以此为基础提供创新的业务服务。新型的IT基础设施管理方法...