投资团队  
投资理念  
用户类别:
证件号:

密码:        忘记密码

验证码:




扫描二维码关注涌峰微信号

“深度学习”的2018:微妙时刻

2019/1/20 13:45:23 作者:中国龙团队
        在“前沿”和“主流”两种意义上,人工智能的含义都已经变成了深度学习。我们想回顾一下深度学习的2018年,而更重要的,恐怕是澄清几个关键概念的迷思:
神经网络
神经元
深度神经网络(深度学习)
AI芯片
神经网络
        “神经网络”这四个字很有迷惑性,很容易被人想象成为一种超级复杂的对象。在直观的想象中,既然是“网络”,一定是有大量的神经元,它们之间互相连接,形成超级复杂的网状结构,也许网络结构还能动态的变化,而这整张网络具有某种“神秘”力量。实际上,“网络”这种表达是学术界的一种爱好,学术界喜欢把任何在节点之间有连接的结构都称为“网络”,无论这结构有多简单。实际上,神经网络的结构还是比较简单、清晰的。在经典的神经网络中,神经元划分成清晰的层次,比方说,从下到上分为4层神经元。同一层之内的神经元独立、并列,没有任何连接。而上一层的每一个神经元,和下一层的每一个神经元之间,则都有连接。每一个神经元,从与它连接的下一层神经元获得输入,进行某种运算,产生一个输出;而它的输出,则通过连接,成为上一层中与它相连的神经元的输入之一。第一层(最下层)的神经元,可以看作是“假”的神经元,因为它只负责接收外界的输入;而最后一层(最上层)的神经元,它们的输出不再通过连接传给上一层神经元(已经没有更上一层了),而是成为整个神经网络的输出。神经网络本身的结构就是这么简单,而且也不可能有任何动态的结构变动(哪怕是人类的大脑,出生时有多少神经元,它们之间怎样互联,一辈子都不会发生变化;当然,有些神经元会老化死亡)。当然,在这种清晰简单的结构下,可以有很多层,而每一层内,可以有很多个神经元;这样,至少在规模上,神经网络可以变的很大。
神经元
        作为“神经网络”基本单元的“神经元”,是不是一种有神秘能力的事物?并不是。如前述,一个神经元的功能只是从下一层的神经元获得输入,进行计算,得到结果,再交给上一层的神经元而已。它的核心动作,就是“进行计算”;而所作的“计算”,实际上只是乘法和加法这种超级简单的运算而已。如果把大脑看作是一个巨大的神经网络,那它的“神经元”正是其字面意思,即脑神经元,或者说脑细胞。然而,对我们讨论的(人工)“神经网络”来说,并不会有物理上,或硬件上的“神经元”存在,因为那样做代价高昂,又没有什么特别的好处;一般来说,我们用处理器的运算来模拟一个抽象的“神经元”的运算。
深度神经网络(深度学习)
        “深度”二字并非比喻,请勿因此而产生任何有关人类思考的“深刻性”方面的联想。实际上,“深度”二字在神经网络领域内完全是字面意思,就是指从下到上有“很多层”神经元的神经网络。深度神经网络比“浅”神经网络规模更大、更复杂,而能力更强,近年来算法和硬件的突破,是深度学习形成超级热度的原因。
AI芯片
        AI芯片的概念在2018超级火热,它会以若干种不同风格的名字出现,比如GPU、ASIC、FPGA。这些不同的名字,实际上是关于用哪种技术路线,来高效实现AI应用的目标。AI芯片的意思具有人工智能的芯片吗?当然不是。
在最夸张的厂商口中,它是“AI芯片”
在稍微实际一点的手机厂商口中,它们是“NPU”,或是“神经网络处理器”,他们的意思是,这个芯片能够高效的进行神经网络的运算。
在更实际一点的Geek厂商,比如Google口中,它是“TPU”,或是“张量处理器”,Google的意思是,这是一片能进行高效张量运算的处理器。Google不爱说人话。
实际上,最接近事实的描述是,这是一片能够进行超级高效的固定大小的矩阵乘法且


全国客户服务专线: 400-668-8801   www.topfund.com.cn  联系我们
沪ICP备 14007645号-1 沪公网安备 31011502017994号
Topfund © Copyright 2006-2024.