创业 | 硅谷创业公司造出能识别数百种模式的单个人造神经元
来自technologyreview
机器之心编译出品
编译:微胖
一家硅谷创业公司提出神经元工作新理论后,建造了一个模型加以检验,这在生物学中可不常见。
人工智能的发展非常快速,令人振奋。因为人们更加理解大脑神经网络工作原理,海量数据也为训练人造神经网络提供了条件。现在,人工智能越来越善于完成目标识别、脸部识别等人类更有优势的任务。
不过,这些突破中尚存未解之谜。尽管人工神经网络模仿了人类大脑工作原理,但是,人造神经元却和真正神经元相去甚远。比如,人造神经元通常只有少量突触,完全没有树突及其周围形成的大量突触。实际上,没人真的知道真实神经元为什么会有这么多突触。
感谢硅谷创业公司 Numenta,这一情况发生了变化。这家创业公司专门研究生物信息处理过程的基本原理,并对此加以利用。来自这家公司的 Jeff Hawkins 和 Subutai Ahmad想出了一种能够解释上述现象的新理论,并以这个新理论为基础,建造了一个可以复制出许多真实神经元智能行为的模型。
我们知道,真实神经元由胞体构成,胞体包括细胞核、近端树突和轴突。轴突末端反复分支,形成距离胞体较远的远端树突。
近端、远端树突在链接到其他神经元的轴突过程中,形成了许多链接点,也就是突触。这些链接显著影响着神经细胞发出电信号(脉冲,spikes)的速率。
比较一致的看法是,神经元的「学习」方式是识别突触之间的链接模式,当识别出这种模式时,即会放电。
但是,虽然很容易理解近端突触会影响细胞及其放电频率,但是,远端突触是否也从事相同的工作,很难搞清楚,因为它们距离细胞太远了。
如今,Hawkins 和 Ahmad知道远端突触到底是做什么的了。他们假设,近端和远端突触在学习过程中,扮演完全不同的角色。近端突触发挥传统功能,也就是当某种链接模式突然出现时,引发细胞放电。
这就是传统的学习过程。他们发现,即使在大量杂音和多变背景下,一个神经元也能识别出几百种链接模式,只要整个神经活动不密集。
但是,远端神经元从事其他工作。当出现某种链接模式时,它们也能加以识别,但并不引发放电。相反,它们会对细胞放电状态产生影响,如果出现另一种具体模式,细胞很可能放电。用Hawkins 和 Ahmad的话说,这些突触有助于细胞预测近端突触接下来要识别什么样的链接模式。
这太重要了。这意味着,当某种具体模式出现时,除了传统学习内容,细胞还会学习模式出现的顺序。他们说,「我们已经表明,具备这些能力的神经元网络不仅会学习,还会回想起模式出现的顺序。」
而且,他们也表明,具备这些能力的神经元网络运作良好,即使在大量噪音背景下,也是如此。生物系统就是这样。
这是思考神经元工作原理的重要新思路,也提供了有关人类大脑信息处理的重要洞见。比如,他们的研究表明,大脑系统不会记得顺次出现的每个模式的每个细节,但是,它会存储前后模式的不同之处。
因此,重要的不是模式中的信息总量,而是模式之间的差异。
这个有趣的特点有助于解释另一个令人困扰的人类记忆特点:意元组块(chunking)。人类短期记忆资讯的数量极限平均为7个组块,这些组块可能是数字、字母甚至单词,不过,无论是哪一种,人类短期记忆只能记住7个。
但问题是,比如,一个单词(比如,突触),它的内容信息量肯定比一个数字(比如,7)要大。但是,没人知道大脑如何能像记住7个数字一样,轻易记住7个单词。
但是,Hawkins 和 Ahmad的新理论能够解释这种现象。大脑并不存储与单词和数字有关的信息,只是记住它们的区别,这就简单多了。这也能推出一些可加以验证的有关记忆本质的假设。
这个新模型还能推出其他可加以测试的假设。比如,当某个神经元轴突和另一个神经元的树突仅有少数几个突触时,这个模型才有效。如果有太多突触,它就无法区分不同模式,所有模式都变成一样的了。
但这肯定不是真实神经元的情况,他们说,「我们推测,为了防止这种情况发生,真实神经元中肯定有某种机制,在一个突触形成之后,积极消除多重突触的积聚。」
一个可以加以检测的假设,这在生物学研究中,可谓非比寻常。
最后一点,这个新理论并非来自学术领域,而是硅谷一家创业公司。这家公司是Jeff Hawkins的智慧结晶,他是一位神经科学家,也是一位创业者。上世纪90年代,他曾经发明了Palm Pilot ,后来全身心从事神经科学研究。
顺便说一声,他们管自己的新玩具叫分层时间记忆神经元 ( Hierarchical Temporal Memory neurons,HTM神经元)。
©本文由机器之心原创编译,转载请联系本公众号获得授权。
✄------------------------------------------------
加入机器之心(全职记者/实习生):hr@almosthuman.cn
投稿或寻求报道:editor@almosthuman.cn
广告&商务合作:bd@almosthuman.cn
↓↓↓点击「阅读原文」查看机器之心网站,获取更多精彩内容。
请先 后发表评论~