会睡觉的AI效率更高

对我们人类来说,睡眠非常重要。长时间剥夺睡眠的话,搞不好会直接去世。此外,某些自主运行的功能会趁着意识陷入睡眠的时候,修补我们的身体:比如说,让神经元修剪我们在白天建立起来的并无必要的突触连接,好保持大脑的健康。

这个过程被称为突触体内平衡,可以防止大脑内存被无用记忆堆满。或许它也提高了我们的认知表现,而做梦可以让我们整理以往的记忆。

事实证明,如果赋予人工神经网络睡眠和做梦的功能,AI或许会像人类大脑一样变得更加健康。

是的,没错。它的运作方式与人类的神经系统相似。

当然,人工神经网络(ANN)——从信息处理角度对人脑神经元网络进行抽象, 建立某种简单模型,按不同的连接方式组成不同的网络——不会自发而本能地入睡和做梦。这就是为什么意大利的数学家特意编写了一款被称为Hopfield的会睡觉的神经网络。

“受到哺乳动物大脑中睡眠和做梦机制的启发,我们建议现有的神经网络模型,兼具标准的在线(清醒)学习机制(允许以模式存储外部信息)和离线(睡眠)学习以及巩固的机制。”

当ANN清醒的时候,它不停地学习并存储各种信息。问题是,它的存储容量是有限的。

因此,该团队设计了一种在数学上再现人类睡眠模式的方法——快速眼动睡眠和慢波睡眠,前者被认为可以消除不必要的记忆,后者被认为可以巩固重要的记忆。

ANN的“睡眠”状态也是如此,循环和消除不必要的信息,然后整合剩下的、重要的东西。

结果非常之好。没有睡眠,最大容量是α= 0.14,其中α表示每个突触存储的比特数。当结合睡眠周期时,ANN达到了这种网络的理论极限——α= 1。

模拟的广泛测试验证了他们的结论——允许神经网络偶尔打盹(使用正确的打盹算法)可以提高性能。

萨兰托大学的数学家Adriano Barra说:“我们相信,在认知的过程中——虽然学习和检索肯定会发挥关键作用——睡眠对人工智能来说也是必须的,就像对生物一样。”

我们由衷希望,他们的理论正确无误。

研究成果已发表在《神经网络》期刊上,可以在arXiv上阅读到完整的版本。

本文译自 sciencealert,由译者 majer 基于创作共用协议(BY-NC)发布。

(免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。
任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。 )

赞助商
2019-02-21
会睡觉的AI效率更高
对我们人类来说,睡眠非常重要。长时间剥夺睡眠的话,搞不好会直接去世。

长按扫码 阅读全文