最新新闻:

潜力巨大!MIT研究人员开发出新型神经网络 可以在运作时同步训练学习

时间:2021-01-29 15:54:42来源:前瞻网

麻省理工学院的研究人员已经开发出一种神经网络,它可以在工作中学习,而不仅仅是在训练阶段。这些被称为“Liquid”网络的灵活算法,可以改变它们的基本方程,不断适应新的数据输入。

这一进展可以帮助基于数据流的决策,这些数据流会随着时间的推移而变化,包括涉及医疗诊断和自动驾驶的数据流。

该研究的主要作者Ramin Hasani说:“这是未来机器人控制、自然语言处理、视频处理——任何形式的时间序列数据处理的一种前进方式。”“潜力非常巨大。”

这项研究将在2月份的AAAI人工智能会议上公布。除了麻省理工学院计算机科学和人工智能实验室(CSAIL)的博士后哈萨尼(Hasani),麻省理工学院的合著者还包括CSAIL主任丹妮拉·罗斯(Daniela Rus)等。

哈萨尼说,时间序列数据无处不在,对我们了解世界至关重要。“现实世界是关于序列的。甚至我们的感知——你不是在感知图像,你是在感知一系列图像,”他说。“所以,时间序列数据实际上创造了我们的现实。”

他指出,视频处理、金融数据和医疗诊断应用都是时间序列的例子,它们对社会至关重要。这些不断变化的数据流的变迁是不可预测的。然而,实时分析这些数据,并利用它们预测未来的行为,可以推动自动驾驶汽车等新兴技术的发展。所以哈萨尼建立了一个适合这项任务的算法。

哈萨尼设计了一个神经网络,可以适应现实世界系统的变异性。神经网络是一种通过分析一组“训练”例子来识别模式的算法。人们常说它们能模拟大脑的处理过程——哈萨尼直接从显微镜下的线虫C。 elegans中获得灵感。“它的神经系统只有302个神经元,”他说,“但它可以产生出乎意料的复杂动态。”

Hasani对他的神经网络进行编码,仔细研究了线虫神经元是如何通过电脉冲激活并相互交流的。在他用来构建神经网络的方程中,他允许参数根据一套微分方程的结果随时间变化。

Hasani对他的神经网络进行编码,仔细研究了线虫神经元是如何通过电脉冲激活并相互交流的。在他用来构建神经网络的方程中,他允许参数根据一套微分方程的结果随时间变化。

哈萨尼的“Liquid”网络在一系列测试中表现出色。从大气化学到交通模式,它在精确预测数据集未来值方面比其他最先进的时间序列算法高出几个百分点。“在许多应用中,我们看到了可靠的高性能,”他说。此外,该网络的小尺寸意味着它在完成测试时无需支付高昂的计算成本。哈萨尼说:“每个人都在谈论扩大他们的网络。”我们希望缩小规模,拥有更少但更丰富的节点。

哈萨尼计划继续改进该系统,为工业应用做好准备。

这项研究部分由波音公司、美国国家科学基金会、奥地利科学基金和欧洲领导电子元件和系统(Electronic Components and Systems for European Leadership)提供资助。

声明:文章仅代表原作者观点,不代表本站立场;如有侵权、违规,可直接反馈本站,我们将会作修改或删除处理。

图文推荐

热点排行

精彩文章

热门推荐