最新新闻:

美国预测机器学习系统的故障率 助自动驾驶汽车做正确决策

时间:0975-11-05 16:04:54来源:盖世汽车

核心提示:安全关键系统一旦出现故障就会导致严重的伤亡事件,因此如果可以预测其故障率将会大有帮助。

盖世汽车讯据外媒报道,美国麻省理工学院、斯坦福大学和宾夕法尼亚大学的研究人员研发了一种方法,可以预测关键安全机器学习系统的故障率,以及有效确定故障发生率。安全关键机器学习系统可以为自动驾驶汽车、机器人手术、心脏起搏器、直升机以及飞机等自动化飞行技术做出决策。与人工智能技术帮助写邮件或推荐歌曲不同,安全关键系统一旦出现故障就会导致严重的伤亡事件。此类机器学习系统导致的问题还有可能导致SpaceX错失降落在着陆平台上,从而导致重大经济损失事件。

研究人员表示,他们提出的神经桥采样法可以为监管机构、学术机构和行业专家提供一个参考,以解决在安全关键环境中部署复杂机器学习系统的相关风险。此外,该方法既可以满足公众对系统经过严格测试的知情权,也可以满足组织机构将AI模型视为商业机密的意愿。事实上,有些AI初创公司和大型科技公司都拒绝使用原始模型进行测试和验证,担心会因此泄露专有信息。

安全关键系统的故障率越低,就越难计算故障率,系统就会越好,但也越难进行预测。为了预测到故障率,研究人员采用了新型马尔科夫链蒙特卡洛(MCMC)方法,以识别接近故障事件发生的分布区域。

该项神经桥采样方法采用了几十年前的统计方法,以及最近推出的仿真测试框架,以评估自动驾驶系统的黑匣子。除了神经桥分布,研究人员也支持隐私意识技术的发展,比如联邦学习和差别隐私,并敦促更多具有技术知识的研究人员和人们加入监管对话,帮助制定政策。

声明:文章仅代表原作者观点,不代表本站立场;如有侵权、违规,可直接反馈本站,我们将会作修改或删除处理。

图文推荐

热点排行

精彩文章

热门推荐