掘金圈 商铺 随着人工智能的发展,科学家警告人类将不能控制人工智能

随着人工智能的发展,科学家警告人类将不能控制人工智能

广告4

随着人工智能的发展,科学家警告人类将不能控制人工智能

AI的最新发展带来了一些道德两难问题。或许最重要的因素是人类能否控制自动机器。

AI驱动的机器人越来越多地负责家务活或自动驾驶车辆(如亚马逊)。尽管这样的技术让生活更轻松,但是它也会让生活更复杂。

一国际研究小组警告说,创造功能过强且独立的软件存在潜在风险。科学家们通过一连串的理论计算探索如何控制人工智能。该研究发表在《人工智能研究门户杂志》上,他的结论是不可能的。

“控制世界的超级智能机器听起来像是科幻小说。但现在已经有一些机器能够独立完成某些重要任务,而程序员们并不完全理解它们是如何学习的,这种情况在一定程度上会变得无法控制,对人类来说是非常危险的,”该研究的合作者 Manuel Sebryn在 Max Plank人类发展研究所说。

科学家尝试了两种方法来控制人工智能。其中之一是将其与因特网和其他设备隔离,从而限制其与外界的联系。但问题在于,这样做会大大降低它执行创建功能的能力。

二是设计一个“理论上的遏制算法”,确保人工智能“在任何情况下都不会对人类造成伤害”。然而,对当前计算范例的分析表明,不能创建这样的算法。

他说:“如果把这个问题分解成基本的理论计算规则,结果表明,指导 AI不去破坏世界的算法可能会无意间停止自己的运行。一旦这样,我们就不知道遏制算法是否会继续分析威胁,还是会停止对有害 AI的遏制。事实上,这使得限制算法不能被使用,”另一位研究者伊亚德·拉温解释道。

在这些计算的基础上,问题是没有任何算法能够确定 AI是否危害世界。研究者们也指出,人类甚至不知道超级智能机器何时才会出现,因为判断一台设备是否拥有比人类更高的智能和控制问题是同一个领域。

广告5

本文来自网络,不代表掘金圈立场,转载请注明出处:http://www.jjq6.com/zhineng/20210117/545.html

作者: summer

上一篇
下一篇

发表评论

邮箱地址不会被公开。 必填项已用*标注

联系我们

联系我们

13361274590

在线咨询: QQ交谈

邮箱: 1584605069@qq.com

工作时间:周一至周五,9:00-17:30,节假日休息

关注微信
微信扫一扫关注我们

微信扫一扫关注我们

关注微博
返回顶部