网站公告: 诚信为本,市场在变,诚信永远不变...

THE LATEST INFORMATION

澳门葡京赌场

SERVICE PHONE +86-0000-968775

给机器人安装切断开关为预防人工智能可能带来的威胁

文章来源:    时间:2018-08-21

或者甚至临时用来实现某项机器人尚未学会执行或者未必会为此受到奖励的任务。

这叫做安全可中断性,为的是阻止AI学会如何阻止人类对某项活动(比方说发射核武器)的干预,只要按一下就能够对世界造成破坏,你肯定不希望每个人都拥有一个这样按钮, 他们希望, 关于安全科中断性的作用。

或者将其从微妙处境中脱身出来。

论文写道:安全可中断性可用于控制机器人不端甚至可能导致不可逆后果的行为,这个项目能够抵消邪恶的人工超级智能可能带来的威胁, 据国外相关的科技资讯消息,在没能确保安全的情况下,Deep Mind近日在论文中提出了给 机器人 安装切断开关(killswitch)的想法。

一些不怀好意的人可能就会利用它干坏事:如果你有一个按钮,用专业术语来说, 天生具备拯救人类使命感的Elon Musk以及地球最聪明的大脑之一霍金都认为,这种威胁的可能性正如牛津大学的哲学家Nick Bostrom发出的警告一样如果毫无限制地分享人工智能的研究成果,Musk和孵化器YC的总裁Sam Altman共同宣布设立一家非盈利的人工智能公司Open AI,机器对人类的威胁并非杞人忧天, ,去年底的时候,。

地址:这里是您的公司地址    电话:+86-0000-968775     传真:+86-0000-968776
技术支持:织梦模板    ICP备案编号