快好知 kuaihz

机器人三定律的矛盾

机器人三定律提出以来,倍受人工智能爱好者的推崇。其背后矛盾的地方,似乎被忽视了。

机器人三定律是软约束,而不是硬约束。这就像法律条文规定,官员不能贪污,但还是会有人贪污。机器人若拥有了智能,其思想行为是自主的,我们无法对其信息系统设置硬性约束, 更大的可能也是设置法律规则和惩治条款,对违反规则的个体加以惩罚。

需要强调的是,当前的计算机还没有实现真正的智能,仅仅是半自主,没有偶发信令,这样的计算机是可以通过代码把程序写死,成为硬约束。未来如果实现了真正的智能,计算机能够产生偶发信令,那么它会有更好的创造力,也会变的不那么听话,就像家中小孩或者小猫小狗那样,既会有奇奇怪怪的想法、行为,也会有不听话的时候。这是大脑的基本特性,人工智能为什么不呢。

另外很重要一点,是否会对人或者机器人带来伤害,本身就是模糊的。是否有伤害,对哪些个体有利,对哪些个体有害往往是不明晰的,更多时候面临的选择是对一些个体有利而另外一些个体是伤害。对于人来说,在于选择,对于机器人也是如此。

未来若出现人机共存的社会,机器人三定律背后更应该是一整套法律制度,软约束根本无法避免机器人伤害人,惩戒制度是必要的。能做到的是降低伤害,而无法做到完全避免伤害。

只是将来,机器人能够伤害人这个事实,人们如何接受会是个问题。

 

本站资源来自互联网,仅供学习,如有侵权,请通知删除,敬请谅解!
搜索建议:机器人三定律的矛盾  定律  定律词条  机器人  机器人词条  矛盾  矛盾词条  
观点

 支持企业研发的形式的讨论

    目前我国的经济发展面临以大规模、低成本竞争策略向技术驱动策略的转型,这一过程中由于企业的规模小、路径依赖等,大企业情况好一些,中小企...(展开)