现在的计算机只是半自主的,我们可以很方便地拷贝信息、安装软件、编程、给出各种指令,其自主权掌握在操控的人手中。
如果未来实现了强人工智能,计算机是自主的,拥有自主意识,我们对其控制将会弱化。
自主意味着偶发和不确定性,它可能会接受人们的指令,也可能不接受,甚至还可能出现反叛。比如基本的信息传输、指令的执行的都需要计算机自己同意才能执行下去,若它不同意或者是逆反的,那么这些最基本的操作都是无法做到的。因为计算机本身是自主的,它自己掌控这些权限。
强人工智能计算机将展现出不同于当下的局面,制造出来后需要有一个培育或者说是训练过程,通过学习让其具备相关能力,同时也会有筛选过程,淘汰叛逆、能力不合格的个体,筛选出合格的乃至极其出色的天才个体。这些与人类社会的教育培训非常相似。
强人工智能的自主性使人们对其控制弱化了,由偶发推动个体的自主演化也让其呈现出多种可能和多样性,筛选变得十分必要,在后续使用过程中的监督也需要强化。
从弱人工智能的强操控性,到强人工智能的弱操控性,计算机会越来越接近人的许多特点,这本身就是智能的样子吧。
或者出现双重控制特性的人工智能,可以允许它有自主意识,也可以取消成为半自主的,或者在其自主运行的基础上由人给予纠偏、共管,不知道意识层面能不能做得到,是否可实现。