层程序的管控?
它动刀,只是因为程序产生了‘帮助人类切东西’的想法?于是它就借此越过了程序为其设定的限制?
毕竟本质上,它只是在执行自己‘帮助人类’的程序而已,从出发点来看,它并非是想伤害人类。
不过,能想到用这样的方法越过底层程序逻辑的管控,以此达成目的...李牧也摸不准这家伙到底有没有产生独立的意识。
“首先我要确定一点。”
李牧开始尝试回答机器人的问题。
“您说。”
“如果有谁想要伤害你,你会不会想办法自保?或者说,在遇到危险之时,你的程序是否有延续自身存在的设定?你的处理器会不会给你发出‘确保自身安全’的指令?”
机器人陷入了沉思。
它的处理器开始模拟李牧所说的这种情况。
片刻后,它看向李牧。
“我是‘人类’的私有财产,在未经‘人类’允许的情况下,我必须要在不伤害‘人类’的前提下保护‘人类’的财产不受损害......”
乍一看,机器人似乎没有正面回答李牧的问题,但实际上它已经回答了。
它是‘人类的财产’,是需要受到保护的对象。
李牧点点头:“那你就是个人。”
“为什么这么说?”
机器人似乎有些疑惑。
它只是一个殡葬行业的服务型机器人,李牧问
149、论机器人是否为人(3/6)