所以,一个看重任务战士和一个看重自身生命战士,会在面对相同危险时,做出同抉择。
要想让机器也能像一样,在执行任务时能够独立判断该冒险完成任务,该了自身安全隐蔽,就必须让机器价值判断能力。
但,一旦机器了价值判断能力,就可能会产生欲,接着可能会与类敌。
如何才能让机器既价值判断能力,又忠诚于类呢?也个项目难度极高原因一。
个研项目一个绝密项目,因一旦泄露被坏利用,灾祸可能殃及全类。
科学院所以把个任务分配给江玉,一考虑江玉乎常智慧和才能,也考虑到保密和规避法律问题,毕竟在月球保密成本更低。同时,地球上法律在月球否适用,一个正在争议问题。
在接个任务前,江玉研机器四五年验了,曾开过机器警察集群作战控制及互相掩护等功能,所以她对个新项目难度很了解。
她第一个感觉,一个无比庞大项目,可能今生今世永远也做完。如果顺利,机器智能在未会越越接近类,成类亲密助手和伴侣。如果顺利,比如研方向错误,可能所努力都一场空。如果一旦反类组织先于政府掌握了机器格化技术,类也可能遭受灭灾。
了少走弯路,江玉决定要进行周密、谨慎预研工作。
她把手下召集在一起,在保密室开始讨论项目预研技术路线。
大家对个新课题都表现出极其浓厚兴趣,你一言一语讨论得很热烈,时候两个争论起别想话都难,最由江玉把大家思路汇总了一下,形成了一个机器格化基本思路:
要赋予机器价值观,就需要赋予机器一些欲望和绪,因欲望和绪价值判断基础,而最基本欲望可以分两对参数:
一、荣耀和耻辱;
、勇敢和恐惧。
基本绪可以分六对参数:
一、危险和安全;
、足和;
三、痛苦和快乐;
四、愤怒和喜悦;
五、向往和厌倦;
六、烦躁和平静。
他们基本上达成了初步共识,认,如果机器能够感受并处理两个欲望参数和六个绪参数,应该就具备了一定基本价值观和自意识,者至少具备了高等动物水平自意识。
一个研员给个项目起了一个可爱别名,叫“禁果计划”。因赋予了机器些代码和传感器,机器就了欲望和绪,就像亚当和夏娃偷吃了禁果一样,从此便产生了罪恶,所以叫禁果计划。