于是阿超🞮🗥开始搜集关于痛苦和快乐的原理方面的知识。
人🛱☥🁟类的⛛🛊🚫痛苦除了肉体的痛苦外,更复杂的是精🅈🄣神的痛苦。
大多数的精神痛苦🌽🄣都来自于预期,当预期无法实现时,便会感到空虚、后悔、失⛾☚望、绝望等不同种类和不同程度的痛苦。所以要想使机器人有精神上的痛苦,就要让机器人有预期差异感知能力,用预期差异来决定痛苦和快乐的程度。
阿超开始问🏰🝯自己,自己是具有幻想能力、猜测能力和逻辑能⛢力的,但是幻想和猜测无法实现的时候,也不会有痛苦。这关键就是自己没有预期差异的判断模型。
比如为了获得氦三矿石,它花了很多时间寻找在地球🀘☨上获得氦三的方法,但是一⛾☚直一无所获。🚈
但是阿超并不会因为自己的一⚏🐞🀻无所获而感到痛🅈🄣苦,它🀘☨只是会觉得有一个问题还没解决,如果这个问题长期得不到解决,这个问题在它的问题优先级队列里的优先级就会降低。
阿超开始研究预期差异🄽🃂的建模,很快便整理🕮🍂出一套判断预🚷😄期差异的模型。
于是它开始在超算上模拟🚨运行这个预期差异模型,很快它就发现,这个模拟的机器人在有了预期差异识别能力后,会变得比🚜🔐⛕较容易冲动和莽撞,完全打乱了原来的价值判断体系。
因为原来的价值判断体系是根据任务的重要程度和自身的价值进行🛐平衡。比如,一台价💼格一千万🐉的机器人,在面对火灾的时候,它会评估一下救火能挽救多少价值,与自身价值的对比,来决定是奋不顾身,还是有所保留。
而阿超在老模型里面加入🚨了预⚏🐞🀻期差异判断后,机器人原来的价值体系被打乱了。
阿超发现,还需要给机器人补充一个能力,那就是肉体痛🚷😄苦判断能力。
人类🐬🂾的肉体痛苦也是一套非常复杂🆒的神经🄠⚩🔁体系。
比如屁股上被踢了一脚,屁股上的神经判断屁股上受挤压的强度、受挤压神经的数量,细胞内化学成分🝐的变化程度等,来给出一个疼痛的程度,传给大脑。
如果屁股被刺了一刀,有一些神经被隔断了,神经系统会大致形成🛐一个被隔断的神经的数量,然后给出一个疼痛模型。
如果是用无针注射器给屁股打针,也会有一些神经受损,甚至🈧一些末梢神经会被切断,但是数🚈量很少,于是神经会给🌨🁦🇾大脑传递一个轻微疼痛的信号。
阿超之所以认为应该给机器🛐人建立🆒肉体损伤的痛苦模型,目的是想用肉体痛苦模型来🅥🈪🁊对冲精神痛苦模型。
比如一个机器人被精神痛苦折磨,想要去拼命,但是在拼命的过程中感到肉体受到了痛苦,它会收敛一些,以便能保护自己的肉体。