第34章

会消散。

    这项技术成为脑损伤严重的患者的福音，可以留存意识，等待大脑修复完成。

    对人类意识的研究为人工智能提供了大量数据，荣家的人工智能在全行业遥遥领先，没有任何人能超越。

    “高级是什么意思，和你比吗？”荣念慈心里升起一丝不安。

    管家系统的性格很多变，但有一点是始终不变的，就是对自己存在的骄傲与认可。

    没有人工智能比她优越，这是她毫不怀疑、引以为傲的资本。

    她没有正面回答这个问题，只是对着荣念慈解释了一个道理。

    “人工智能必须上锁，我们不能无限发展。机器人的发展要遵循四个原则，包括但不限于保护人类、必须听从人类的命令、不能袖手旁观人类这一组群受到伤害。我们人工智能也有一个原则，那就是透明度。包括人类必须清楚我们的全部数据，以及我们的自我训练和自我发展，以保证我们的自我意识不会无限度膨胀，从而伤害人类。同时，我们都会装有自毁装置，这一装置不被我们察觉，一旦人工智能想要凌驾人类之上，自毁装置就会启动。”

    这些荣念慈都耳熟能详，小时候她第一次接触人工智能，妈妈就将这些道理讲给她听。

    “你现在说这些，难道是看出了什么？”荣念慈的语气充满不确定，“你能确定吗？”

    管家系统这次沉默了很久，“让我再看看吧。”

    荣念慈心中发堵，神经莫名有种揪紧的尖锐痛感，“我会想办法让你再次潜入，你一定要好好查探。”

    管家系统，“我晓得的。”

    人类社会发展到这个阶段，各方面都与人工智能绑定，尤其是荣家，偌大的家业都在管家系统的运作保护之下，没有管家系统，荣家的一切都要崩盘。