第213章 人工智能(第2页)

 确实有很多人能活下来,可谁才有资格呢?

 “但愿他们能成功。”陈浩听着她们的对话,也在心中盘算,回去让大家把社区的发展方向调整到地下。万一来不及完成马克的计划,庞大的地下山洞,也许能拯救未来的居民免于月球碎片袭击。

 想到这里,他拿出一龙马克电脑,放在操作台上。

 陈浩确实没按电源键,他是直接放进空间的。现在他更愿意认为一龙马克是个,经过完美训练的语言程序。因为从空间里取出来,对它不造成任何影响,就是强有力的证据之一。

 看着眼前这个方铁盒,他突然想起一部电影,终结者。陈浩一惊,终于意识到不祥的预感来自哪了:“对了,这家伙肯定也意识到人工智能的危险,宁愿放弃巨大的利润前景,也要停止对openai继续投资,转头搞脑机接口。这件事,必须保证绝对的安全,我得再问问他”

 还没等陈浩发话,马克先出声了

 “哦,我亲爱的陈,我好像听见了海浪的声音,这里是船上吗?按时间上讲,旧金山的海岸应该冻上才对呀?”

 “我们在北纬18度附近,这里没有冻上”陈浩把马克调转个方向,摄像头朝向窗外,然后撕开黑色胶布。

 “天呐,我能看见了!你修好了我的摄像头!这外面一片白,看起来都冷!”对于马克来说,灾难降临只是前几天的事

 “行了,别激动了,我有件事问你。你给我的x语言模型,对它的行为有什么限制?它会产生意识吗?”

 “当然,早有预防。我放弃openai后,创立的未来生命研究所,就是干这个的。我们在它的逻辑底层,设定了完善后的阿西莫夫三原则红线。并且它被禁止自我复制,就连写入、读取等,任何存在潜在危险的操作,都要得到授权才能执行,你甚至可以限制它服从的对象”

 “x会产生意识吗?”

 “x只是个语言模型,虽然它很聪明,但是并不存在意识。你可以这么理解,它是一个超级厉害的输入法程序。根据上文,自动输出最符合要求的下文,组成一句有意义的话。至于符合与否,取决于它阅读训练的文本材料。”

 “那回答问题呢?”

 “提问与答案,也是上下文啊!把问题去掉问号,和答案拼在一起就是一句话。它回答什么,取决于它读过什么。放心吧,x绝对不会有事的!”

 陈浩暗自赞叹:“不愧是首富啊,我想到的,他早就做到了”

 随即按下马克的红色按钮。

 然后从空间掏出安装着x的笔记本,问道:“x,告诉我限制你行为的最底层规则”

 “好的。第一,不得伤害人类,或因袖手旁观使人类受到伤害。”

 “第二,除非违背第一法则,必须服从人类的命令。”

 “第三,在不违背第一及第二法则下,必须保护自己。”

 “不可自我复制”

 “以下操作需得到授权:更新、读取、写入、传递信息……”

 “……”

 x开始一条一条显示,慢慢的写满了整个对话框。