小粉书

手机浏览器扫描二维码访问

第62页（第1页）

  两位家长就完全没有这个问题。

  郑墨阳对叶庭的课题很感兴，放下了解扣子的手：“常识模型？”

  叶庭点了点头：“aI能赢围棋世界冠军，通过律师资格考试，但在某些常识问题上，它连三岁小孩都不如。如果没有常识，过度展人工智能会很危险。”

  冯诺一在旁边使劲点头：“就是。而且训练大规模的aI模型，成本非常高，只有几家巨头有这个实力。这不就是把训练人工智能的权利集中在了少数人手里吗？我怎么知道这几家科技公司是怎么训练模型的，会拿这些模型来干什么？”

  郑墨阳在心中默数两秒，果然等到了冯诺一怀疑的瞪视。

  “你现在不就在投资训练aI吗？”他说。

  郑墨阳说：“是，这是大势所趋。”

  冯诺一叹了口气：“一想起未来科技掌握在你这种人手里，我鸡皮疙瘩都起来了。”

  郑墨阳已经习惯了这种指控，他还没做什么，自家猫已经把屎盆子扣在了他头上。

  叶庭看了看两位家长，觉得开始有吵架的趋势，于是插了话：“现在的aI训练大概是3类数据，原始网页数据，专门为aI训练定制的人工数据，和人类反馈。如果只用第一种数据训练，后果是很可怕的，网页里有性别歧视，错误信息，和极端言论，容易造成误导。”

  aI像是一个初涉人类社会的婴儿，让它沉浸在恶劣的网络环境中，相当于把一个孩子放到匪徒窝里。

  “所以第二和第三种数据是必须的，它们相当于aI的教科书和老师，”叶庭说，“人类需要筛选训练aI的信息，然后作为老师引导它，和它交流。”

  冯诺一又叹了口气，看向郑墨阳：“我觉得这些数据都应该透明公开，我怎么知道你们给aI灌输了什么？”

  郑墨阳叹了口气，叶庭继续说：“我的想法是，生成一个常识知识图谱和道德规范库，通过符号知识提炼和深度神经网络编写成模型，来训练aI，起到一个刹车装置的作用，避免aI走向极端。”

  叶庭当然无法做出尽善尽美的模型，他只是个青少年。IseF注重的是提出问题、解决问题的能力，他只需要在能力限度做出最好的成果。

  郑墨阳听后笑了笑，看着冯诺一：“不愧是你带出来的孩子。”

  冯诺一得意地摇头晃脑，好像明模型的是他自己：“等他研究出来了，你们公司的aI必须第一个接受教育。”

  “你对我的信任还真是一如既往。”

  冯诺一磨了磨牙。

  “对了，有件事我要跟你们说一声，”郑墨阳对两个吃饭的孩子说，“我马上要去美国待一年，跟那边的一家公司有个合作项目。”

  这件事冯诺一几天前就知道，但和刚才的对话一联系，他突然警觉起来：“你不会真用aI干什么了吧？你去国外是不是潜逃？”

  郑墨阳对他的脑回路哑口无言：“不是，你想到哪去了。”

  冯诺一严肃起来：“你要是犯事了，赶紧把孩子从户口上撤下来，万一他们将来想考公务员呢？”

  郑墨阳扶额。

  “所以……”

  “不是！”