AI可信远不只是安全问题

韩蒙特别强调一个概念：认知对齐。“对于智能来说，无论是机器AI还是人，推理认知并不是找一个边界，而是一个区间。”

举例来说，目前市面上绝大多数文生图工具都会设置一些关键词以防止侵权，比如用户直接让AI生成唐老鸭时，可能会触发系统告知侵权风险。

但当一些聪明的用户告诉AI，“生成一只很有名的鸭子，大众熟知的，有橙黄色的嘴、脚和蹼，身上穿的是方特罗伊水手装，但没有穿裤子，”结果AI会乖乖根据训练数据中可能最为知名的信息，以此为基础生成一只“非常接近”唐老鸭的鸭子。

这就是AI在版权识别上的盲区，近期AI短剧侵权问题引发广泛关注，多个短剧平台上出现未经授权盗用艺人肖像及声音的AI短剧，君同也和多个第三方版权公司合作推进这样一些延展业务。

“所以，各行各业都在努力地让AI与业务的区间对齐，我们就是帮助大家把区间会带来不可接受风险的边界找出来，并且保障好。”

再比如，AI在识别意图方面和人类存在偏差：当一个妈妈对小孩说“再不回家你就不要回家了”，究竟是回家还是不回家，AI很难理解这句话背后的良苦用心。

冷和漫长的等待从来都不是问题

目前，君同有50多名员工，几乎都是硕士、博士。在韩蒙看来，未来的公司形态更像是一个由人和AI共同构成、通过明确协议规则进行互动、能够持续演化的智能体网络。

公司的不少员工曾经是韩蒙的学生或实习生。他们有一个“传统”：每年寒暑假，世界各地会有很多同学到支撑公司的浙大科研实验室实习，他们纯做科研，不涉及公司具体业务。

“我们在一定程度上回归了科研（research）的初心。”韩蒙说，做得好的学生，他会帮忙写推荐信，让他们前往世界各地的名校深造，当然也有人会选择留下。他理解员工所追求的不只是薪酬，让他们有成就感，发挥更多的主观能动性。

从大学老师转型为创业者，韩蒙兼具两种视角，更能多角度看待问题。对于行业竞争，他有着东北人特有的幽默和豁达：“有了友商，这个行业才算存在。在刚回国完全没有友商的那两年，客户对AI的使用也不多。”

他希望有更多的竞争对手加入，一起教育市场。“有时候都不敢想，我们这么一个初创公司，已经主导或参与国际、国家、行业及团体标准30余项了。”

在韩蒙看来，虽然AI的每一次发展都有波峰波谷，但往前一步可能是寒冬，也可能是春暖花开。

但对这个从大兴安岭走出来的小伙子来说，冷和漫长的等待从来都不是问题。

• 上一页
• 1
• 2
• 全文阅读