破解人工智能机器学习的“黑箱”之谜——访“吴文俊人工智能科技贡献奖”获得者、重庆师范大学王国胤教授

新重庆-重庆日报 记者 李志峰 实习生 王文文

王国胤教授 学校供图

人物名片

王国胤，重庆人，工学博士，二级教授，博士生导师，主要从事粗糙集、粒计算、数据挖掘、认知计算、大数据、人工智能等领域的研究，主持国家重点研发计划项目、国家自然科学基金创新研究群体项目和重点项目等科研项目数十项。2024年6月，从重庆邮电大学党委常委、副校长一职，调任到重庆师范大学任党委副书记、校长。

3月底，第十四届“吴文俊人工智能科学技术奖”颁奖典礼在北京举行，中国人工智能学会原副理事长、重庆师范大学校长王国胤教授获颁“吴文俊人工智能科技贡献奖”。这也是该奖项自2018年设立以来，重庆唯一获得此荣誉的专家。

据悉，“吴文俊人工智能科学技术奖”是由中国人工智能学会发起主办，依托社会力量设立的科学技术奖，该奖项以我国著名数学家、享有“人民科学家”和“最美奋斗者”美誉的吴文俊先生命名，被誉为“中国智能科学技术最高奖”“人工智能领域皇冠上的明珠”。此次“吴文俊人工智能科学技术奖”共颁发“吴文俊人工智能科技成就奖”“吴文俊人工智能科技贡献奖”“吴文俊人工智能自然科学奖”等6个奖项。

从事人工智能基础研究30余年，王国胤有什么样的感触？他如何看待人工智能发展趋势？4月9日，重庆日报记者对其进行了专访。

重庆日报记者专访王国胤教授。学校供图

与人工智能结缘是因为写毕业设计

晚上打开几十台电脑跑程序，第二天早上去实验室看运算结果

重庆日报：王校长，您从事人工智能领域深耕基础研究30余年，当初是如何与人工智能结缘的？

王国胤：我最开始接触人工智能应该是1992年，我在西安交通大学大四做毕业设计。因为我读的是计算机软件专业，做的毕业设计叫《人工神经网络的学习算法》，需要运行大量的算法做实验。当时学校的实验室条件和现在比较起来，差距很大，很艰苦。幸运的是，那时候学校已经为实验室购置了几十台英特尔“386电脑”。白天，这些电脑要承担教学任务，到了晚上就给我们做实验用。因为当时还没有联网，经常是晚上我们打开几十台电脑跑程序，到了第二天早上去实验室看运算结果。

对我来说，是兴趣驱动促使我后来投身人工智能领域的研究。包括后来我博士毕业时，已经在围绕逻辑神经网络做前沿研究，现在的很多研究，都还是在这个基础上延伸的。

重庆日报：30多年前的人工智能研究是一个什么样的状态？

王国胤：那个时代，人工智能概念还比较超前，很多人不了解这个东西，觉得和自己关联还不大，也没什么用处。甚至我后来到了重庆邮电大学工作，在一次申报国家自然科学基金项目需要打印相关材料时，学院办公室的一位同志很惊讶地问我：“还有这种研究吗？”实际上，人工智能研究人员在很长一段时间也曾坐冷板凳，但是，这种基础研究需要超前布局和不断的原始创新积累。人工智能发展到今天的成就，不是仅靠某一些人的努力，而是整个社会共同进步的结果。

“既见森林又见树木”

破解人工智能机器学习的“黑箱”

重庆日报：王校长，经过20多年不懈攻关，您带领团队建立了“不确定性知识的多粒度表示与发现”理论模型与方法。可否和我们详细讲讲这是一个什么方向的研究？

王国胤：在人工智能领域，多粒度计算的研究其实是一项模拟人如何处理问题的研究。比如我们人类经常会把复杂问题简单化，或者把一项长期规划分成不同的阶段，再或者说把社会管理细分到不同的城市、不同的部门和机构等等。

不同的层次就是一个粒度结构。打个比方，一个人如果走进森林，他除了看到眼前的森林，还会看到不同的树木。多粒度计算的研究就是“既见森林，又见树木”，在观察世界中，去寻找解决问题的方法。

多粒度计算的研究意义，还在于破解人工智能机器学习的“黑箱 ”。什么是“黑箱”？简单来说，机器学习算法能够做出精准的预测和分类，但在很多情况下，我们无法完全理解其内部是如何做出判断的。比如一些生成式人工智能大模型产生的内容，有时候让人哭笑不得。人工智能机器学习可以生成内容，但是它自身并不能判定生成的内容是否符合人类的认知和需求。这种机器学习的“黑箱 ”，使得在很多应用场景的信任度会大打折扣，尤其是比如医疗行业等需要高度透明和可解释性的行业。

王国胤教授给学生上课 学校供图

重庆日报：具体来讲，多粒度计算可以运用在我们的日常哪些场景当中？可以解决哪些问题？

王国胤：我们现在经常使用到人脸识别，但是你听说过“反人脸识别”吗？我们日常使用的手机会宣传说具备几千万像素的拍照功能。实际上，相机拍出来的照片，就是由一个一个像素组成的。像素越细越密集，图像的精度就越高。人工智能识别人脸的方式，就是首先通过像素点的处理来进行的。

这里面就有问题，比如一个人看见一个老朋友远远地走来，他也许不需要通过走近了看到老朋友脸上的麻子才判定，而是看身形或者一个大概的轮廓就行。然而，人工智能的人脸识别首先是从比麻子还细的像素点开始的。这就是人工智能和人脑处理问题不一样的地方，人类可能先处理整体，再处理细节，但人工智能恰恰相反。

所以，如果为了反制人工智能系统，人类有可能通过在人脸中增加一些特定的噪音信息，制造出“反人脸识别”，这会导致安全隐患问题。通过多粒度计算的研究，让人的认知模型和人工智能系统相结合，让人工智能的思考机制尽量达到和人脑思考机制一样，这就是我们想实现的目标。

人工智能未来的发展方向

从脑科学研究中寻找突破，力争研发出“渝产”人工智能新模型

重庆日报：王校长，您怎么看人工智能的发展？您和团队下一步的研究目标和方向是什么？

王国胤：人工智能的原始创新，最需要的是从脑科学的研究中寻找突破。特殊儿童的脑认知与康复研究，将是我们下一步研究的重点。

重庆师范大学是全国最早且为数不多既招收特殊儿童又招收特殊教育专业大学生的高校。从1988年学校创建儿童智能发展研究中心开始，我们的特殊教育专业师生和特殊儿童一起“成长”，可以每天观察、记录特殊儿童的生长发育，并进行数据分析。脑科学的研究，需要不同的大脑进行对比，学校的特殊儿童教育康复资源是我们突破对大脑认知从模糊到精细化得天独厚的优势。

王国胤教授 学校供图

重庆日报：对特殊儿童的脑认知与康复研究，会起到怎样的作用？

王国胤：一方面，当前的特殊教育依然是经验化教育为主。开展特殊儿童的脑认知与康复研究，有助于让特殊教育提高到更加科学化的水平。另一方面，基于特殊儿童的脑认知与康复研究，我们在未来也有机会研发出人工智能新模型，服务重庆的智能制造、社会治理、医疗健康等行业发展。

原稿点击＞＞

破解人工智能机器学习的“黑箱”之谜——访“吴文俊人工智能科技贡献奖”获得者、重庆师范大学王国胤教授-重庆日报