聚焦人工智能技术前沿与治理 中外专家学者国际论坛建言献策******

　　中新网北京12月5日电 (记者 孙自法)2021人工智能合作与治理国际论坛“人工智能技术前沿与治理”主论坛，12月5日在清华大学以线上线下结合方式举行，中外人工智能(AI)领域专家学者聚焦人工智能技术前沿与治理这一主题，发表主旨演讲建言献策，并深入研讨交流。

　　美国国家科学院院士、美国艺术与科学院院士、约翰·贝茨·克拉克奖得主、斯坦福大学商学院技术经济学教授、以人为本人工智能研究所副所长苏珊·阿西(Susan Athey)认为，大学在指导人工智能创新方面可以发挥优先引导的关键作用。由于私营部门的技术人员缺乏伦理、哲学方面的训练，难以开发出具有可解释性的算法框架，深化这类研究能够在人工智能治理的问题识别、建立开发实践框架、提供指引等方面发挥重要作用。此外，由于数据可以带来巨大的规模效应，当前“软件即服务”的平台经济模式已非常普及。人工智能和数据需求可能带来“伪”市场集中，因此，未来对“机器换人”的预测非常具有挑战性，需要重新关注和思考人工智能如何用于应对老龄化等公共管理问题，使基于人工智能的公共服务变得更加高效。

　　国际人工智能协会前主席、清华大学人工智能国际治理研究院学术委员约兰达·吉尔(Yolanda Gil)指出，由于人类对智能机制认知不足、智能行为本身的复杂性、观测手段的有限性以及个体知识、职业、信仰、文化背景等的差异性，导致当前人工智能研究中面临着一系列挑战，因此，需要加强人工智能基础研究工作，这需要跨领域、跨学科的共同努力。当前，理解人工智能机理和构建人工智能世界模型是人工智能研究面临的两大挑战。一方面，理解人工智能机理需要构架“感知-思考-行动”的智能模型，加强对大脑思维机理的理解，建议借鉴神经科学研究联合体的有益经验，建立全球性的人工智能研究数据库，形成全球共享的研究社区。另一方面，构建人工智能世界模型则需要建立在人类经验、社会习俗、专业技能的基础上，建议建立类似于自由协作式的知识库，通过全民民众参与，推动知识在全球层面共享。

　　中国科学院院士、清华大学人工智能研究院名誉院长、清华大学人工智能国际治理研究院学术委员张钹表示，由于深度学习等算法存在不可解释性，导致前两代人工智能算法存在着公平性、安全性问题和不可靠、不可信等缺陷。发展第三代人工智能关键在于发展可解释的、鲁棒的人工智能理论和方法，开发安全、可信、可靠、可扩展的人工智能技术，以“数据驱动+知识驱动”构建支持可解释的人工智能算法的深度学习平台，赋能人工智能安全与防御优化。从数据中真正获取智能要靠知识的帮助与引导，并需要政策法规对数据使用的正确规范，充分利用知识、数据、算法和算力四个要素结合，推动人工智能的创新发展。

　　中国工程院院士、北京大学信息科学技术学院院长、鹏城实验室主任、清华大学人工智能国际治理研究院学术委员高文认为，当前人工智能发展处于新一代人工智能向强人工智能发展的关键阶段，至2030年，中国人工智能发展总体要达到世界领先水平。从战略问题看，中美欧三方在人工智能人才、研究、开发、应用、硬件、数据等方面竞争激烈，当前中国人工智能发展在战略政策、数据资源、应用场景、潜力人才方面具有优势，而在基础理论、原创算法、关键部件、国际平台、高级人才等方面还存在短板。从战术问题看，人工智能2.0需采用基于大数据的统计AI解决大规模AI应用需求，鼓励各种可能的强人工智能探索，“可解释机器学习+推理”和“仿生系统+AI大算力”是可能的技术路线图；在安全问题层面，强人工智能的安全风险主要来源于模型的不可解释性、算法和硬件的不可靠性和自主意识的不可控性，人工智能2.0应采用DPI与“防水堡技术”解决数据安全与隐私保护，重视探索人工智能伦理问题，并基于“理论-技术研究-应用”的阶段性采取不同的风险防范策略。

　　美国国家工程院外籍院士、英国皇家工程院外籍院士、清华大学高等研究院双聘教授沈向洋表示，AI已经应用于生活和工作的方方面面，目前甚至在法律上也具有一定的应用，比如美国已经有很多法庭用机器学习和人工智能方法帮助判刑，包括决定刑期这样非常重要的问题。但是我们还无法理解一些AI决策的缘由。未来发展过程中我们不能只看见AI决策的“黑箱”，应该打开“黑箱”，探究和理解其中的具体内容和因果关系，我们一定要做可解释性的AI。同时，他提到负责任的AI应具备公平性、可靠性、隐私性、包容性、透明性和责任性的特点，作为新兴领域，还需要向其他领域学习，从而更好的服务于人类。

　　中国工程院外籍院士、清华大学智能产业研究院院长、人工智能国际治理研究院学术委员张亚勤指出，“碳中和”是人类能源结构的又一次变革。“碳中和”既是可持续发展的必然选择，又是产业结构调整和发展的重大机遇。企业在“碳中和”背景下都面临转型增效的压力。人工智能+物联网是智联网，智联网可以赋能绿色计算，助力“碳中和”。智联网助力“碳中和”主要包括三个环节：首先，由数据驱动和人工智能优化引擎来实现智能决策。其次，多参数全链系统配置优化。最后，通过多源多维异构感知融合实现智能感知。智联网可用于能源融合、降低ICT产业的碳排放和推动新兴产业发展等。他还介绍了智联网赋能的绿色计算平台的框架，该平台包括人工智能驱动节能减排和高能效人工智能系统，应用路径包括绿色园区和工业节能。

　　2021人工智能合作与治理国际论坛由清华大学主办，清华大学人工智能国际治理研究院承办，国际支持机构为联合国开发计划署。论坛为期两天，设有三场主论坛、一场特别论坛和七场专题论坛。“人工智能技术前沿与治理”主论坛由清华大学计算机科学与技术系教授、人工智能研究院常务副院长孙茂松主持。(完)

让真正的科学火起来******

　　【科学随笔】

　　作者：崔兴毅、张辰龙（均系南京航空航天大学博士）

　　当下，科普很热，伪科普也很热。

　　一面是追着新冠跑、比疫情更难防的伪科学。诸如“吃大蒜可治新冠”“我家自来水阳了”等视频流传网络；诸如可抵御病毒、预防新冠的花式商品在网店热卖。它们中，有的打着“高科技”旗号，有的则是人们熟悉的“老面孔”。

　　一面是科普盛宴“出圈”，“好玩”的科学“圈粉”无数。在中科院联合抖音举办的2023跨年科学演讲中，诺贝尔奖得主、院士学者分享了大脑信号、航空航天、黑土地保护、电磁学等前沿科技，抖音直播间观看人次突破2500万。

　　科学热中真与假的对撞，反映的正是公众对科学知识的渴望。当人们信息获取的需求通过移动终端被大量释放后，科普方式就应及时“换挡升级”。在公众科普的语境中，更加立体、全面的体系正在被构建，更新潮、更便利的方式极大缓解了科普“不平衡、不充分”的矛盾。还有在跨年晚会云集的平台中突围出的一场跨年科学演讲，以知识的普及辞旧迎新，显然是令人欣喜的现象。

　　不可否认，当下有效知识的供给依旧不足，这直接影响着人们对知识的获取。由于科学暂时无法满足人们的所有需要，伪科学便可乘虚而入。一些网络博主，为博眼球聘请所谓“专家”，编造“科学流言”，迎合公众猎奇心理；有的蓄意炒作，制造“健康焦虑”，让产品营销披上健康科普的外衣。这些依靠情感赢得信赖的虚假信息，又借助社交媒体的熟人效应，在公众舆论场如石子投湖般一圈一圈传播开去，让公众感觉更加混乱——即便同一个主题和话题，也可能看到各种不同甚至有些彼此矛盾的解读。

　　事实上，科学本身就是一种进程。在对物质世界的探索中，科学家们往往会得到很多不同的结论，有些甚至是对立的。这些并不是“伪科学”，而是需要在不断地研究中去伪存真。这种学术观点之争并不是我们本篇文章讨论的内容。

　　很多虚假信息的传播，是大量依靠“俘获”受众情感，而并非以事实为基础。当然，在科学传播中，事实与情感并非截然对立，或者说不需要情感的力量。现在，半数以上的移动端用户具备一定教育背景，科普的受众呈现出年轻化、高学历的特点，覆盖人群也已拓展到白领、大学生、企业管理者、人文学者等。他们排斥枯燥无味的灌输式科普、说教式科普，对有趣有料的科普，更加喜闻乐见。这种受众多元化、异质性的特点，决定着科普必须与时俱进，一方面专家得“懂行”，另一方面内容得“好玩”。

　　那么，作为非科技工作者该如何分辨这种信息呢？这很难，需要学校和社会同时发力，提升全民科学素养需要一个比较长的时间尺度，并非一日之功。

　　在现阶段，科普首先能做的是丰富内涵——不仅仅是科学知识，还应该包括科学精神、科学思想和科学方法等。现在社会上伪科学传播很快，恰恰表明当下公众的科学方法、思维、知识还没有那么高、那么好。以此次新冠疫情为镜，折射出的正是一些公众科学素养亟待提升的现实。包括“冷核聚变”“基因编辑婴儿”等事件，一定程度上没能让公众更加理解科学，反而会让他们更加质疑科学。所以，如果希望通过科普培养公众的科学理性，让人们掌握科学方法，理解科学精神，那么就需要把科普从“解释科学是什么”转向“科学为什么”上。因为“科学的精髓是其方法”，如果只向公众讲解科学的成果和发现，而不讲解严格的科学方法，那么人们何以区分什么是科学，什么是伪科学。

　　科学实验中的曲折有时比科学成果本身更吸引公众。科学就是在试错的过程中发展起来的。科学往往是先设立假说，然后针对这些假说进行试验。科学在探寻真相的征途上探索着，踉踉跄跄地蹒跚前行。当一种假说被证伪时，假说的提出者当然会很沮丧，但是，这种证伪恰被认为是科学事业的精髓所在。

　　广大科技工作者在进行科普时，不妨用一种引人入胜的方式来讲述他们走过的路，陈述成果，也呈现探索曲折的过程；点明结论，也聊聊千百次试验运用的方法。只有在真诚沟通中传递科学精神的内核，提高人们对科学类流言的“免疫力”，才能让公众拥抱一个温暖而不是冷冰冰的科学。

　　《光明日报》（ 2023年01月12日 16版）