现场 | 直击人工智能核心，AI高速发展，人类必须持续思考

当下，新一代人工智能正引领和推动着全球科技创新进入飞速发展和密集爆发的活跃期，人工智能正在并将持续影响社会的方方面面，与此同时，人工智能充满未知的探索道路曲折起伏。

11月7日，世界顶尖科学家智能科学大会（以下简称“智能科学大会”），来自全球的三十余位世界顶尖科学家、中国两院院士、资深科学家、青年科学家与企业科学家齐聚一堂，共同探讨智能科学的发展路径与未来图景。

AI for Good：人工智能如何向善？

智能科学大会主旨论坛聚焦“AI for Good”，探讨如何科学地发展和应用人工智能，引领人工智能向善，使之成为推动人类文明可持续发展的驱动力。本次论坛由世界顶尖科学家协会、复旦大学类脑智能科学与技术研究院、复旦大学大数据学院联合主办。

AI是推动科学研究范式变革，实现科技原始创新策源的利器，拥有引爆产业创新核爆点的巨大潜能。中国科学院院士、复旦大学校长、“浩清”教授、复旦大学上海医学院院长、中国遗传学会副理事长金力在开幕式致辞中表示：“当前单打独斗的科研方式已经不适应大科学时代的科技创新，所以要进行有组织的科研，推动跨学科的交叉研究，激发创新突破。”

人工智能技术飞速发展，伴随而来的巨大风险也不容忽视。

“大模型和AlphaFold总体而言是对的，但是它们在某些方面的工作做得不是非常好。”2022年世界顶尖科学家协会奖“智能科学或数学奖”得主、加州大学伯克利分校电子工程与计算机科学系、统计学系杰出冠名教授迈克尔·I·乔丹(Michael I. Jordan)指出了人工智能的“幻觉问题”，“它们知道很多，会一本正经地胡说八道，但是目前还没有足够的数据来证明它们说的是完全正确的，而事后我们可能会发现它是错的。现在的问题是，我们怎么发现它们的预测是错的？”

中国工程院院士、国家数字交换系统工程技术研究中心主任、复旦大学大数据研究院/大数据试验场研究院院长邬江兴（Wu Jiangxing）指出了人工智能的内生安全问题：“人工智能不可避免存在内生安全问题，比如我们设计、实现和使用人工智能系统中存在着衍生副作用，这些问题往往是未知和不确定的。寻求与内生安全问题共存的解法是成为平衡AI发展与风险的第一性问题。”

上海交通大学致远讲席教授、上海交通大学人工智能研究院首席科学家、上海市人工智能战略咨询专家委员会专家徐雷（Xu Lei）的担忧是，小的人工智能的公司很快就会被大的公司替代。小公司资金不够、人才不够；而大公司的独裁、垄断则非常强大。那么，如何规范人工智能的市场将是需要不断探索的问题。

2011年诺贝尔经济学奖得主、纽约大学冠名经济与商业教授托马斯·萨金特（Thomas Sargent）表达了担忧：AI会消灭很多的工作，可能有一些工作将不再存在。

围绕“人工智能向善，共筑人类福祉”主题，各位学者分享了他们对于人工智能现状与发展前景的看法。

1994年图灵奖得主、卡内基梅隆大学计算机科学与机器人学大学教授、计算机科学系讲席教授拉吉·雷迪（Raj Reddy）认为人工智能更多是向善的：“减少人们语言上和知识上的鸿沟；能精准定位感染人群和患者，帮助或支持医疗；以及在音乐和在其他方面可以帮助人们更好地去发挥他们的才华，并且以此养活自己。”

2015年图灵奖得主、斯坦福大学电气工程名誉教授马丁·赫尔曼（Martin Hellman）认为，智能武器不应该针对无辜的人类，各国应该携手合作，让无辜的平民避免受到伤害。复旦大学大数据学院院长、复旦大学类脑智能科学与技术研究院院长冯建峰（Feng Jianfeng）也认为：AI向善的方面是，让妇女儿童免受战争的伤害。

人工智能带来的很多威胁，或许不是来自人工智能本身，而是在于我们人类怎么使用它。如何使用人工智能，科学家们从经济、政策等角度提出了建议。

托马斯·萨金特教授从经济学角度建议：“如果想取得任何的成功，显然需要大胆用经济理论。人类的尝试受集体合约的制约，我们可以根据集体合约来运作人工智能。”加拿大工程院院士，清华大学鹏瑞教授、深圳国际研究生院数据与信息研究院（SIGS iDI）院长，清华-伯克利深圳学院（TBSI）信息和数据科学首席教授张晓平（Zhang Xiaoping）则相信，市场会找出一种有效的方式来纠正人们对AI的使用。

2021年阿贝尔奖得主、普林斯顿高等研究院数学学院冠名教授艾维·维格森（Avi Wigderson）认为：我们或者政府应该采取行动，比如在限制人工智能技术使用方面出一些相应的法律法规，避免应用这些技术向恶。

AI for science：如何打造科研新范式？

AlphaFold和GPT工具的出现掀起了各界对新一轮科技革命的思考和热议，种种惊人的成果预示着智能科学的发展将为科学研究和科学认知带来颠覆性的变革，辅助乃至引领未来科学进步。专题论坛聚焦“AI for Science”，探讨AI如何赋能基础研究，促进科学新发现。专题论坛由世界顶尖科学家协会、复旦大学复杂体系多尺度研究院（MRICS）联合主办。

中国科学院院士、北京科学智能研究院院长、北京大学国际机器学习研究中心主任鄂维南（E Weinan）在开幕致辞中表示：“目前，传统的科学研究已经成为科学进步的主要瓶颈，我们需要更好的范式、更好的工具、更高效的组织。而人工智能尤其深度学习是一个非常强大的工具，可以解决我们以前做梦都想不到解决办法的问题。”

来自不同领域的科学家分享了人工智能在他们研究领域中的应用。

2013年诺贝尔化学奖得主、南加州大学杰出化学教授、化学和生物化学冠名讲席教授、香港中文大学（深圳）瓦谢尔计算生物研究院主任阿里耶·瓦谢尔（Arieh Warshel）介绍了物理科学在酶反应当中的应用，以及酶催化背后的数学和化学反应。他们使用多尺度建模的方式来描述量子力学当中化学的部分，通过这种方式去描述问题解决过程中的一些通用原则。

2006年诺贝尔物理学奖得主、香港科技大学基础物理学中心主任、高等研究院冠名教授、巴黎第七大学名誉教授、加州大学伯克利分校物理学名誉教授乔治·斯穆特（George Smoot）分享了用于宇宙研究的人工智能：“人工智能已经被使用于帮助我们去研究火星上是否有生命的迹象，帮助我们了解日冕为什么温度这么高，它可以去透露恒星的年龄，也可以帮助我们了解我们的银河系，我们的星系如何形成。”有了人工智能的帮助，人类可以走向太空深处。

2018年沃尔夫化学奖得主、加州大学伯克利分校化学讲席教授、卡夫利能源纳米科学研究所联合主任奥马尔·亚基（Omar Yaghi）现在已经成为了一个ChatGPT的信任者：“我使用了ChatGPT Assistant、ChatGPT supervisor，还有ChatGPT的研究小组。我们用大数据、人工智能、机器学习来进行新的发现。”

美国医学生物与工程学会会士、美国科学促进会会士、美国物理学会会士、复旦大学复杂体系多尺度研究院院长、教授马剑鹏（MA Jianpeng），从算法到应用，分享了结构生物学中的计算问题。

2013年诺贝尔化学奖得主、世界顶尖科学家协会副主席、斯坦福大学结构生物学教授迈克尔·莱维特（Michael Levitt）表示：我们（领域）共同长期关注的议题是，AlphaFold解决方案如何解决蛋白质折叠的问题。

2002年菲尔兹奖得主、华为技术公司（法国）研究员洛朗·拉福格（Laurent Lafforgue）分享了翻译逻辑以及人工智能的联系。他还分享了科研工作当中的意外之喜：“我们在解决问题的时候提出一种新的技术或者途径，可能在解决这个问题本身方面没有成功，这种技术或方法被用于其他的方面，太惊喜！”。