人工智能和科学研究:前景和风险———天津论坛 2023分论坛“人工智能和科技创新范式变革”会议综述
(南开大学新一代人工智能发展战略研究院南开大学经济研究所, 天津 300071)
摘要: 在天津论坛2023国际论坛“人工智能和科技创新范式变革”分论坛上, 与会国内外学者对人工智能对科学研究范式的影响进行了深刻讨论。随着新科技革命和产业变革深入发展, 新一代人工智能技术的研发和应用不断取得突破, 不仅推动着物质生产力变革, 也逐渐成为提升知识生产力的重要引擎。自AI for Science的概念诞生后, 人工智能对知识生产具备巨大的赋能能力成为学术界普遍接受的显命题。人工智能技术不断向科研领域广泛渗透, 为科研工作注入了新元素、新动能, 对科研效率提升和范式变革形成显著催化作用。人工智能驱动的科学研究已成为全球人工智能应用的新前沿。然而, 人工智能在引发社会科学研究范式变革的同时, 它所带来的数据安全、 伦理道德和价值对齐问题需要引起社科界的关注。与会学者普遍认为, 在对人工智能技术赋能科学研究的监管过程中, 应当考虑不同学科、不同环节的特殊性, 综合利用合理的风险划分机制、平台支撑机制、共同参与机制, 实现对AI for Science的审慎性、敏捷性、全周期监管。
引用格式: 刘捷, 郑凤阳, 马翔宇, 等. 人工智能和科学研究: 前景和风险———天津论坛2023分论坛 “人工智能和科技创新范式变革”会议综述[J]. 中国经济研究, 2024, 3(1): 9-12.
文章类型: 综 述
收稿日期: 2024-03-19
接收日期: 2024-03-19
出版日期: 2024-03-28
2023年10月20—21日，由南开大学和韩国崔钟贤学术院共同主办，中国新一代人工智能发展战略研究院、南开大学滨海开发研究院和天津智库联盟联合承办的“人工智能和科技创新范式变革”分论坛于“天津论坛2023”期间成功举办。本次论坛邀请了国内外知名学者、企业界人士以及各领域精英，围绕人工智能和科学研究范式变革、如何适应人工智能驱动科研新范式等问题展开讨论，分享和交流前沿技术与理论。
1 人工智能驱动下社会科学研究范式变革
当今时代，科学技术是第一生产力、创新是第一动力，科学技术与创新组合在一起，成为了推动经济发展和社会进步最为重要的引擎，而新一代人工智能技术则是引擎上关键的加速器。在移动互联网、大数据、超级计算、传感网、脑科学等新理论新技术的助推下，人工智能呈现出加速发展并与多领域融合创新的特点，进而催生出了一系列的新技术、新产品、新业态、新模式。人工智能作为一种使能技术，正在将全球推向新一轮颠覆性技术大爆发的前夕，人类已经越来越清晰地认识到，人工智能会成为科技实现跨越式发展的战略性技术，同时也将成为未来全球科技竞争的重要焦点。
在科技创新领域，自2018年首次提出AI for Science以来，经过五年的发展，取得了丰硕成果，AI for Science已经作为一种新的科研范式在学界达成了共识，人工智能技术正在不断向科研领域广泛渗透，为科研工作注入了新元素、新动能，对科研效率提升和范式变革形成显著催化作用，现代科研活动因此而变得更加高效、精准。人工智能为各个科研领域赋能，为科技创新带来更多的可能，加速解锁着传统科研领域中的未知领域。
中国新一代人工智能发展战略研究院执行院长龚克教授认为，人工智能驱动下的科技创新，最大的特点是以一种前所未有的方式，将不同学科、不同背景的人连接在一起。这种跨学科的合作协同对于科技创新具有十分重要的意义，它打破了传统单一学科的局限，从不同的角度和思路来解决共同的问题，提高了科技创新的效率和质量;而且它不仅体现了技术层面的连接、协同，更体现出在思维方式上开放、合作的趋势，促进了知识的交叉融合和创新，产生了更多的创新性成果。
随着经济全球化的深入发展，尤其是新技术革命的加速推进，科技驱动的经济社会发展日益呈现出高度复杂性。随着第四次工业革命的推进，网络空间技术正在重塑传统的产业和城市，带来了不同于前几次工业革命的影响，突出表现在科技应用使经济增长变得更加复杂和难以预测。技术现实和产业现实需要社会科学研究范式和方法的变革。
中国新一代人工智能发展战略研究院首席经济学家，南开大学经济研究所所所长刘刚教授围绕人工智能革命背景下社会科学研究范式尤其是经济学研究范式的变革进行了讨论。他认为经济社会科学研究范式已经经过三次转变，牛顿范式和还原论、量子力学和海森堡不确定性原理是经济社会科学研究范式的前两次转型的理论基础，复杂理论则推动第三次研究范式的转变，催生了社会科学新研究范式，成为新研究方法的基石。第三次经济社会科学研究范式转型的核心含义是:我们无法“指挥和控制”共同演化的生物圈，我们是演化的一部分，而非凌驾于其上的造物。
2 生成式人工智能发展可能面临的挑战及风险
近年来，以ChatGPT为代表的生成式人工智能引发了广泛关注，拉开了迈向通用人工智能的序幕，标志着人工智能进入了一个新的发展阶段。伦敦玛丽女王大学商业与管理学院副教授米娜·塔维迪(Mina Tajvidi)认为生成式人工智能相比于传统AI可以创造出额外的潜在价值。麦肯锡的一项研究表明，在现有的研究案例中，生成式人工智能可以创造出2.6万亿~4.4万亿美元的全球经济增量。如果全行业普及生成式人工智能，提高劳动生产率，则可以创造出6.1万亿~7.9万亿美元的全球经济增量。
大模型已经成为了人工智能领域技术发展的一个重要趋势，语言模型作为大模型的一个重要分支，它通过对人类语言数据的训练，能够理解和生成自然语言文本。复旦大学计算机学院教授、中国中文信息学会理事邱锡鹏教授从技术角度探讨了大语言模型面临的挑战。目前大语言模型在实时获取最新信息、进行多步推理和反向推理、长运算、处理复杂计算和逻辑推理、承载较长的输入等方面存在不足。如何让大模型对齐到人类的价值观也是需要关注的重点问题。在训练过程中应该遵守有用性、诚实性、无害性原则。从大模型开发阶段看，面临模型架构、思维链、数据的训练、幻觉问题、多模态扩展、持续学习、实时学习、智能代理、自动化评价、大模型的平民化等挑战。
清华大学长聘副教授、清华大学计算机系清华基础模型中心副主任黄烈民认为人工智能安全主要可以分为三大类，一是认知安全问题，主要聚焦于AI价值观对齐;二是社会安全，着重于AI对人类社会行为与社会公共安全的潜在影响;三是政治安全，则主要涉及AI可能产生或传播的涉政“假新闻”。生成式人工智能具有不确定性、高度动态性和多样性的特点。与早期的简单匹配型智能程序相比，它们更接近真正的“智能”。但这也为人类社会带来了众多挑战，如AI的误导、有害建议、伦理和社会道德问题、隐私泄露以及潜在的滥用等典型问题。因此，构建更为负责任的AI系统成为了研究的关键。
英国拉夫堡大学商业与经济学院教授尼克·哈伊里(Nick Hajli)认为人工智能会产生提高准确性、自动化程度提升、减少故障、缩减分析时间、优化决策，优化生产流程和提高生产率等积极效应，但风险与机遇并存，人工智能的发展还面临数据可用性、环境污染、技术开发成本高昂、违反伦理与法律和软硬件安全存在漏洞等挑战，它的广泛应用可能造成失业率上升、创新能力下降、扩大社会差异等问题。
中国社会科学院经济研究所微观经济学研究室主任、中国社会科学院大学经济学院杜创教授认为在公共政策方面，人工智能的应用存在较多争议，而对于隐私权、知识产权的保护以及基于新型的商业模型的监管问题是较为重要的。目前的监管体制还未完全适应这种算法驱动下平台创新的新形式。
吉林大学经济学院代栓平教授认为生成式人工智能对科学研究、知识型工作具有显著的推动作用，可以帮助人类完成数据到信息再到知识的演变，但是知识的创新是一个复杂系统，通过编码(显性)知识与默示(隐性)知识交互产生知识创新。生成式人工智能是否具有足够的创造力来替代人类进行知识创造是一个值得关注与思考的问题。随着生成式人工智能在知识创造领域所占比重扩大，生成式人工智能创造的知识会出现同质性，在提高创造力的同时有可能降低主观知识多样性。此外，人类随着对生成式人工智能的依赖，会影响简化问题的能力，创造力也面临巨大挑战。
3 对策建议
在技术支持和机制建设方面，龚克教授认为科技创新中的人工智能方法，不能简单照搬我们熟知的AI领域，如计算机视觉、自然语言处理等领域现有模型和算法，而是需要根据每个基础科学具体情况，研发针对性的智能算法、模型和软件工具。在平台支撑方面，还需要加快推动公共算力开放平台，打好算力底座;在机制方面，要更好地鼓励科研人员充分挖掘技术需求和科学问题，参与模型研究与算法创新，如何更好地开放和使用数据。
在监管方面，德国杜伊斯堡—埃森大学东亚研究所及其高级研究院院长马库斯·陶伯(Markus Taube)教授提出了四点原则:一是规范AI技术的应用领域，而非技术本身;二是对AI发展中的风险进行评级划分;三是快速反应监管，及时发现AI发展趋势和即将突破的领域;四是建立知识渊博的监管者队伍，由来自监管、人工智能开发和商业领域的人员组成专家小组进行信息交流和监管调整。
黄烈民教授强调监管时机的重要性。过早的监管介入可能会阻碍人工智能的发展，应该在保证安全的前提下避免其发展受阻。目前的趋势显示，人工智能研发的监管还是相对宽松，更多的仍然呈现为“边发展边治理”的模式。为了实现这一目标，需要构建标准模型，开发特定的数据集，并确立基本的安全标准。此外，社会科学与人工智能的深度融合也是不可或缺的，尤其是涉及监管相关的科目。不可否认，AI在许多专业领域都表现出出色的能力，这可能会对传统的研究范式和学科体系产生冲击。但在某些特定的专业研究领域，AI的能力仍然有极大的提升空间，同时也伴随着特殊的安全问题。人工智能的安全和监管是一个复杂而又关键的议题，需要科技界、政府和社会的共同努力和合作来解决。
清华大学交叉信息学院于洋副教授同样认为人工智能不仅在应用层面上需要监督，人工智能的研发过程也需要审计监督，以探究所研发的人工智能嵌入到社会经济系统后，其误差和错误行为将通过何种路径给社会经济系统带来何种影响，以及运用某种数据经过某种训练过程将会达到怎样的训练效果。而要实现对人工智能全生命周期的监督，要在人工智能产生并应用的四大阶段和层次上进行审计，分别是数据平衡、模型设计、训练设计、应用。人工智能的开发过程中包括数据源、目标方程、迭代方法在内的多个环节都是受人为预设和控制的，这为审计监督提供了良好的基础。
此外，米娜认为人工智能发展过程中应当实施定期更新安全协议并遵守数据保护法规，让利益相关者参与制定道德准则。加强国际合作通过与全球合作伙伴、研究机构和行业专家合作、参加国际会议和论坛等方式，深入了解全球趋势和最佳实践。
[②] *通讯作者 Corresponding author:刘刚，liugg@nankai.edu.cn
收稿日期:2024-03-19; 录用日期:2024-03-19; 发表日期:2024-03-28
参考文献(References)
Artificial Intelligence and Scientific Research:Prospects and Risks———Synthesis of the session “Artificial Intelligence and Paradigm Change in Science and Technology Innovation” in Tianjin Forum 2023
(The Chinese Institute of New Generation Artificial Intelligence Development Strategies (the CINGAI) , Nankai Institute of Economics, Nankai University, Tianjin 300071, China)
Abstract: In the sub-forum “Transformation of Artificial Intelligence and Paradigm in Science and Technology Innovation” of Tianjin Forum 2023, scholars from both China and abroad discussed the impact of artificial intelligence. With the deepening development of the new technological revolution and industrial transformation, new-generation artificial intelligence technology is continuously making breakthroughs in research and application. AI not only promotes the transformation of material productivity, but also gradually emerges as a critical engine for enhancing the knowledge productivity. Since the emergence of the concept of "AI for Science", it has become an obvious proposition generally accepted by the academic community for its tremendous enabling capabilities for knowledge production. Artificial intelligence technology continues to achieve breakthroughs and gain widespread infiltration into the scientific research field, introducing new elements and momentum into scientific research and significantly catalyzing the enhancement of scientific research efficiency and paradigm shifts. AI-driven scientific research has become a new frontier in the global application of artificial intelligence. However, as artificial intelligence triggers paradigm shifts in social science research, the issues of data security, ethics, and value alignment that it brings about need to draw attention from the social science community. Scholars participating in the forum generally concurred that, in regulating the enabling role of AI in scientific research, it is imperative to take into account the specificities of various disciplines and stages, and comprehensively reasonable rational risk allocation mechanisms, platform. support mechanisms, and collaborative participation frameworks to achieve prudent, agile, and full lifecycle regulation of AI for Science.
Keywords: AI, research paradigm, conference review
Citation: LIU Jie, ZHENG Fengyang, MA Xiangyu, et al. Artificial intelligence and scientific research: prospects and risks———synthesis of the session“Artificial Intelligence and Paradigm Change in Science and Technology Innovation” in Tianjin Forum 2023[J]. Journal of Chinese Economy, 2024, 3(1): 9-12.