科技部副部长：人工智能将成第四次工业革命的标配

日期：2024-12-24 作者：ira0v 浏览：99 移动：http://w.yusign.com/mobile/quote/4572.html

Artificial Intelligence Industry News

3月24日由国务院发展研究中心主办的中国发展高层论坛在京召开。在人工智能发展与治理专题研讨会上，科技部副部长吴朝晖在人工智能发展与治理专题研讨会上认为，人工智能正处于群体性技术变革的起点。多模态大模型成为当前模型研究的主攻方向，多技术路径的交叉融合，加速了通用人工智能的到来。人工智能将成为第四次工业革命的标配。

北京智源研究院创始人、创始理事长张宏江，Verimag实验室创始人、2007年图灵奖得主约瑟夫·希发基思，清华大学苏世民书院院长薛澜和清华大学智能产业研究院院长、中国工程院院士张亚勤等，还就人工智能的风险及防备发表了各自的看法。

人工智能正处于群体性技术变革的起点

吴朝晖表示，当前全球人工智能科技创新异常活跃，成为了各国关注和发展的重点领域。中国政府高度重视人工智能的发展，始终将促进人工智能和经济融合发展作为重要的发展目标，发布实施了《新一代人工智能发展规划》，面向于经济社会重大需求实施一系列富有成效的政策举措，正在形成人工智能与各行各业深度融合的良好生态。

他认为，“人工智能正处于群体性技术变革的起点，重大成果不断涌现，在全方位推动经济社会发展的同时，也孕育着新的重大变革。”

他认为人工智能存在三大发展趋势：

首先，人工智能正在迈向多智能融合新阶段。以ChatGPT和Sora为代表的大模型技术的实施，拉开了迈向通用人工智能的序幕，大模型已成为主流技术路线，并加快迭代演进。基础语言大模型技术的出现、突破性的升级、全新的深度网络架构相继涌现，多模态大模型成为当前模型研究的主攻方向，多技术路径的交叉融合，加速了通用人工智能的到来。

“人工智能正在迈向大小模型协同、新智能形态快速发展的3.0阶段。”吴朝晖说。

其次，人工智能将成为第四次工业革命的标配，将加速传统产业的转型升级，实现质量变革、效益变革和动力变革，重塑工业的基础再造，以及生产和服务模式创新的各个环节，引领新型工业化发展，为智能经济发展提供全新动能。

第三，人工智能将引发社会发展的深远变革。人工智能创新的商业模式和经济形态，正在以前所未有的速度影响和渗透到各行各业，构建起数据驱动、人机协同、跨界融合、共创分享的智能经济形态，形成新的经济增长点。

同时，人工智能助力重大科学发现和前沿研究研发的应用，与生物制造、脑科学、清洁能源、文化创意等领域的交叉，有望打造颠覆性产品和产业，从而加速未来产业的发展。

吴朝晖表示，中国应紧紧抓住人工智能重塑经济社会发展的重大机遇，有效应对人工智能带来的各种风险与挑战。要瞄准人工智能的前沿方向，加快产生原创性、突破性重大科研成果，多路径地探索通用人工智能发展。推进人工智能与多个行业的深度融合，加速人工智能前沿向现实生产力的转化，推动产业智能化升级和颠覆式技术的创新，从而催生新产业、新模式、新动能，构筑起未来新的增长点。

幻觉风险可控的，比较大的风险是......

人工智能发展势不可挡，在把握人工智能重塑经济社会发展这一重大机遇的同时，还要有效应对人工智能大规模跨界应用所带来的各种安全风险与挑战。

对于人工智能的风险，北京智源研究院创始人、创始理事长张宏江在作主题发言时表示，人工智能可能导致全球性的灾难性后果。为避免这样的危险发生，我们需要划出红线，改进治理机制，同时需要研发更多安全的技术，控制人工智能不去跨越这些红线。要想做到这一点，最重要的一条是坚持和加强国际科学界和政府间在安全方面的合作。　　　　

在小组讨论中，Verimag实验室创始人、2007年图灵奖得主约瑟夫·希发基思表示，人工智能存在两种主要风险，一种是技术风险，另一种是人为的风险。此外，还有两种风险，一个是怎么在选择和性能之间取得平衡，如果我们不能确保系统是以公正、中立的方式使用可靠信息，则不要将决策权交给系统。另一个是性能的提升是否与人类控制的缺失相平衡。　　　　

清华大学苏世民书院院长薛澜表示，人工智能的发展面临一系列风险需要防范。从人工智能治理的角度来看，面临五大挑战：

一是人工智能的技术发展是非常快的，但是我们治理体系的构建相对慢一些。

二是信息不对称的问题。比如，企业不知道政府规制最关心的问题在哪儿；对技术发展可能会带来什么风险，政府不清楚。

三是防范风险的成本要远远高于它有可能造成危害的成本，所以风险治理的成本较高。

四是在全球治理方面，互相之间有重叠甚至也有矛盾的机构，都对某个问题有相关的利益，都希望来参与治理，使得全球治理体系的形成有很大的困难。

五是人工智能领域的治理，一定要有美国和中国的合作，但是目前这种地缘政治也会带来相应的一些问题。　　　　

清华大学智能产业研究院院长、中国工程院院士张亚勤表示，目前Sora的能量很大，但是刚刚开始，未来5年，我们会看到其在各领域的大规模应用，所以会带来很多风险。

他认为有三大风险：一是信息世界的风险。比如，有错误的信息、虚假的信息。二是在大模型领域独有的幻觉，但这个风险本身是可控的。而比较大的风险是，当把信息智能延伸到物理智能、延伸到生物智能，在大规模使用的时候，会出现风险的规模化。三是大模型连接到经济体系、金融体系、电站、电力网络等的风险是相当大的。　　　　

如何防备风险？

怎么去解决上述这些问题？

薛澜建议，第一，要加强安全和技术。目前，在安全领域的研发是不够的，今后在这方面需要加强研究，尤其是需要加强国际合作。第二，通过敏捷治理的方式解决治理方面的问题。第三，鼓励企业的自我规制。第四，加强国际治理。在全球治理方面，联合国刚刚通过了协议，并且召开高级别专家的讨论。第五，在人工智能领域，中美双方一定要加强合作，这样才能真正解决人类面临的各种问题。　　　　

张亚勤提出以下五个建议：

第一，标识我们所产生的数字人或者智能体。

第二，要有映射和注册机制。未来会有很多机器人，但机器人本身是一个从属体，不是主体，必须要映射到主体。

第三，建立分级体制。对于一般规模的模型监管可以少一点，对于前沿大模型、万亿级参数用到物理世界无人车的、用到金融系统的、用到生物系统监管的要多一些，要分级。

第四，呼吁把10%的经费投入到大模型风险的研究中，这不仅是政策研究，还有很多算法、技术的研究。

第五，人工智能大模型一定不要跨越红线。红线可能在不同的时间并不一样，但是需要有这个红线。中国需要和全球不同人工智能领域一起合作，否则就会有生存风险。

内容来源：中国经济时报

声明

1.凡资讯来源注明为其他媒体来源的信息，均为转载自其他媒体，精准信息以正式批文或确认文件为准。

2.部分文章推送时未能及时与原作者取得联系，若涉及版权问题，请及时与我们联系，本平台将在规定时间进行删除。

3.本平台对转载、分享的内容、陈述、观点判断保持中立。内容仅供读者参考，本平台将不承担任何责任。