李鹏 国家市场监督管理总局发展研究中心
近年来,以ChatGPT为代表的大规模预训练语言模型快速发展,人工智能持续的技术创新和突破赋能经济社会发展的同时,带来的治理难题和挑战成为焦点。
一、人工智能发展现状及特点
党高度重视智能经济发展,促进人工智能和实体经济深度融合,为高质量发展注入强劲动力。目前,我国人工智能核心产业规模超过5000亿元,企业数量超过4300家。图像识别、语音识别等技术创新应用跻身世界先进行列,工业互联网应用覆盖45个国民经济大类,重点工业企业关键工序数控化率达到59.4%,累计培育出1700余家数字化车间和智能工厂,智能制造应用规模全球领先,实体经济正加速向数字化、网络化、智能化方向转变。
人工智能已融入千行百业,小到居家出行、大到制造研发,智能经济给生产生活带来深刻变革,其发展具有以下特点。一是人工智能应用具有不确定性。人工智能与人类构成的关系模式是全新的,且界限模糊、不确定性加大,商业、公众、社会三者利益之间或存在“不可能三角”。二是人工智能应用具有通用性。大模型往往运用一套算法、一套模型结构、一个训练思路,来提升分析处理能力,而不是去解决一个个具体问题,风险的不可预知性增加。三是人工智能应用具有交互性。人机交互是人工智能最具挑战性、综合性的技术,涵盖语义理解、知识表示、语言生成、逻辑与推理等各个方面,能够通过对话与用户或环境交互,并在交互中实现学习与建模。
人工智能是引领新一轮科技革命和产业变革的战略性技术,具有溢出带动性很强的“头雁”效应,不仅能助推传统产业创新,还能不断催生新技术、新产品、新模式、新业态。未来我国社会和产业发展将围绕数字经济与实体经济的融合、传统产业向新兴产业的转型进行,善用人工智能,就是抓住了驱动社会和产业发展的“智慧动能”。人工智能发展带来新机遇,也带来新挑战,特别是随着生成式人工智能蓬勃发展,算法偏见、数据安全、知识产权保护、科技伦理、意识形态安全等问题更加凸显,给人工智能加装“护栏”正在成为国际共识。
二、人工智能治理的难点问题
一是“立法先行”还是“实践先行”。人工智能的发展和治理已成为世界大国竞争的焦点,美国发布《人工智能权利法案蓝图》并加速立法、欧盟出台《人工智能法案》、我国人工智能立法也在稳步推进,但各国监管政策尺度、强度和路径选择不同。人工智能作为国家关键战略资源,“立法先行”的产业发展导向明确,同时也存在因人工智能无论技术创新突破还是赋能经济社会发展方方面面都难以预测,导致立法缺乏产业实践而增加阻碍创新发展的风险。
二是创新发展与合规安全之间的平衡。人工智能在促进国家科技进步、产业优化升级、生产力整体跃升等方面的重要性越来越突出,但人工智能滥用也带来许多合规性问题,如平台企业利用算法、数据等优势实施不公平竞争及其他扰乱市场秩序行为,数据安全、隐私和知识产权保护挑战增多,侵犯未成年人和弱势群体权益行为多发等。“算法黑箱”和训练数据的强主观性,可能会导致一些不恰当和不适当的言论和行为以及生成一些偏见和歧视的内容,特别是生成的数据被用作预训练数据,主观意识更强、不可控性更高、风险更大,如果被有意识的训练使用,不但危及行业安全,还会威胁意识形态安全和国家安全。在复杂严峻的内外部环境背景下,统筹人工智能发展与安全需考量的因素更多、难度更大。基于想象设立规则或因某个场景存在风险就扩大约束范围的“泛安全化”现象也给人工智能创新发展带来不可忽视影响。
三是单一主体治理与多元共治的选择。随着ChatGPT、大模型等人工智能技术创新应用,对传统依赖单一政府的强监管模式带来很大挑战。政府监管虽高效、约束力强,但因人工智能技术高度不确定,赋能发展的边界模糊,监管工具缺乏,手段落后,各管一段的政府监管模式难以实现有效治理。可以探索一种涉及政府、行业组织、企业和公众等多主体的人工智能治理机制,即在政府主导下,发挥企业技术优势和行业协会自律作用,调动广大公民积极参与,实现多元共治。
三、意见建议
一是稳步推进人工智能立法。人工智能立法应充分考虑我国面临的国内外环境和人工智能发展实际,深刻把握人工智能发展规律和全球治理趋势,以监管促发展为导向,明确立法定位、立法形式、立法内容,探索实施分级分类监管,设立风险共担机制,强化事中事后动态监管。及时制修订人工智能具体应用领域的配套性法律法规、部门规章,加强对数据隐私与安全、公平竞争与反垄断等的监管。
二是强化合规和安全治理。强化顶层设计,从制度建设、风险管控、协同共治等多方面推进人工智能治理。建立和完善人工智能应用算法歧视、道德伦理审查规则和标准,构建安全认证机制。探索创新监管沙盒,平衡好发展与安全,推行试点示范并逐步扩大范围。加大“算法黑箱”治理、隐私和知识产权保护以及垄断和不正当竞争等典型案例曝光处罚力度,强化企业合规建设。加强与各国政府、国际组织合作对话,借鉴吸收好的做法和经验,逐步探索出既拥抱技术发展,又能有效规制风险的人工智能伦理治理路径。
三是构建多元主体参与的社会共治新模式。人工智能技术应用场景的跨域性、利益主体的交织性、社会影响的复杂性等属性,使得人工智能治理成为一项复杂工程,要加大监管政策和技术标准的研究,加强监管工具储备。处理好政府和市场的关系,用好看得见的手和看不见的手,探索建立政府为主导、企业为主体、协会和公众广泛参与的平衡包容的社会共治监管框架。结合人工智能具体应用场景,制定差异化监管政策,搭建产学研用深度融合平台,推动制定规范行业发展的标准体系,促进合理市场竞争和技术创新。
