首页English
  • 时政
  • 国际
  • 时评
  • 理论
  • 文化
  • 科技
  • 教育
  • 经济
  • 生活
  • 法治
  • 军事
  • 卫生
  • 健康
  • 女人
  • 文娱
  • 电视
  • 图片
  • 科普
  • 光明报系
  • 更多>>
  • 报 纸
    杂 志
    光明日报 2023年08月16日 星期三

    我国首份生成式人工智能监管性文件正式实施——

    立定行业新规 指明发展方向

    作者:光明网记者 李政葳 李飞 《光明日报》( 2023年08月16日 08版)

      伴随新一代信息技术的迅速发展,各行各业大模型“浪潮”此起彼伏。国家网信办等七部门发布的《生成式人工智能服务管理暂行办法》(以下简称《办法》),8月15日起正式落地实施。作为我国促进生成式人工智能发展和规范应用的专门立法,《办法》界定了该技术的基本概念,规定了对服务提供者的制度要求,为未来行业健康发展指明了方向。

    赋能千行百业,推动数字化转型

      日前,新华社研究院中国企业发展研究中心发布的《人工智能大模型体验报告2.0》显示,讯飞星火位列国产主流大模型测评榜首位;与今年6月首次发布的报告相比,当前中国的大模型产品进步显著。

      8月15日,颇受关注的讯飞星火认知大模型再次迎来升级——在提升通用能力的基础上,升级代码能力和多模态能力。科大讯飞董事长刘庆峰表示,代码能力是支撑认知大模型智慧的关键维度,多模态能力则是实现通用人工智能的必经之路,大模型赋能个体和行业的大未来正在到来。

      “当前,人工智能不断催生新场景、新业态、新模式、新市场,推动数字化转型发展。”中国信息通信研究院政策与经济研究所所长辛勇飞说。

      对外经济贸易大学数字经济与法律创新研究中心主任许可也认为,作为通用人工智能的先行者,生成式人工智能将深刻影响人类经济、社会、文化、军事等各个领域。

      “生成式人工智能底层技术,实际上就是大模型。”百度创始人、董事长兼首席执行官李彦宏表示,大数据、大算力、大模型,导致智能产业涌现;同时,人工智能也发生了方向性改变,从辨别式人工智能走向生成式人工智能。

      在360集团创始人周鸿祎看来,以GPT为代表的大模型,是人工智能第一次能够比较通用地解决问题,并且解决的都是各行各业共同的痛点和刚需。“它将会像当年个人电脑一样,带来一次‘工业革命’。”周鸿祎说。

    划定法律红线,构建良性生态

      今年暑期档,聚焦互联网诈骗主题的电影《孤注一掷》正在热映。影片生动揭示了诈骗背后,人工智能等新技术带来的虚假信息、隐私泄露、算法歧视等风险问题。“近年来,人工智能技术取得了突飞猛进的发展,尤其是大模型的出现带来了巨大便利;但随之而来的是人们对大模型的过度依赖,以及可能产生的安全风险。”中国工程院院士邬贺铨这样说。

      一直以来,我国坚持发展和安全并重,《办法》在鼓励自主创新的同时,也强调了相关主体要依法承担责任,履行网络信息安全义务。周鸿祎认为,大模型是数字化的顶峰,同样也是一把“双刃剑”,带来生产力提升的同时,也存在数据和算法安全问题等风险。

      “如何将海量的数据转换为能为大模型训练所用的数据是重点。”在近日举行的第十一届互联网安全大会上,中央网信办网络安全协调局副局长罗锋盈表示,要提升新技术、新应用安全风险防范能力,善于把数据资源转换为数据优势,构建网络安全教育技术产业融合发展的良性生态。

      在全球范围内,意大利、德国、法国、西班牙等多个国家的监管部门对人工智能表达担忧或发起调查。中国电子技术标准化研究院党委书记杨建军表示,如何发展好、运用好、管理好生成式人工智能,已成为全世界面临的共同挑战。《办法》作为国际上较早出台的积极应对生成式人工智能安全风险的专门立法,为有序开展相关管理工作明确了方向。

    推动多方协同,引导“科技向善”

      “加强生成式人工智能大模型技术的安全向善、可信可控,是创新发展的前提,也是我们坚持攻克的方向。”周鸿祎表示,《办法》内容表明了国家相关部门鼓励创新,支持人工智能产业发展的态度,为科创领域从业者提供了信心和保障。

      针对未来行业发展,第十三届全国政协经济委员会副主任苏波建议,要持续完善人工智能数据安全监管体系,用规范监管保障安全发展。“比如,可以制定人工智能产品应用服务的数据安全服务产品体系,通过检测验证提升产品安全性、成熟度,降低人工智能数据安全风险。”

      中国工程院院士邬江兴也提到,人工智能大模型存在神经网络“黑箱”特点导致人工智能存在不可解释性、深度学习对训练样本过度依赖导致学习结果不可判定性、神经网络推进过程不可逆导致结果不可推论性等内生安全的个性问题,以及漏洞、后门等内生安全的共性问题。未来,尚需监管部门、企业共同发力,从政策、文化、人才等多方面入手。

      除了本次实施的新规新策外,为应对人工智能风险问题,我国在网络安全法、数据安全法、个人信息保护法的基础上,已陆续实施了《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》。杨建军表示,通过加强监管,探索优化应用场景,支持专业机构在技术创新、数据资源建设、风险防范等方面开展跨行业、跨领域协作,构建良性的应用生态体系。

      腾讯集团高级执行副总裁汤道生也充满期待:“大模型只是开端,人工智能与产业融合必将持续绽放更有创造力的可能性。我们要坚持生态开放共建,加速人工智能产业的创新探索。”

      (光明网记者 李政葳 李飞)

    光明日报社概况 | 关于光明网 | 报网动态 | 联系我们 | 法律声明 | 光明网邮箱 | 网站地图

    光明日报版权所有