事关生成式人工智能服务！国家网信办出手

二珊珊 · 发表于 2023-4-11 17:41

据国家互联网信息办公室官网消息，为促进生成式人工智能技术健康发展和规范应用，根据《中华人民共和国网络安全法》等法律法规，国家互联网信息办公室起草了《生成式人工智能服务管理办法（征求意见稿）》（以下简称《征求意见稿》），其中提出生成式人工智能产品提供服务前需申报安全评估。
生成式人工智能，是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。《征求意见稿》要求，利用生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。
《征求意见稿》指出，国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源。
提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗，符合以下五方面要求。
一是利用生成式人工智能生成的内容应当体现社会主义核心价值观，不得含有颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情信息，虚假信息，以及可能扰乱经济秩序和社会秩序的内容。
二是在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取措施防止出现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视。
三是尊重知识产权、商业道德，不得利用算法、数据、平台等优势实施不公平竞争。
四是利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。
五是尊重他人合法利益，防止伤害他人身心健康，损害肖像权、名誉权和个人隐私，侵犯知识产权。禁止非法获取、披露、利用个人信息和隐私、商业秘密。
此外，《征求意见稿》提出，提供者在提供服务过程中，对用户的输入信息和使用记录承担保护义务。不得非法留存能够推断出用户身份的输入信息，不得根据用户输入信息和使用情况进行画像，不得向他人提供用户输入信息。法律法规另有规定的，从其规定。
提供者不得根据用户的种族、国别、性别等进行带有歧视性的内容生成。（点击阅读详情）

来源：人民网记者：申佳平

凤鸣 · 发表于 2023-4-11 20:11

，。。。。。。

安庆网 · 发表于 2023-4-11 22:09

谁去监督谁去执行。

安达尔 · 发表于 2023-4-12 01:11

谢谢告之。

青蛙荷叶上开船 · 发表于 2023-4-12 02:31

点赞点赞点赞

账号		自动登录	找回密码
密码			免费注册

[专区杂谈] 事关生成式人工智能服务！国家网信办出手

更多主题