划出“红线”和“底线” 规范生成式人工智能发展

新闻背景：

近日，国家网信办等7部门联合发布《生成式人工智能服务管理暂行办法》（以下简称《办法》），自2023年8月15日起施行。

生成式人工智能亟需规范

今年以来，以ChatGPT为代表的生成式人工智能掀起了人工智能领域新一轮技术浪潮，加快发展生成式人工智能已成为行业共识。与此同时，生成式人工智能也带来了传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等问题，如何统筹生成式人工智能发展和安全引起各方关注。【详细】

就传播虚假信息来看，人们已经越来越难以确定一项内容到底出自真实的人类还是人工智能，正如有专家所言，“如果有人想骗你，利用人工智能技术，欺骗就会变得简单得多”，如今出现的“AI换脸”“AI脱衣”等互联网黑产，更是验证了这一点。【详细】

推动生成式人工智能向上向善

对于人工智能新技术，如何管理一直是人们比较关心的问题。《办法》在相关的法律法规、社会公德、伦理道德以及对社会底层价值观念的支持等方面作出规范，特别是明晰了违法处理措施和监督检查措施。【详细】

比如，《办法》要求“生成式人工智能服务提供者基于服务类型特点，采取有效措施，提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性”，这充分体现了发展与安全并重的原则，符合生成式人工智能的技术原理与产业需要。【详细】

在监管护航中释放技术红利

应当看到，生成式人工智能将不断催生新场景、新业态、新模式和新市场，赋能千行百业。《办法》的出台，及时而且必要，不仅有利于引导生成式人工智能在合法合规的轨道上运行，而且也有助于促进产业健康长远发展。【详细】

当然，生成式人工智能服务管理需要政府、企业、社会、网民等多方参与。着眼未来，在重视防范风险的同时，也应同步建立容错、纠错机制，营造良好的发展生态，促进生成式人工智能健康发展，让人工智能服务在监管护航中释放技术红利，更好地造福民众。【详细】

（以上综合工人日报、南方日报、红网、深圳特区报）

V视角：

@动力推土机：智能可以是人工的，但智慧的最终决策权必须牢牢掌握在人类手里。

@雨晓鹤：网络空间不是法外之地。

@我就爱红薯：《办法》出台很及时。

@啃猫粮的兔子：原始数据收集的问题，也应该注意一下。

@五维度：技术创新与监管创新都需要。

中国经济网编后语：

无规矩不成方圆。《办法》坚持目标导向和问题导向，明确了促进生成式人工智能技术发展的具体措施，制定了生成式人工智能服务的基本规范。对于人工智能来说，只有引导其技术向上向善，始终在法律“红线”和伦理“底线”内运行，才能使它充分发挥出自身的潜力和价值，为促进经济社会高质量发展注入源源不断的智慧动能。

回顾：往期“经”点热评