随着人工智能的普及应用，在方便百姓生活的同时，也带来了诸多安全问题。在人工智能时代的网络法治分论坛上，与会专家和代表一致认为，应加强人工智能发展的潜在风险研判和防范，确保人工智能安全、可信、可控。

与会专家周鸿祎：“实际上也可以产生各种虚假内容，甚至给网上这种通信诈骗、互联网诈骗提供这种便利。包括大模型最大的一个问题是，它有时候会产生幻觉，一本正经的胡说八道。在有些场合这可能是产生致命的错误。这时候传统安全技术是不适用的，因为大模型太聪明了，得用专业的安全大模型来解决大模型安全问题。”

与会代表认为，相关科研机构和科技企业在人工智能系统设计之初就要充分考虑安全可控的风险，只有在这个前提下，人工智能的创新发展才能可持续。

中国人民大学校长林尚立：“我们原来是对于网络的空间的治理有过一系列的法律，那么今天人工智能是网络、数字、数据的整合，以及各种各样的场景应用，因此它既有数字（技术）的集成方面，也有场景应用的不断的开发方面，我们这方面发展很快，但法律还是需要有一个过程才能跟上。”

专家介绍，从全球人工智能治理倡议，到颁布生成式人工智能服务管理暂行办法，再到发布人工智能全球治理上海宣言，从一边抓发展到一边抓治理，中国以负责任的态度和务实的行动，为全球人工智能领域的发展贡献着建设性思路和方案。

原文链接：[CCTV13新闻直播间]2024年世界互联网大会乌镇峰会 应加强人工智能发展潜在风险研判和防范