如何给人工智能发展勒好缰绳？—数据中心中国电子商会

如何给人工智能发展勒好缰绳？

中国新闻网 | 来源：中国新闻网浏览次数：1321

摘要:

24日，政界、学界、企业界人士齐聚中国发展高层论坛“人工智能发展与治理专题研讨会”，共商人工智能安全治理。

北京智源研究院创始人、创始理事长张宏江用“震撼”一词形容Sora。

他表示，Sora可以根据文字提供一段现实世界无法拍摄出来的逼真场景，多模态大模型还可以通过“�；ê脱┨煳薹ㄍ背鱿帧币约把┢木瘸潭扰卸鲜悠凳欠裼扇斯ど�，甚至可以思考、推理而非以往机械式地执行命令。

“人类做出的最伟大的发明就是人工智能，毋庸置疑，它也是最具风险和最危险的创新�！备Ｌ厮箍私鹗艏胖葱卸鲁ぐ驳侣场じＨ鹚固乇硎�，人类的DNA几十年甚至几百年才能有一些改善，但是AI却能以光速不断完善。

“AI的学习能力超过人类的平均学习能力”，张宏江同样表示，人类的学习能力是一条平缓的直线，但是机器的学习能力是一条指数曲线，两线相交后人类的学习能力将落后于机器。更可怕的是，当系统本身有能力自我改善时，可能会带来全球性的灾难后果，他提醒。

香港中文大学(深圳)前海国际事务研究院院长、广州粤港澳大湾区研究院理事长郑永年则拿原子弹进行类比，称原子弹是人类掌握的第一个自我毁灭的工具，“我们现在又多了一样”，“如果人工智能和核武器结合起来会更糟糕”。

如何避免这种灾难性后果，给人工智能发展勒好缰绳？这个问题显得比以往任何时候都更为重要。

Verimag实验室创始人、2007年图灵奖得主约瑟夫·希发基思直言，一些国际会议正在讨论建立全球监管框架的问题，但达成全球人工智能监管框架的机会比较渺茫。

然而近期达成的《北京AI安全国际共识》在人工智能监管方面仍取得了可喜突破。张宏江强调，最重要的是划出了安全红线：人工智能不能自主复制或改进，不能寻求权力，不能协助不良行为，尤其是大规模杀伤性武器、生化武器和制造大规模网络灾难，不能欺骗人类，这些红线不可逾越。

清华大学智能产业研究院院长、中国工程院院士张亚勤的建议则更趋具体，他建议将机器人与其背后的人或公司关联，以便追溯实体责任，同时建立监管分级体制，根据风险大小确定不同程度的监管标准。

持续深化人工智能安全治理，合作的重要性被反复提及。

郑永年称，美国和中国的人工智能发展各有比较优势，在治理方面需要两个国家进行合作。

中国科学技术部副部长吴朝晖也在发言中指出，世界各国应携手一道，以高度负责任的态度推动人工智能的发展，坚持智能向善、智能向上，确保人工智能始终处于人类的控制之下，从而实现安全、可靠、可控。

特别声明：
转载上述内容请注明出处并加链接。上述内容仅代表作者或发布者的观点，与中国电子商会官网的立场无关。如有任何疑问或了解更多，请与我们联系。电话：4008 900 668 邮箱：service@cecc.org.cn

龙凤阁全国论坛_老哥稳全国茶楼_一品楼ypl论坛_凤凰楼品茶app官网