人工智能势不可当，我们最该担忧的是什么？

人工智能是人类发展新领域。当前，全球人工智能技术快速发展，对经济社会发展和人类文明进步产生深远影响，给世界带来巨大机遇。与此同时，人工智能技术也带来难以预知的各种风险和复杂挑战。

人工智能会不会取代人类？应如何看待人工智能带来的风险？12月2日，“读懂中国”国际会议（广州）围绕人工智能与人类未来这一话题举行研讨会。

势不可当的人工智能，会不会取代人类？

一年前，ChatGPT横空出世，并以其前所未有的能力在短时间内吸引了数亿用户，人工智能发展势不可当。

清华大学原副校长、世界工程组织联合会主席、中国新一代人工智能发展战略研究院执行院长龚克以“横空出世”的ChatGPT为例，指出人工智能已取得重大技术突破，发展势不可当，是引领新一轮科技革命和产业变革的战略性技术。

“不到一个月之前发布的GPT4 turbo和去年的相比，上下文长度从原先的8K扩展到128K，不到一年的时间就有这么大的突破，这是非常非常重要的一个指标。”龚克表示，技术的加速迭代，是挡不住的，因为这是一种先进的生产力，人类总是不断创造出新的工具提升自身能力。

但在人工智能高速发展的同时，出现了不少担心的声音，恐惧人工智能也许有一天会反噬人类。

“人工智能就像一条河，海纳百川，它在流淌的过程中会不断地吸收，产生新的创造。”德国荣根财团总裁彼得·荣根认为，人工智能代表了新的科技革命，会对就业、医疗、教育等各个领域产生深远影响。

有不少人担忧AI可能会带来大规模失业的影响，但彼得·荣根认为，人类不应过于担忧人工智能对社会的冲击，因为人工智能只是一种劳动力，人类依旧会创造财富、获得财富。

人工智能带来的问题本质是人的问题

人工智能是一把双刃剑，它为全球带来巨大机遇的同时，也带来了不少挑战。我们应该如何面对这些挑战？应该如何看待人工智能的伦理困境？

中国科学院自动化研究所研究员、联合国人工智能高层咨询机构专家组专家曾毅表示，自己并不担心人工智能的飞速发展，而是担心在人工智能每往前一步的同时，人类便更多地放弃了自己应当承担的责任。比如使用一个脑机接口同时控制十几台无人机，这大大超过一个人的认知局限；又如用人工智能控制灾难性的武器。“这些都是不负责任的设计，在逃避人类原本应当承担的责任。”

曾毅强调人工智能稳健发展的重要性，呼吁推进人工智能立法和在联合国框架内开展全球人工智能治理。他认为，基于当前人工智能发展的阶段，我们应当更负责任地、稳健地发展人工智能技术，并且适度地使用人工智能，才会使得人工智能的技术可持续。

香港大学中国与世界治理研究中心创始主任李成在谈及人工智能应用的现实及风险时表示，国际社会包括一些大国应该携手应对AI相关非常重要的问题，包括伦理、共同的规范、风险管理、AI驱动的武器机制、基础设施的建设、国际金融数据的保护及太平洋战略的影响等。

联合国教科文组织“全民信息计划”信息伦理工作组成员、浙江大学国际传播中心执行主任方兴东谈及了近期的一些思考。他表示，现在AI面临着治理和挑战，本质上还是人的问题，而不是技术的问题。他进一步称，问题不在于我们怎么管好AI，因为这个技术永远会千变万化，永远追不上。问题在于人与人之间应该怎么相处、人类应该怎样自我管理。

他认为，我们关注技术的时候还是要把焦点重新回到人本身，只要是回归人本身，AI的挑战终究会迎刃而解。