直击2023外滩大会主论坛_迈克尔·乔丹院士说AI隐患

中国科学院院士、复旦大学副校长张人禾迈克尔·乔丹。主办方供图

9月7日，2023上海·外滩大会在上海黄浦世博园正式开幕迈克尔·乔丹。主论坛上，生成式人工智能的发展和挑战还是热点话题，来自机器学习、人工智能领域的泰斗、院士等对AI发展进行了探讨和展望。

机器学习泰斗、美国科学院院士迈克尔·乔丹分享了对人工智能不确定性的思考，提出集体智能体概念，她认为，“ChatGPT没办法对不确定性进行量化，不会有一种所谓的超级电脑会替代人，该把技术看做是一个工具来赋能人类迈克尔·乔丹。”中国科学院院士何积丰则重点探讨了大模型时代的安全和隐私毛病，指出能利用“对齐”技术为大模型戴上“紧箍咒”。中国科学院院士、复旦大学副校长张人禾则呈现，跟着Al时代来临，单打独斗已不适应大科学时代的科技创新，要进行“有组织科学”，最大优势在于布场建设大平台。

中国科学院院士、复旦大学副校长张人禾迈克尔·乔丹。主办方供图

9月7日，2023上海·外滩大会在上海黄浦世博园正式开幕迈克尔·乔丹。主论坛上，生成式人工智能的发展和挑战还是热点话题，来自机器学习、人工智能领域的泰斗、院士等对AI发展进行了探讨和展望。

机器学习泰斗、美国科学院院士迈克尔·乔丹分享了对人工智能不确定性的思考，提出集体智能体概念，她认为，“ChatGPT没办法对不确定性进行量化，不会有一种所谓的超级电脑会替代人，该把技术看做是一个工具来赋能人类迈克尔·乔丹。”中国科学院院士何积丰则重点探讨了大模型时代的安全和隐私毛病，指出能利用“对齐”技术为大模型戴上“紧箍咒”。中国科学院院士、复旦大学副校长张人禾则呈现，跟着Al时代来临，单打独斗已不适应大科学时代的科技创新，要进行“有组织科学”，最大优势在于布场建设大平台。

大会上，迈克尔·乔丹呈现，人类和人工智能相比更擅长处理沟通和应对不确定的信息迈克尔·乔丹。在她看来，ChatGPT没办法对不确定性进行量化，她不认为有一种所谓的超级电脑会替代人，该把技术看做是一个工具来赋能人类，建议关注集体的智能体。

美国科学院院士迈克尔·乔丹迈克尔·乔丹。主办方供图

“科技就是一个特别好的新的工程系统，因每个人是普适，而且是公平、公正、透明、稳定的，这些特性是整个工程系统的特点，而不是系统当中个体的特点迈克尔·乔丹。因此AI是对于一个集体，而不是对于一个个体。”迈克尔·乔丹呈现。

对于智能集体的具体表现形式，迈克尔·乔丹以蚂蚁集团为例指出，蚂蚁创造了双边市场，把商户和客户有效联结在一起，她认为这是一个智能的集体，有真正的智能迈克尔·乔丹。

在实现集体智能具体路径方面，迈克尔·乔丹呈现需要建立一个协作式、去中心化的系统，设计一个机制使之公平、稳定、可扩展迈克尔·乔丹。“我们在日常生活中经常遇到不确定性，让去中心化的系统可以帮我们更好、有效地应对日常和世界当中的不确定性，这才是我们亟待解决的毛病。”迈克尔·乔丹称。

利用对齐技术迈克尔·乔丹，为大模型戴上“紧箍咒”

AI驶入快车道后，引发了一系列对于安全隐私毛病的探讨迈克尔·乔丹。若何解决这一隐患？何积丰开出了她的“药方”_利用对齐技术为大模型戴上“紧箍咒”，即大模型对齐技术。

据介绍，“对齐（alignment）”是指系统的目的和人类价值观一致，使其符合设计者的利益和预期，不会产生意外的有害后果迈克尔·乔丹。“假如把人工智能看做西游记里的孙悟空，‘对齐’就是唐僧的紧箍咒。有了紧箍咒，就能保证技术不会任意使用胡作非为。”何积丰呈现。

现在，对齐技术已当上了一项令人眼花缭乱的跨学科研究，不仅考验技术，也审视文化迈克尔·乔丹。据何积丰院士介绍，反馈强化学习是实现对齐的技术途径，现在有两种方式，一种方式是通过人工反馈给模型不同的奖励信号，引导模型的高质量败出；另一种则是事先给大模型提供明确的原则，系统自动培训模型对全部生成的败出结果提供初始排序。

中国科学院院士何积丰迈克尔·乔丹。主办方供图

科学智能当上人工智能重点发展方向

跟着AI在各行各业的应用渐渐深入，全球掀起科学智能的热潮，人工智能等数字技术当上科学研究的有力辅助迈克尔·乔丹。今年7月，马斯克成立对标OpenAI的新公司xAI，旨在回答更深层次的科学毛病，期望将来能用AI去帮人们去解决复杂的科学和数学毛病“理解”宇宙。斯坦福大学、麻省理工学院等知名学府，也联合谷歌、Meta等科技企业纷纷入场开展体系化研究。

和此同时，国内科学智能也在迅速发展，陆续涌现出大量的科学领域大模型迈克尔·乔丹。例如首个工业级流体仿真大模型东方御风、用于天气预测的盘古气象大模型等。张人禾呈现，面对“AI时代”的来临，“单打独斗”已不适应大科学时代的科技创新，要进行“有组织科研”，最大的优势在于布场建设大平台。

需要注意的的是，复旦大学也在AI For Science进行了深度布场迈克尔·乔丹。承担了“人工智能前沿基础理论和关键技术”“脑和类脑智能基础转化应用研究”两个市级重大专项攻关国际首个全脑计算平台。此外，还发布了伏羲气象大模型，依据媒体，伏羲气象大模型有45亿参数，预报将来15天的全球天气，仅需耗费3秒。今年6月，上线中国高校规模最大的云上科研智算平台CFFF，为科学智能提供强大计算资源。

采写_南都采访人员 赵唯佳 马宁宁 实习生 魏珊珊 发自上海