87伦理中文字 清华教授刘云浩又写万字回复 这92个人工智能问答可收藏

如何看待语言模型GPT-3在人工智能发展中的地位？《三体》中的智子算是人工智能吗？应如何在美国施压下发展计算机产业? 人工智能在与中医药学及中国传统文化的结合中会碰撞出怎样的火花？

近日，清华大学暑期学校在线上云端开学，清华大学软件学院教授刘云浩做了题为《AI明天的作用是什么？-人工智能打开潘多拉魔盒了吗？”专业认知讲座。讲座中，同学们以弹幕的形式提出了2000多个问题，几乎涵盖了人工智能领域的所有前沿热点。刘云浩精选、合并、总结了92个问题，写了近3万字的回复。

有网友评价称，教授的回答非常亲近，学生的问题天马行空，建议软件、自动化、计算机、人工智能、大数据、哲学相关领域学生可以看看。

比如有同学问:三体中的智能体算不算人工智能？如果是，人工智能会发展到那个程度吗？

对此，刘云浩回答称，“智子”是小说中的“物体”，本身并不是科学，很多特点也违背了物理规律。如果目前的半导体工艺、电池技术没有突破瓶颈，我们是不可能造出“智子”这样的东西的。“我们课上主要希望大家能理解的，就是哪些是我们的文学想象，哪些是目前科学实践。想象能否成真？不能说都不能。但是我们作为具备科技思维能力的人，不能随便被‘忽悠’。”

“哈佛大学校长德鲁·吉尔平·福斯特曾在新生欢迎会上表示，高等教育最重要的目标是确保毕业生能够识别‘有人在胡说’。”

“万字回复学生提问”是刘云浩教授的“常规操作”。连续几年参加完暑期学校的讲座之后，同学们提出的问题，他都以这样的方式进行了回答。例如，2019年，刘云浩在清华大学暑期学校开学典礼的讲座后收集学生提问纸条，花费十几小时写了近二万字以解答90个人工智能相关问题。

清华大学官方资料显示，刘云浩1990年至1995年在清华大学自动化系学习，获得工学学士学位，1995年至1997年在北京外国语大学高级翻译学院获得文学硕士学位，2001年至2004年在美国密歇根州立大学计算机系获得工学硕士和博士学位。2004年-2011年在香港科技大学计算机科学与工程系历任助理教授、副教授、博士生导师、系研究生部主任。2013年至2017年任清华大学软件学院院长。2018年起任美国密歇根州立大学计算机系主任，同时仍担任清华大学软件学院教授、博士生导师。

据清华大学官方数据显示，刘云浩1990年至1995年就读于清华大学自动化系，获工学学士学位，1995年至1997年在北京外国语大学高级翻译学院获文学硕士学位，2001年至2004年在密歇根州立大学计算机系获工学硕士和博士学位。2004年至2011年，任HKUST计算机科学与工程系助理教授、副教授、博士生导师、研究生部主任。2013年至2017年，任清华大学软件学院院长。2018年起任美国密歇根州立大学计算机科学系主任，至今仍是清华大学软件学院教授、博士生导师。

以下是刘云浩今年整理的92个学生问题和他近3万字的回答。内容来自清华大学官方微博。

1

T3班朱坦生:

请问如何看待中国软件行业的现状，以及我们应如何在美国施压下发展计算机产业?希望教授可以给一些建议。

答:在应用软件方面，尤其是面向消费者的应用软件，中国处于世界一流水平，部分移动应用已经处于世界领先水平。然而，在工业软件和基础软件方面，中国与世界一流水平仍有很大差距。在这些领域，国际合作非常重要，因为不是每一项技术都能在短时间内掌握。然而，这并不意味着我们必须放弃自主研发。面对世界形势的变化，采购不能解决所有问题，甚至合法的商业活动也会面临外部干扰。广交朋友，拥抱开放的思想，加强自主研发，逐步达到世界领先水平，这只有通过包括你我在内的几代人的不断努力才能实现。

2

吴:

老师如何看待Intel的数据库泄露？会对中国国内的相关行业有好影响吗？

答:媒体夸大了英特尔数据泄露。根据一些细节和更多报道，泄露的信息是英特尔向客户提供的支持信息，但客户通常需要签署保密协议才能获得。因此，这些数据对我国芯片设计的实用价值不大。在芯片设计领域，中国近年来取得了长足的进步。无论是嵌入式微处理器、高端片上系统处理器还是服务器处理器，国内都有一批企业成长发展起来。在神经网络处理器等一些领域，中国企业的设计能力已经处于世界一流水平。但是，必须清醒地认识到，光有设计能力是不够的。在高端芯片领域，我们缺乏工艺更精细的制造能力。这是目前卡脖子的核心问题之一。在制造过程中，核心步骤是在晶圆上雕刻设计好的电路，这需要光刻机和光刻胶。目前国际上高端光刻机只能由荷兰阿斯麦公司生产，配套的光刻胶几乎全部由日本公司生产。另一方面，即使拥有设备，也需要配套的工艺流程，好的工艺需要时间打磨，这也需要几代人的共同努力。

3

H9级车:

如何看待GPT-3系统在人工智能发展中的地位？

U5班的梁亚伦:

最近 1750 亿参数的 GPT-3 发布了，这个网络的训练用了 700 个 G 的数据，您怎么看待现在神经网络的这种数据量、参数、训练成本甚至 inference 成本都在不断提高的趋势？这会是一个正确的趋势吗？

答:GPT-3一发布，就引起了业界的广泛关注。人们惊讶地发现，在给模型赋予足够的参数，用足够的数据进行训练后，人工智能不仅可以写文章、编故事、翻译，还可以写代码、做数学运算、画表格、生成复杂格式的数据等。就文本而言，它几乎是任意的。毫不夸张地说，GPT-3是NLP之王。在一定程度上，GPT-3意味着深度学习还没有完全达到极致，仍有空个领域可以通过不断增加资源投入取得更好的效果。丰富的数据使GPT-3在回答问题、写文章、翻译甚至生成代码方面表现出色。像其他深度学习技术一样，GPT-3也可能对“错误”的输入给出错误的预测。比如你问它“我的脚有几只眼睛？”它会回答“你的脚有两只眼睛。”这种问题对于GPT-3系统来说并不容易解决，所以GPT-3系统是否会是深度学习的终点还有待历史的检验。GPT-3昂贵的训练模式很难被一般科研团队效仿，所以很难说它是否会成为一种趋势。如果真的成为趋势，这种人工智能算法会形成一定规模的技术垄断。

4

A2班苏倩茹:

在这次的抗击新冠肺炎疫情的过程中，中医药学做出了很大的贡献，我本人也对中医药学十分感兴趣，请问刘老师您认为人工智能在与中医药学及中国传统文化的结合中会碰撞出怎样的火花？

答:近年来，中医与人工智能结合的案例很多。企业和高校都在做研究和实践，甚至一些有人工智能理念的中医诊所已经线下开业。中国传统儒学可以分为“理学”和“心理学”。12世纪中叶，宋代理学的代表人物朱提出了“师事”的思想。同时，宋代理学代表人物陆九渊强调人的“心”在认识中的主导地位，所观察到的事物只是认识的具体表现。明代思想家王阳明在15、16世纪实践和运用朱、陆九渊思辨的基础上，提出阳明心学对后世影响深远。王阳明强调知行与良知的统一，既强调“心”在认知过程中的重要地位，又注重根据事物的具体表现和观察灵活运用自己的认知。将中国传统哲学与人工智能相比较，神经网络的设计思想类似于理学，但如果能借鉴“心理学”，可能会将人工智能推向下一个阶段。

5

吴，班:

刘教授您好！我的问题是：由人类创造出的人工智能有可能超越人脑逻辑吗？是否有可能，人工智能的智力最终可以超越人脑？

N10版南书峰:

人工智能能否达到逼近人类程度的思考或者超过人类？

G10级许一鸣:

老师好，虽然现在人工智能离全面超越人类还有相当的距离，但如何避免一些科幻片中人工智能反人类，甚至对人类文明造成很大冲击的情况出现呢？

U4班邱能:

AI是否会摆脱人类的控制？我们在发展AI的过程中是否应该对AI的智能有一定的限制？

N4班的荀昊航:

未来怎样正确使用AI？

答:单就智能而言，人工智能在解决很多问题上可以比人类做得更好。在其他领域，谈论人工智能超越人类或摆脱人类控制还为时过早，但这类问题一直备受人们关注。课堂上，我们提到物理学家霍金、SpaceX和特斯拉创始人埃隆·马斯克都表达了对人工智能发展的担忧。在2018年人工智能顶级会议NeurIPS上，图灵奖获得者、深度学习三大创始人之一约书亚·本吉奥针对滥用人工智能可能带来的一系列风险，提出了一套关于AI的伦理准则，称为《蒙特利尔宣言》，主张组织在开发和使用人工智能时应遵循相应的原则。2018年7月，欧盟完成了《人工智能合作宣言》的签署，进一步制定了人工智能伦理规范。加强相应规范的制定，建立监督和惩戒机制，非常非常重要。而可控人工智能将为我们带来无限可能。

6

N9级口博群:

什么是自动化，自动化如何应用？还有自动化应用领域。

G2级高泽仁:

自动化和人工智能的具体研究内容及发展方向是什么呢？

I3班石洪波:

想问一下教授所说的人工智能是更多属于自动化系还是计算机系？

U8班黄诗怡:

人工智能传统上是自动化专业的一个方向，现在是否反而更接近计算机专业了？

答:按照定义，自动化是关于人工和自然系统自动、智能、自主、高效、安全运行的科学技术，是信息科学的重要组成部分，以“系统论、控制论、信息论”为核心。自动化技术广泛应用于工业、农业、能源、交通、金融、军事等领域。自动控制系统是机器人、载人航天器、高铁、智能交通等各种复杂工程系统的核心。计算机及软件工程、自动化、电子工程等专业。都是目前人工智能研究的主力军，这主要是因为目前人工智能研究的核心是算法，不管是信息论还是控制论。然而，人工智能并不是自动化或计算机科学系，甚至不是信息科学学院所独有的。我们也说过，人文社会科学急需加入人工智能的研究工作。如果你不能理解，那就想想。我们上大学时，主要在计算机自动化系学习编程。今天学习编程需要多少专业学习？

7

H9班的许:

人脑与AI的思维方式有哪些共同之处？有哪些本质上的不同？如何实现AI思维的人性化?

类罗:

老师好，AI被称为人工智能，您讲它是“会思考的机器人”，那么AI的智能和思考和我们人类的自我认知功能有什么区别和联系？AI最终究竟是会像人类一样有自我认知，还是只是算法和为人类服务功能的提升呢？

刘凯在班里贿赂I1:

刘教授您好，人类创造的人工智能以后也许能够像人类独立地思考，那么他们会不会像人类一样拥有自己的哲学，于是又像人类一样演进历史，创造出人工智能的人工智能，从而达到地球上生物的进化，一代又一代的人工智能创造出来，那么最后的人工智能会不会达到我们现在人类所认为的神、上帝的水平。

答:如果我们看一下基于神经网络的人工智能，人类的神经系统起到的启发作用更大。具体来说，人们通过模仿神经元的连接关系来构建网格结构，内部节点是基于统计模型构建的，不能等同于人的神经元。目前技术条件下的AI只是一种算法，一种为人类服务的工具。人工智能的人性化还很遥远。推动人性化人工智能全球大会于去年3月在巴黎召开，该领域的相关工作刚刚起步。什么是人类的自我认知能力，就像意识问题一样，不是我们目前科研已经解决的问题，人工智能自然是不可能的。

8

班N3冉浩军:

刘老师，您提到的trigger改变AI的认知的原理能再详细一点吗？

A：攻击者可以通过刻意构造输入数据，针对正常的输入x和期望的输出y，向x添加某种模式的细微扰动得到x′，使得人类分辨不出x和x′的显着区别或者认为x′也是正常的输入，而两者经过模型的特征提取得到的抽象表达却截然不同并被映射到不同的输出，导致模型无法产生正确的预测结果y，甚至产生攻击者想要的结果y′。如果你对