财新传媒 财新传媒

阅读:0
听报道

4月26日,我们邀请了万维钢老师来到香帅读书会,通过直播分享他的书《拐点——站在AI颠覆人类世界的前夜》,我们整理了直播内容的精华版,分享给大家。

嘉宾介绍

万维钢

前物理学家,现科学作家。“中国好书”“文津图书奖”得主,得到App订阅专栏《万维钢·精英日课》主理人。

1999年毕业于中国科学技术大学,2005年获得美国科罗拉多大学物理学博士学位,曾长期从事核聚变等离子体物理研究。现居美国,专职从事写作。他主张以科学精神钻研社会现象,擅长让高端的道理落地,乐于激发读者思考。

著有畅销书《万万没想到》《你有你的计划,世界另有计划》《学习究竟是什么》《佛畏系统》等。

列宁说过这样一句话——

“有时候几十年过去了什么都没发生;有时候几个星期就发生了几十年的事。”(There are decades where nothing happens; and there are weeks where decades happen.)这句话很好地体现了当下的时代。从2022年底,到2023年初,这短短的几个月的时间里,人类世界再次爆发了一次革命,这次革命可能比十月革命更为重要,影响也更为深远,这是自人类启蒙运动以来从未有过的一次大变局。

如果你把AI视为人类的敌人,这短短的一年多,你应该一日三惊。

2020年,麻省理工学院宣布发现了一种新的抗生素,叫Halicin。这是一种广谱抗生素,能杀死那些对市面上现有的抗生素已经产生耐药性的细菌,而且相当安全。

这个幸运的发现,是用AI完成的。研究者先组建了一个由2000个性能已知的分子组成的训练集,这些分子都被标记好了是不是可以抑制细菌生长,然后被用来训练AI。AI自己学习这些分子都有什么特点,总结了一套“什么样的分子能抗菌”的规律。

这个AI模型训练好之后,研究者用它一个个地考察美国食品药品监督管理局(Food andDrug Administration, FDA)已经批准的药物和天然产品库中的61000个分子,要求它按照3个标准从中选择抗生素:(1)它具备抗菌效果;(2)它看起来不像已知的抗生素;(3)它必须是无毒的。

AI从这6万多个分子中最后找到了一个符合所有要求的分子,这就是Halicin。然后研究者通过做实验,发现它真的非常好使。估计大概很快就会用于临床,造福人类。

用传统的研究方法,这件事是绝对做不成的——因为你不可能一个个测试61000个分子,那成本太高了。而AI却把它变成了一个看起来很简单的计算问题。

此外,Halicin可以作为抗生素的化学特征其实是目前人类科学家还不能理解的。关于什么样的分子可以做抗生素,科学家以前有些说法,比如原子量和化学键应该具有某些特征。可是,AI这个发现用的并不是已知的这些特征。在用那2000个分子做训练的过程中,AI找到了一些不为科学家所知的特征,然后用那些特征发现了新的抗生素。

那些是什么特征呢?不知道。整个训练模型只是一大堆——也许几万或者几百万个——参数,人类无法从那些参数中读出理论。

AI的思路,不同于人类的理性套路。当代AI的最厉害之处并不在于自动化,更不在于它像人一样思考,而在于它不像人——它能找到人类理解范围之外的解决方案。

从人的智能到人工智能之变,不但比信息革命重要,而且比工业革命重要——这是启蒙运动级别的大事件。这不是汽车取代马的发明,也不仅仅是时代的进步。这是哲学上的跨越。

2023年是AI元年。有些业内人士相信AGI将会在2026年左右实现。这意味着AI在所有认知领域——听说读写、判断病情、创作艺术,甚至从事科学研究——都做得像最好的人类一样好,甚至更好。

这波GPT大潮跟我们这一代人经历的所有科技进步比有个特别不一样的地方。像5G、元宇宙、区块链那些东西,都是越不懂的人越一惊一乍,懂的人都觉得其实没啥了不起。可是对于GPT,恰恰是不懂的人还在“正常化偏误”(normalcy bias)之中,以为AI的能力不过如此,越懂的人却越是暗暗心惊。

如果你还不是非常了解AI,那么《荀子·劝学》中的一段话,正好可以用来描写AI能力的三重境界。

第一重境界是“积土成山,风雨兴焉”。参数足够多,训练达到一定的积累,你就可以做一些事情。比如AlphaGo(阿尔法围棋)下围棋。

第二重境界是“积水成渊,蛟龙生焉”。模型再大到一定程度,就会涌现出一些让人意想不到的神奇功能。比如,AlphaGo Zero不按人类套路下围棋,大语言模型的思维链。

第三重境界是“积善成德,而神明自得,圣心备焉”。这就是AGI(Artificial General Intelligence,通用人工智能)了,也许它产生了自我意识,甚至有了道德感。

AI现在已经获得了包括推理、类比、小样本学习等思考能力。我们不得不重新思考以前对AI做出的各种假设——什么AI做事全靠经验,AI不会真的思考,AI没有创造力……包括“AI会的都是用语言可以表达的东西”,现在我也不敢肯定了。如果AI能达到这样的思考水平,那人又是怎么思考的?人脑跟AI到底有什么本质区别?

这些问题都在呼唤全新的答案。

孤陋寡闻的人不知道AI,认知固化的人忽视AI,肤浅的人害怕AI,热情的人欢呼AI……我们率先使用AI、探索AI、试图理解AI。

演员郑伊健在《车神传说》里有句台词叫“人要比车凶”,指的是人一定要比工具强势。对我们来说,强势的用法是把AI当做一个助手、一个副驾驶,你自己始终掌握控制权。AI的作用是帮你更快更好地做出判断,帮你做你不屑于花时间做的事情,人要比AI凶。

希望《拐点——站在AI颠覆人类世界的前夜》这本书可以带让你你体会一下这个AGI将到未到,大风刚起,暴风还在后面,身处拐点的感觉,同时也可以让你直通最高水平,不会在AI面前失去自我。

套用丘吉尔发明的一个句式:AI带给我们的不但不是人类文明的结束,而且不是结束的开始……如果你把工业革命至今这几百年都算作文明的开始,那么我们正在经历的AI革命可以说是开始的结束。我们正在迎来文明的繁荣丰盛阶段,它的特点是高级智能——包括AGI的智能和人的智能——处处大显身手。

今后将会是一个普遍富裕的,崇尚创造和自由的,特别把人当“人”的,人人如龙的世界!

 

话题:



0

推荐

唐涯

唐涯

780篇文章 3小时前更新

博士、金融学者,香帅数字经济工作室创始人,香帅的金融江湖公众号主理人,香帅的北大金融学课主理人,年度财富报告主理人,曾任北京大学金融学教授、博士生导师。

文章