你好，欢迎来到《得到精选》，我是李南南。
今天的内容来自卓克老师的《科技参考3》。我们主要回答一个问题，这就是 AI 对人类到底会不会产生威胁。当然了，在今年上半年因为 GPT 大火，这个问题已经被回答很多次了。但是之前的回答往往都有那么一点应激反应的味道，比如看到设计公司因为 AI 裁员，就赶紧搜集一下 AI 在设计这块对人类的替代性。
那当然了，这些研究不是没有意义，关键是它们还是不够系统。而卓克老师今天要做的，就是在 GPT 已经火了 10 个多月之后，回过头去系统地看一看它对于人类到底有没有威胁。那么这当中又会有哪些新发现？
来，咱们一起听听卓克老师怎么说。
你好，欢迎回到《科技参考》，我是卓克。
ChatGPT大火之后，AI威胁论掀起一波高潮，顶点是2023年3月29日的一封公开信，有1100多位业界大佬呼吁停止大型AI实验。参与签名的人包括特斯拉的马斯克、苹果的联合创始人沃兹尼亚克、人工智能教父级人物杰弗里·辛顿（Geoffrey Hinton）。
如今那场轰轰烈烈的签名抵制活动已经过去快一年了，他们真的抵制了吗？几乎没有，反而全都在大刀阔斧的购入更昂贵的硬件，做更大规模的训练。
一直保持警惕的好像只有《未来简史》的作者尤瓦尔·赫拉利。《未来简史》是一本2014年动笔的书，那时候不要说ChatGPT了，连AlphaGo战胜李世石都还要再过一年半才上演。但赫拉利已经在书里预测了AI对人类的威胁。
赫拉利的预测不但早，而且还准。他当年预测娱乐业的失业时提到，AI在音乐艺术和内容创作中发挥作用的同时，也会导致当前的从业者边缘化。
这一点在2023年5月2日应验了，美国编剧工会组织了罢工。这是全球几乎所有著名影视剧的编剧组成的团体，11000多位成员。罢工期间，所有编剧停下工作。这次罢工持续了148天，直到我写这篇内容时才刚刚结束。上一次罢工还是08年金融危机的时候，那次才罢工99天。每次罢工的诉求当然都是高度类似的：一，提高薪金水平；二，改善工作条件。但这次多了一条，就是禁止使用AI撰写文案，禁止把从前编剧们写的原始材料当作AI的训练材料。
人工智能的这次冲击对编剧行业是事关生死的。因为一些先锋的公司，比如Buzzfeed这个曾经以趣味测试、星座算卦为主业的公司也开始涉足短视频和影视剧领域，它和OpenAI合作后裁掉了180人，因为AI创作的内容成本低，效率高。还有像Insider这样的公司，已经在利用AI生成粗糙的剧本，公司原有编剧的工作性质已经从创作剧本降级成和AI一起优化剧本了。
更大的威胁在于，从前每次大罢工结束后，影视剧都会有大半年的空窗期，因为这么久的时间全行业编剧都没上班，他们也肯定不会偷偷在家写稿。但这次的空窗期不会很久，就在编剧们彻底歇业的时候，罢工造成的节目空档反而让AI编剧们以7×24小时的方式尝试了一把。在这波替代尝试中，不只是文案，连配音的工作也有了新的进展。一帮文艺范程序员试着把编剧和配音的活儿接了下来。如果这次罢工再晚发生两三年，估计人类编剧们就可以永久罢工下去了。
赫拉利提前9年下的判断还是挺准的，那么他在今年对AI潜在危害的判断会不会在十年后应验呢？我觉得，起码值得参考。
就在1100多位业界大佬呼吁停止大型AI实验后的一个多月，赫拉利在《前线》杂志组织的论坛上做了一个主题演讲，更新了一波AI威胁论。我觉得说的还挺有道理的。接下来，我顺着他的逻辑给大家梳理一下。
赫拉利的观点是：
对于AI威胁，人们总默认要有两个前提，一个是AI要发展出意识、感情，才能在精神世界对人类形成实质性威胁；另一个是AI要发展出可靠的移动能力、动作能力，才能在物理世界对人类形成实质性威胁。
这两条多少受到科幻作品的影响。比如《黑客帝国》就是一个典型的AI在精神世界对人类构成的威胁，那个叫做“矩阵”的机器靠人类提供能量，并可以依照机器自己产生的意识生成可以控制人类的虚拟世界。而像《终结者》这样的电影就是AI机器人速度、力量、协调能力远超过人类后对人类实施的统治和毁灭。
但赫拉利说，
AI要对人类构成足够的威胁，其实根本不需要满足这两条。在这两条尚未出现的时候，实质性的威胁已经足够大，危机比想象的来得更快更早。什么时候危机就会降临呢？只要AI可以掌握语言，能生成真假难辨的内容就足够了。
当前的AI科技好像正在这条线的边缘。因为我们已经观察到，在精心打磨和训练后，或者在一定人工辅助优化后，AI是可以生成70-85分的音乐、插画、中短篇小说，甚至语音和视频的。
往近了说，人类对科技的恐惧满打满算是从《弗兰肯斯坦》这部科幻小说而起的，距离今天只有200年。弗兰肯斯坦是一个用多个死人外加生物技术拼接而成的活死人，因为外貌丑陋而被创造它的科学家遗弃。当这个怪物试图和人类建立情感联系时，又因为太过吓人而多次遭到拒绝。孤独和愤怒交织下，它决定复仇。
但是，人类有一个更加久远的恐惧，那就是困在虚幻中，不能触碰到真实世界。比如，佛教中讲六根六尘——眼、耳、鼻、舌、身、意，色、声、香、味、触、法。这些互动全都是暂时的幻觉，不能揭示真正的现实。佛教的终极目标就是帮信徒看穿幻觉，最终实现觉醒和解脱。文化领域的《美丽新世界》和其他反乌托邦小说也都在描述一个令人恐怖的由权力编织的假世界。所以，
当人们无法分辨真伪，无边的恐惧就降临了。而AI不需要展现出意识和情感，不需要能灵活运动，就可以做到这一点。
举例来说，写《科技参考》前几季时，我访问最多的网站就是谷歌。内容的主题确定下来后，就是围绕一个主题查细节了，查找中用得最频繁的就是谷歌。
比如，这篇文章前面提到的佛教中虚幻带来困扰的例子，现在就已经不用在谷歌里找了，我是在ChatGPT里查到的。
当时，我想找一个人类被虚幻笼罩而无法触碰真实世界的例子，但我只想到了《1984》和《美丽新世界》。没有ChatGPT的时候，我只能用各种词的组合去谷歌里搜，能找到佛教这么好的例子，不知道要找多久，也许20分钟，也许40分钟。这个过程里，访问谷歌的次数可能有几十次，我们按30次算好了。由于今天有了ChatGPT，我没有先查谷歌，而是先问的ChatGPT。我的问题是：几千年来，人们对困在幻觉世界的恐惧都有哪些著作？它一下子给我列出了6个：
1 柏拉图的洞穴寓言
2 东方玛雅矩阵
3 浪漫主义和超验主义
4 反乌托邦文学
5 黑客帝国电影
6 佛教“六根六尘”教诲
佛教的例子就在其中。这个简直太好了，因为它更具有文化代表性，覆盖更广泛的人群和历史。然后我再追问，六根六尘的说法具体怎么体现人对困在幻觉世界的恐惧呢？得到的答案就是刚刚我说到的内容。当然，我并不是直接复制粘贴，我在写进稿子前又用谷歌查了查，看看六根六尘教诲的内容是不是和ChatGPT给出的解释一致。仅就这一点，ChatGPT就为我省出至少20分钟。
所以，谷歌是非常有理由担忧人工智能的。在ChatGPT没有出现前，为了弄清这个问题，我至少要访问30次谷歌；ChatGPT出现后，我只用了两三次。
我之所以还用了两三次，是因为我要为大家做《科技参考》，我不能嫌麻烦。但还有更多不做《科技参考》的用户，他们从ChatGPT上获得了一个说得通的答案，这件事就终结了，不用核实了。
而“说得通”与“真”是两码事。假如你把一大堆说得通但是编造的内容当作真实去看待的话，你的世界就已经困在幻觉中了，恐惧已经降临了。
有人说，这还不好办？我核实一下不就完了吗？
其实我们之所以还能核实，是因为我们生在一个幸运的年代。这个年代里，由人类产生的内容总量远远超过由AI产生的内容，所以用谷歌搜索出的内容99.999%不是AI编造的。但AI是可以7×24小时无休止产出的，就算它每周有休息日，产量也是我们的成百上千万倍。假如随便在谷歌上一搜，搜出的结果有百分之二三十都是AI产生的，真到了那一天，核实的步骤也就没有意义了。
我听说李白有一首诗《夜泊牛渚怀古》，感叹遇不到知音。我在ChatGPT上一搜，出现了两首：
牛渚西江夜，青天无片云。
登舟望秋月，空忆谢将军。
牛渚西江夜静妖，
古渡无人舟自娆。
两首都有，哪个是真的呢？我就去谷歌上核实，结果第一页搜索结果还看到另外7个不同的版本。到底哪首是真李白写的呢？
有些人从字缝中看出，第一首才是真的，因为“望秋月”和“空忆谢将军”更贴近怀古，更像感伤。但你之所以能看得出来，是因为今天的ChatGPT对中文语料输出的水平还不够。等今后足够好的时候，只要不是信息考古专家，再聪明细致的人也分辨不出来。
生成式AI的这些改动并不是随机乱改，而是依据算法。算法可能是让输出更贴近人们经常使用的表达方式，也可能是依据统计规律中呈现的人们的审美偏好，也可能是依照某些禁令做的删改。
当唐诗无法确认真伪，经书无法确认真伪，我们难道就能确认社交媒体上点燃我们情绪的发言、打动我们的内容就是真的吗？今后很有可能出现的那些所谓微言大义的内容难道就是真的吗？
历史上，每个宗教几乎都声称他们的圣书、圣训是神留下的，不是人写的。以前这件事从没有成真过，但现在可能就要成真了，各种真假莫辨又说得通的内容由AI直接生成。
过去十年，社交媒体在争夺人们注意力上打成了一锅粥。现在随着AI的出现，争夺的焦点已经变成了情绪和信任，而且胜利者必将是AI。
而我们注意，赢得这场胜利的AI并不需要具备意志、情感、情绪，也不需要能跑会跳、控制武器，它们只要能精细的生成真假难辨的内容就足够了。而这种水平的AI，不需要等待太久就会出现。这就是尤瓦尔·赫拉利的担忧。
最后，尤瓦尔·赫拉利也给出了解决方法，方法非常明确：严格标注由AI生成的内容，减慢从实验到产品的尝试。慢下来后，就能看出更多潜伏的危机了，在危机成长成灾难前给予监管。
你觉得赫拉利的解决方案会起作用吗？欢迎在留言区写下你的想法。我是卓克，我们明天再见。
好，内容听完了。
在卓克老师的《科技参考3》里，还有很多前沿的科技话题，卓克老师会用一整年的时间带你看懂前沿科技里的进展、真相与机会。
同时，这门课现在还在早鸟价优惠期，此刻加入能够享受50元的早鸟优惠。优惠活动在10月30号晚上24点截止，现在在得到首页搜索“
科技
”两个字，就能看到《卓克·科技参考3》的订阅入口，推荐你现在加入。
好，以上就是今天的内容得到精选，明天见。
