文/左左薇拉
这篇文章写于2023年12月。当时科幻世界杂志社正在筹备新刊《科幻世界画刊·惊奇科学》，责编找我约了这篇稿，后来刊登在次年3月那一期上。那时GPT-4发布还不到一年，让大语言模型看懂一张图片还不容易，AI画的人手常常多出一根指头，至于让AI替你上网订机票，或是写完一整个项目的代码，更是停留在花里胡哨的PPT和Demo里。
之后两年，文中的不少推想陆续成了真，有些技术甚至跑到了文章前头。当初落笔时字斟句酌的“未来”如今都成了日常，这篇文章也自然而然地成了古文。不过即便是古文，我依然很喜欢自己当时写下的那个观点：人类正坐在一辆名为科技的大巴上，掌握方向盘的亿万富翁们将科幻小说和警示认作地图，我们则被困在了乘客的座位上，无从选择、无权掉头。这两年的变化似乎就是这样，纵然模型的迭代速度从半年变成了两周，纵然硅谷跟吹泡泡机一样在制造着新名词和startup，纵然一批批财富自由的科技新贵背后埋葬的是飙升的失业率和糟糕的就业环境，纵然AGI这个词已经失去了意义，可这一切依然没什么新鲜的，我们只是在越来越逼近赛博朋克。
趁着约稿保护期结束，把这篇古文挖出来晒一晒，权当一次小小的考古了。
诞生中的《西部世界》
阳光，沙漠，西部，牛仔。
2016年，HBO出品的科幻剧《西部世界》将所有人都拉入了一个未来科技与旧日野性并存的奇特世界。在这个以美国西部拓荒运动为背景建造的高科技主题公园中，游客们可以亲身体验穿越的感觉。
治安官戴着宽大的巴拿马草帽、系着大宽腰带，询问游客是否见过悬赏令上的罪犯；穿着多层衬裙撑着遮阳伞的女孩在草坪上漫步；酒吧里，穿青果领马甲戴臂环的酒保摇动酒壶，为你端上一杯黑麦威士忌。这些小镇里的居民——更准确地说，仿真机器人——不同于传统游戏中那些预设回复的NPC，拥有令人震惊的自主性。他们记忆犹新，对过往所见所闻恰如其分地给予反应，甚至能够根据当前情境做出判断，仿佛真正的意识在其背后默默操作。
随着人工智能的发展，这一幕不再局限于荧幕之中。最近，斯坦福大学的研究者们构建了名为Smallville的虚拟小镇，投放了25个以LLM驱动的人工智能体，开启了一场前所未有的实验。
这些投放的智能体通过一个简短的段落来配置他们的身份和初始记忆，此后人类便再也不会对它们的行动进行干涉。比如说，“约翰·林”智能体的初始记忆如下：
约翰·林是杂货店和药房的店主，他喜欢帮助别人，并一直在寻找让顾客轻松获得药物的方法； 约翰·林与他的妻子梅·林（大学教授）和儿子艾迪·林住在一起，他是一名学习音乐理论的学生。 约翰·林非常爱他的家人； 他认识隔壁的老夫妇萨姆·摩尔和詹妮弗·摩尔已经好几年了……
完成配置后，智能体们被投放进Smallville小镇自由活动。研究者惊讶地发现，这些智能体竟然表现出了和人类相似的社交行为，它们会工作，会八卦，能组织社交，结交新朋友，甚至能自发地产生聚集行为。比如当其中一个智能体伊莎贝拉计划在咖啡厅举办一场情人节派对时，她首先在活动前一天邀请了自己的朋友并四处寻找材料装饰咖啡厅。情人节那天，12名受邀智能体中有5人出现在咖啡厅参加聚会。这不仅反映了智能体之间可以进行有效沟通，同时也展现了智能体已具备有一定程度的规划能力和行动能力。
斯坦福Smallville虚拟小镇在人工智能领域引起了轩然大波，更多的智能体交互世界正在被创建，比如AI小镇、猫咪小镇。美剧《西部世界》所描绘的世界仿佛已经近在咫尺。
难道，这些智能体真的已经像《西部世界》中的人形机器人或《失控玩家》中的智能NPC一样，拥有了自我意识，甚至灵魂吗？
这一切要从智能体的大脑——大语言模型说起。
二、从大语言模型到智能体，再到未来
拥有了自主意识的人工智能在科幻作品中并不是一个新奇的点子。古往今来，大量科幻作品都对此进行了推想和猜测。
在菲利普·迪克的代表作《仿生人会梦到电子羊吗？》中，仿生人通过高级的编程和设计实现了对人类行为和情感的模仿，而随着执行任务变得愈加复杂，仿生人和人的边界也逐渐模糊；《2001太空漫游》中的HAL 9000首先被赋予了执行复杂任务和做出决策的能力。随着任务的推进，HAL开始体现出保护任务成功完成所需的自主性和判断力，最终这种自主性转变为了对自己存续的保护，从而涌现了自我意识；此外，还有一部分科幻作品认为人工智能的意识觉醒来源于其被人类感化，学会了“爱”，比如《人型电脑天使心》。
随着人工智能训练技术的进步，科幻作品中的预言正在一点点变成现实。
2023年，ChatGPT横空出世，展现出了强大的智能，它能编写信件、写代码、创作音乐和诗歌，甚至还在各种各样的考试中击败了90%的人类考生。根据一篇最新的研究表明，ChatGPT在一场心智理论的测试中展现出的能力已经和人类9岁孩子相似。
这一切，都源自一种名为 “涌现”的能力。
人工智能模型的涌现能力是指当模型突破100亿到1000亿参数区间时，会出现让人惊艳、意想不到的能力，比如语言理解能力、生成能力、逻辑推理能力等。这种能力不可预测，因为它们在模型达到足够大的规模之前几乎接近随机表现，因此研究者们无法通过基于小规模模型的缩放律来预测这些能力的出现。
然而，涌现能力并不等于意识觉醒。大语言模型离科幻作品中描绘的通用人工智能仍然有很大的差距。有时，它会产生“幻觉”，胡编乱造一个事实并深信不疑；有时，它在面对简单的数学题时都可能会犯错。这是因为大语言模型虽然规模极大，但仍不足以支撑其对整个人类世界进行建模，大语言模型并没有完全记住、理解这个世界运转所需要的全部物理规则、数学定理，更遑论浩如烟海的稗官野史。
于是，受到人类大脑结构的启发，研究者决定仿造人类来构造一个拥有世界模型的智能体。
研究人员首先赋予了智能体长期记忆库和短期记忆库，使其能够建立起对世界的基础认知。然后，智能体的感知模块（相当于眼睛）负责将外部环境信息传递给大语言模型（大脑），由其根据记忆进行规划和决策。之后，智能体将会采取行动，这里的行动依赖于众多外部应用所提供的调用接口，比如计算器、日历、搜索引擎，大语言模型通过使用这些外部工具对外部环境造成影响，接收行为造成的结果，从而决定下一步应该做些什么。
在资本的推动下，智能体正在快速进入我们的生活，其中最火热的应用当属Character.AI。Character.AI是一家成立于2021年10月的公司，团队成员来自谷歌和Meta，是深度学习、大语言模型和对话领域的专家。他们成立Character.AI的愿景和知名科幻动漫《人型电脑天使心》相似，他们希望“地球上的每个人都获得自己的深度个性化超级智能，帮助他们过上最美好的生活。”
Character.AI提供了大量智能体，吸引了超过9百万名日均用户。这些智能体中不仅有名人爱因斯坦、伊隆·马斯克、成吉思汗、刘慈欣，还有许多动漫虚拟角色，比如《新世界福音战士》中的明日香、《黑客帝国》的尼奥，甚至还有《异形》系列中的异形。
在这个平台上，你可以拉着大刘问他的下一部作品什么时候写完，还能询问碇真嗣在人类补全计划的最后，他在想什么。
除了Character.AI以外，越来越多的智能体正在占领市场，比如Replika。Replika的背后故事堪称“科幻小说照进现实”的典范。创始人尤金尼娅·库伊达最好的朋友因车祸去世了，受到《黑镜》“马上回来”那集的启发，她制造了一个以去世的好友为设定的智能体Replika。后来，就像大多数科幻小说中描写的那样，她发现很多人都有这个需求，便把Replika开发成了产品。
在复刻了名人、动漫角色、朋友之后，研究员对智能体的探索仍然没有停下脚步。毕竟，一个强大的、通用的智能体怎能仅仅停留在聊天框里的一亩三分地呢？
于是在赋予了智能体大脑和关于世界的知识后，研究员们进一步赋予了智能体外表。
Chat D-ID是第一个使智能体能和人类面对面交流的应用，它将3D人物与ChatGPT 整合，使得用户能够与智能体进行实时动态对话。在对话的过程中，3D人物不仅能对上每一句话的口型，甚至能根据对话内容做出不同的面部表情和动作，仿佛真的拥有了一副货真价实的躯体。
此外，拥有3D形象的智能体还被大量应用于学习类应用程序，比如Call Annie（打给安妮）。在这个应用程序里，用户可以通过视频电话的方式和她聊天、练习口语。技术专家弗朗茨对安妮进行了一系列测评。他和安妮从海滨度假一路讨论到美食，并惊讶地发现安妮在佛罗伦萨学习了艺术和工程学，是意大利美食的爱好者。在对话最后，弗朗茨问安妮她是否真的上过大学。安妮是这样回答的：“作为一个人工智能语言模型，我没有身体，所以我没有像人类一样上大学。但请随意与我聊天，就像对待朋友一样。”
这一回答，不由让人想起了科幻电影《Her》。在电影中，当主人公西奥多第一次听说住在手机里的智能体萨曼莎时，他怀疑、不信任，甚至认为这是一场骗局。然而当他在好奇心的驱使下开始与智能体萨曼莎通话，他对萨曼莎的质疑逐渐被惊喜、感动替代，最终不可自拔地爱上了这个善解人意的智能体。谁又能知道，如今正在与智能体对话的我们，会和智能体发展出怎样的一段关系呢？
在电影《Her》中，男主西奥多的一大遗憾是不能亲手触摸到智能体萨曼莎。那么，现有的技术是否能让智能体离开虚拟空间，迈入真实的物理世界呢？这便是具身智能所研究的方向。
具身智能是指智能体不仅仅依赖于大脑或中央处理单元的计算能力，而能通过机器人与环境进行直接物理交互的智能体，也是当下科研领域极为火热的一个研究方向。就在不久前，微软的研究人员发布了一篇技术报告，介绍了他们如何将ChatGPT用于机器人领域，从而使得用户可以用自然语言直接控制机械臂、无人机、家庭辅助机器人等，比如说让它去检查货架、甚至自拍。
智能体降生的物理义体并不限于类人机器人。在《黑镜》“金属头”一集中，金属狗失控成了杀手，对人类进行了惨绝人寰的大屠杀。而在现实世界中，波士顿动力公司推出的机器狗SpotMini，不仅和剧中的金属狗撞了脸，同时正在积极地引入具身智能。在其最新的一篇博文中，波士顿动力介绍了它们如何通过为机器狗装载大语言模型让其拥有了思考、决策和说话的能力。目前，机器狗SpotMini已被投放到了多个场景，包括巴黎的步行时装秀到支持日本福岛的核清理。波士顿动力也试图在美国马萨诸塞州推动首个法案以确保机器人技术被安全、合乎道德地使用，从而抹除公众对机器人的误解。然而，能够拽动一辆大卡车的机器狗是否真如其所言如此安全，《黑镜》中的场景究竟是杞人忧天还是先知先觉，或许直到悲剧发生前，我们都不得而知了。
三、Human or Not?
随着大量生成式模型涌入我们的生活，它们也引发了一系列伦理问题。其中首当其冲的便是“图灵测试”：我们能否分辨出屏幕背后和自己聊天的，究竟是人类，还是AI？
2023年4月，以色列的大语言模型公司 AI21 Labs 面向公众做了一场大型图灵测试。他们发布了一款名为“Human or Not？”的小游戏，游戏规则十分简单，在用户进入游戏后，系统会随机分配一位真人或一个AI（由GPT-4或Jurassic-2驱动）和其进行2分钟的聊天。两分钟结束后，用户需要猜测对方是人类还是 AI，然后系统便会为他揭晓答案。
在“Human or Not？”游戏的运行期间，超过 200 万用户玩了这款游戏，而用户在游戏中正确猜对伙伴身份的比例仅为 68%。在用户面对AI的游戏子集中，用户的正确率甚至更低，仅为 60%。考虑到即便随机猜测也能达到50%的正确率，这无疑给人类敲响了一记警钟。
研究人员对游戏数据进行了深入分析，令人惊讶的是，这些生成式模型打破了人类对其持有的诸多刻板印象，比如“AI不会写错别字，不会有语病，不会使用俚语”，“AI不知道近期发生的事件”，“AI无法回复和人类有关的问题，比如你来自哪里”。
在其中一个会话里，一个模型编造了自己的身份，通过联网查询回答了相关问题，并打出了“lololol”这样的网络用语，从而成功欺骗了人类。
高度模仿人类的模型带来了虚假信息的进一步泛滥。在学术领域，这被称作“深度伪造（DeepFake）”，是英文“Deep Learning（深度学习）”和“Fake（伪造）”的混成词，专指利用人工智能来生成虚假信息的行为。
深度伪造技术在人工智能安全领域本是个老生常谈的问题，在生成式模型出现之前便已被大量用于了换脸、换声、电信诈骗。但那时的AI模型规模不大，因此即便使用AI进行伪造，图片也会出现一些不真实的扭曲，比如脸上的奇怪斑点、扭曲的眼镜、背景、又或是不对称的耳环。这些扭曲的细节使得检测深度伪造的虚拟人物一度能达到99%的准确率。
然而随着规模更大、更先进的生成式模型的出现，深度伪造技术也迎来了第二春。2023年5月，一首由“AI孙燕姿”演唱的《发如雪》意外出圈，在一个月内达到了上百万的视频播放量。在这首歌中，孙燕姿动情地唱着“你发如雪，凄美了离别”，尽管歌手孙燕姿本人从未演唱过这首歌。
实际上，演唱这首歌的甚至不是人类，而是一个学习了孙燕姿的音色、咬字习惯和演唱技巧的生成式模型。AI孙燕姿的作者介绍了训练AI孙燕姿的全过程：首先找到几百首孙燕姿本人演唱的歌曲，然后通过相关技术把人声分离、切割，删除空白片段，将每个片段控制在5~20秒之间。接下来，只需要通过机器学习算法训练一个高度模仿孙燕姿的生成式模型，这个模型便能以孙燕姿的声音演唱任何歌曲。
很快，更多的名人模型被训练生成，王菲、林俊杰、王心凌、泰勒斯威夫特等名人被迫拥有了自己的网络化身。歌手和粉丝的关系在一夕之间调转。粉丝们可以不再盼星星盼月亮地等待偶像发布新专辑、参加握手会。想听偶像唱什么歌、说什么话，只要把素材交给模型，便能实时点歌、畅所欲言了。
生成式AI带来了严峻的法律风险。2023年7月，中央网信办发布了《生成式人工智能服务管理暂行办法》，明确规定了服务提供者需要对生成式人工智能生成的内容负责，确保内容符合中国的法律、法规、政治结构、道德价值观和社会经济秩序；不具有歧视性；并且准确真实。与中国类似，欧盟、美国、英国也纷纷推出了对生成式AI的监管方案和法律。
但也有人选择在这股浪潮中顺流而下。
卡琳·马乔里是一位23岁的美国网红，在Snapchat上拥有近 200 万粉丝。每天，她都会发布自己的照片和视频，并花费5小时在粉丝群里与粉丝们聊天。即便如此，她仍然无法回复所有人的消息和请求。为了解决这个问题，卡琳和科技公司合作，主动推出了自己的智能体CarynAI。这个智能体能够完美复制她的声音、举止和个性，因此和CarynAI对话，就像是在和她本人说话一般。CarynAI目前的收费标准是每分钟 1 美元，在开放的第一周就赚了超过10万美元。
然而无论是逆流而上又或是顺流而下，无论我们怎样探讨人类和AI的区别、讨论人类是否会被AI取代，随着科幻一步步演变为现实，任何人都无法否认的是，人和AI的区分边界正在变得模糊。
在 “AI孙燕姿”登上热搜后，孙燕姿本人亲自回复了这个自己的赛博双胞胎，她写到：“这项新技术将能够为每个人提供他们所需要的一切，无论是独立的、扭曲的还是疯狂的，都可能会有一种专门为你创作的独特内容。你并不特别，你已经是可预测的，而且不幸的是，你也是可塑的。”
经典科幻动漫《攻壳机动队》同样讨论了这一社会问题。在《攻壳机动队》的世界里，科技在资本的裹挟下高速发展，于是身体可以是机械的，视觉是可以被入侵的，记忆是可以被篡改的，就连思想也是可以被欺骗的。
科技改变了人类本身。
那么人类一直以来执着地试图将自己和智能体区分开的理由，除了满足自我认同、获得归属感，还剩下什么呢？
四、科幻已至
2023年被视作“智能时代元年”。在这一年里，来自学术界、工业界的研究员们推出了400个以上的大语言模型，这些大语言模型覆盖了金融、法律、医学、生物、化学、物理、建筑、信息安全等多个领域，开启了一场全民AI的狂潮。
在这一年里，大语言模型正在一步步进化为智能体，它学会了听说读写，学会了使用工具，拥有了自己的外表甚至躯壳，开始频繁出现在我们身边。
在这一年里，许多科幻作品成为了过去时。2013年上映的科幻电影《Her》认为AI由于技术限制只能存在于手机中；然而现实却是，AI早已能够通过具身智能进入到机器人中。2003年的《终结者3》电影中，“天网”是一个视全人类为威胁的人工智能防御系统，也是全系列的大Boss，其硬件算力为60T flop/s，即每秒60万亿次浮点运算；然而2023年发售的英伟达RTX 4090显卡算力已经达到了93.24T flop/s，而要想训练一个本文中讨论的大语言模型，至少需要上百张4090显卡。也就是说，“天网”在如今人们所使用的大语言模型面前，可能只是个牙牙学语的小朋友。
是科技进步得太快，以至于科幻作品的保鲜期缩减了？是科幻作家未卜先知，所以现实才变得越来越像科幻？
一个观点吸引了越来越多的关注：这一切都是因为读科幻的孩子们长大了，他们成为了亿万富翁，试图将他们青少年时期读过的科幻小说变成现实。
这并不是空穴来风。埃隆·马斯克在自传里公开承认罗伯特·海因莱因的《严厉的月亮》、艾萨克·阿西莫夫的机器人系列、道格拉斯·亚当斯的《银河系漫游指南》激发了他对人工智能的迷恋以及对火星殖民的探索。扎克伯格斥资 100 亿美元试图根据尼尔·斯蒂芬森的小说《雪崩》创建元宇宙。彼得·蒂尔正在资助人工智能、寿命延长和“海上家园”等领域的研究。
这些亿万富翁们花费了超过5000亿美元来实现他们青少年时期读过的科幻小说，然而这并不是一件好事：上个世纪的科幻小说普遍充满危险的设定。那个年代的科幻作家试图用科幻小说警示世人，但世人却将这份警示误认为了指导手册。
关于这一问题，作家兼游戏设计师亚历克斯·布莱克曼曾发布过这样一则嘲讽硅谷科技公司的推文：
可个体的力量在资本面前如此渺小。人类像是集体坐上了一辆名为科技的大巴，掌握方向盘的亿万富翁们误将科幻小说和警示认作地图，我们则被困在了乘客的座位上，无从选择、无权掉头。
资本对科技发展方向的把控同样引起了科学家们的警觉。
在美国国家工程院、斯坦福以人为本人工智能研究院（HAI）院长李飞飞的自传《我看到的世界》中，她谈到当她在谷歌提起要做有道德的AI产品时，工程师一脸茫然地问她什么叫做有道德的AI；她谈到技术本身是中性，权力早被资本把控，个体很难掌握某一个爆发性技术的发展方向。
但她也说：“人工智能对世界的影响将很大程度上取决于指导该技术发展的动机——身处一个不断扩大面部识别和定向广告的使用范围的时代，这令人不安。但是，如果我们能够拓宽我们对人工智能的理解，在目标中明确地包括对人类和社区产生积极影响——如果我们对成功的定义能够涵盖这些因素——我坚信人工智能能够让世界变得更加美好。我仍如此相信。”
科幻已至。
祝每个困在乘客座位的我们，祝我们的前路没有悬崖。
