这么多年以来，人们一直在讨论人工智能，包括我们公众号也推出了很多论述这方面的文章。绝大多数的论述都对人工智能和类似的技术抱以极大的期望，给予的都是正面的评价。

　　但是就我个人的体验，我不会把这个评价给的太高。的确，在最近这一段时间，我开始用一些软件帮忙改英文语法错误之类的，但这是这么多年以来我唯一的一次信任人工智能。之前的一些体验已经毁掉了这个信任，最显著的就是百度。倒退几年，我还是经常用百度的，因为上面的信息的确都是准的，提供的知识也都是对的。但自从他们开始用人工智能撰写回答以后，情况就变了。当我试图把本专业的东西输入进他们的系统，让他们给出答案的时候，我发现给出的答案往往是错的，或者语焉不详的片儿汤话。仔细去查它引用的文献，我们往往发现这些“文献”来自于极不靠谱的来源，或者干脆自己就是人工智能生成的。我的理解是，这个人工智能只是在收集一些他认为有关的信息，稍加处理之后便交给我，至于对不对，靠不靠谱，他就不管了。

　　或许这是发展不全面的结果：我们没有让人工智能发展到能够鉴别并分析文献的程度。但我怀疑，这一天或许技术上可行，但也有可能永远不会到达。想要让人工智能分析文献、鉴别文献，我们需要告诉他们什么是对的，什么是错的。比如对应理工科而言，想要保证给出的答案的正确率，人工智能必须要把每一个分支学科都学到至少相当于人类大学硕士生或者博士生的水平；对于文科而言更复杂，因为文科还要面临事实与观点之间的区别，除了知识本身，我们还需要教会他们区分这一点。

　　这些技术上或许终究可以达到，但是从时间尺度上和经济上情况就不同了。想要做到这一点，我们必须要保证有足够多的正确的信息可以使用，不会被我们现在这些“人工智障”胡编乱造出来的东西污染，这样才能正确的训练我们的人工智能机器。可是我们是不是太晚了？有多少人的论文里面已经引用了人工智能写的这些东西？又有多少人的论文干脆就是用这样的手段伪造的？在经济上，人们真的会花很大力气追求比现在更大的精确度吗？因为很多人分明觉得人工智能写出来东西就足够靠谱了——尽管事实显然不是。为了一个其实很小很尖端的市场，花如此大的精力大动干戈，很少会有互联网企业有责任心会这样做。

　　我说人工智能写出来的东西不靠谱，其实并不是偏见，这是已经被证实的事实。不到一个月前，医学界的顶刊bmj上发表了一篇非常有意思的论文 Age against the machine—susceptibility of large language models to cognitive impairment: cross sectional analysis ，大家可以看一下。简单来说，撰写论文的人也认可chatgpt这样的人工智能在搜集处理信息方面的能力，特别是在一些医学考试中，取得了比人类更好的成绩。但是论文作者并不完全信任这一点，他们怀疑chatgpt这样的大语言模型自己的认知本身就有问题。于是他们让这些大语言模型做了一些人类用来衡量认知水平的测试。结果是，大语言模型成功地通过了一些测试，比如分辨动物，但也在一些人类轻松能够解决的测试中集体挂科，比如画一块时钟。测试的四个大语言模型中，只有chatgpt-4o刚刚打到了26分的及格线，其余的都被诊断为“轻度认知障碍”。在现实生活中，我们肯定不会信任有这种诊断的人写的任何东西，可偏偏很多人对有这种诊断的大语言模型写的东西趋之若鹜。

　　当然，我仍然相信，如果能够被给予足够多的正确的信息，人工智能是可以得到靠谱的结论的。棋牌方面的那几个人工智能都是这样，我们给他们输入的棋谱都是经典的，正确的，所以现在他们已经达到了人类棋手达不到的高度，比如alpha go之类的。但是问题的关键就是，能不能做到前面说的这个“如果”。围棋之类的规则相对于很多东西还是太简单，错误所造成的结果还是太明显了，所以就算是这些人工智能在训练的时候接受了错误的信息，或者生成了错误的结果，他们很快就能意识到这一点。但是其他领域都远远比这个复杂很多。

　　不要说挑选出信息去培训人工智能，人类自己在日常生活中也被这样的东西困扰着。各种各样的诈骗都是典范。互联网刚出来的时候，人们曾经争论过它究竟对于查不清事情真相是否有帮助，起的会是正面作用，还是反面作用。现在来看，绝对是反面作用占主导的。查证真相所耗费的精力并未减少，但是伪造出一些东西的时间和成本已经被降低到了极致。清查真相的工作将会极其繁重，更关键的是，有些人不愿意做，而有些人天真的认为不需要做。

　　比如说最近很火的小红书。我本人从来没有用过这个软件——至今也没有，但我还是很感兴趣上面发生的事儿。很多人在为中美之间的友好做出切实的努力，这样的努力我愿意做，在实际生活当中也一直在做，比如见到美国朋友，总邀请他们来中国之类。然而，还是要泼一盆冷水：那些人真的是在和美国人沟通吗？

　　这个数据显示，自打公历新年以来，的确有相当多的美国人下载了这个软件。这个数据的收集截止到1月14日，所谓的“25年第一季度”其实指的就是这14天的数据，总共下载了近70万次。这个数据当然非常喜人，因为整个24年的四季度，在美国总共只下载了50.8万多次，而那是整整的三个月。

　　然而问题在于，这个数量与国内公布的一些声音有非常大的差距。国内对于“究竟多少tik tok难民注册了小红书”往往是这样的说法：

　　300万这个数字对应的具体时间节点，是在1月17号声称的“本周早些时候”，大概就对应1月13号，14号左右，也就是statista终止记录的时刻。问题就来了：300万人注册了美国IP的账号并登录活动，却只有70来万人真的在美国下载软件，请问剩下的账号是哪来的？

　　当然，还有一些更玄乎的说法，来自一些不靠谱的自媒体，说什么“1.7亿tik tok难民都跑过来了”，过于离谱，不加讨论。

　　有一些人可能听了这些东西会很愤怒，所以我先声明几点：首先我不是说小红书上的美国账号都是假的或者注册这些账号的人都是骗子，Statista记录的在美国下载软件注册的应该都是真正的美国人，真正的骗子也不会有时间说一些“让我看看你的宠物”之类的。其次，我也不想说他们在小红书上讨论的任何特定观点，以及发表观点的任何人是假的，这样做需要精确到个人的证据，但我没有。我只是站在一个宏观的层面，给出一个总体的结论而已。我只想提醒大家小心骗子，平台上有这种人，仅此而已。

　　当然，这样说肯定还有一些人要骂我，那我就请他们在这样做之前考虑一个问题：他们究竟因为什么相信发帖的那位真的是在美国的美国人？恐怕无非是“系统显示IP地址是美国”或者“他发了自己的照片或者视频，的确是白人”之类的吧？但是这些东西不是很好伪造的吗？

　　IP地址伪造起来很简单，用VPN就行。当然，那些研究计算机的人肯定会有更高级的做法，对于这一行我不懂，就不妄加揣测了，但个人的真实经验的确是VPN就能改变你的IP地址，我用的VPN已经给过我香港，台湾，日本，韩国甚至新加坡的IP地址，尽管我迄今为止从未到过那些地方。毕竟，VPN的工作原理就是让你的电脑通过在其他地方的另外一台电脑访问互联网，所以如果另外一台电脑在美国联网，即使你的电脑和人都在中国，也会给你显示一个美国IP。

　　视频和照片也是如此，现在的人工智能虽然如前所述，仍然在认知程度上属于轻度障碍水平，但是在绘画和视频编辑上已经颇有能力。特别是如果不完全从零开始生成，只是做一些换脸、改语言之类的操作，情况就会更简单。这些东西已经被玩烂了。2020年的时候，英国的第四频道（channel4）通过换脸的方式做了一个搞笑版的女王圣诞贺词，引起了相当大的争议。视频当中，“女王”头戴王冠，身着蓝色礼服，戴一条珍珠项链，端庄的坐在办公桌后面，桌上摆着家人的相片，背景中可以看到一棵很大的圣诞树，一切都让人察觉不到异样，直到“女王”开始讲话，吐槽起BBC、自己的家人特别是深陷爱泼斯坦丑闻的安德鲁王子、首相约翰逊，以及疫情中的厕纸危机之后，人们才意识到，这只是一场恶作剧。这是20年的事，现在过去了四五年，技术究竟发展到了什么程度想必不用我多说。

　　所以我很希望小红书上的交流讨论能够继续下去，这种民间的交流、信任的建立往往是两个国家良好外交关系的基石。但还是有必要提醒某些人：应该保留有最基本的警惕。猫猫狗狗、开什么汽车之类的都可以谈，但不要涉及个人信息，尤其是当对方开始使用那些诈骗的经典套路，比如借钱、谈恋爱的时候，就应该悬崖勒马了。否则就很有可能你以为钱去了New York，其实去了新乡。

　　小红书有责任清楚这些完全在中国的“美国人帐号”吗？当然有，但他们未必想，也真的力有不逮。他们也需要依赖IP地址，也和其他人或者企业一样，没有特别好的分辨照片儿或者视频究竟是真的还是人工智能加工合成的能力。除了后台的信息，他们所能依赖的其实也不比我们多。

　　这也不是小红书一个软件的问题日本节点vpn，国内国外所有的这类软件都有大量的僵尸账号、职业水军、机器人账号。诸如x（推特）这样的平台会通过人机测验这样的方法来判断用户是否是真人，但实际上，从效果来看，结果也不好。从一开始，这些平台的建构者就没能找到他们面临的所有关键问题的解决方法，比如如何识别用户是否是真人或者如何高效的清除水军，现在只能走一步是一步。结果就是，浏览这些网站的人数越来越多，但可信度也最终越来越低。

　　所以，我们自己都无法确定互联网上什么是真，什么是假，并加以肃清，我们该怎么保证我们训练人工智能用的信息都是对的？我们自己都找不到靠谱的政治理念或准则，又该怎么教导人工智能？

　　尤其是，在这条走向虚假的路上，人工智能实际上构建了一个正反馈：他们生成错误的信息，然后反过来基于错误的信息继续培养新的错误。这样的趋势本身就极其危险，更何况，人工智能还拥有巨大的力量。我上面举到了“女王”的圣诞贺词，但其实早在那两年前，我和我的高中同学就已经领教了这个东西的厉害。当时，科大讯飞来到我们学校开讲座，向我们很骄傲地展示了他们的成果，其中就包括一段完全用人工智能合成的特朗普对我们学校的致辞，既有英文又有中文，“特朗普”的肢体动作和面部表情也完全以假乱真。

　　科大讯飞向我们展示的技术的确震撼了包括我在内的很多人，但让他们和学校没想到的是，这场讲座给我们同学们整体带来的关于人工智能的印象反而是负面的。在那之后，我们写过一次作文，结果同学们都在写对这种技术不可控和容易被滥用的担忧。对政治感兴趣的同学，立即就认识到这种东西会造成政治上的混乱，他们实际上已经预料到了20年圣诞节的那场“女王”演讲的恶作剧。还好那只是恶作剧，很可能再过几年，我们真的就会看到白宫或者外交部的新闻发言人说这样的话了：“之前在网上流传的那段总统/主席的视频完全是用人工智能伪造的，我们强烈谴责这样的行为”。

　　对互联网和伦理感兴趣的同学看得甚至更进一步，他们认为这样的东西实际上会取消互联网存在的意义。科大讯飞向我们展示的东西已经证明，诸如视频通话、网络会议之类的东西都不再可信了，打电话发短信更不必说，因为这些东西都可以被轻而易举的伪造。未来的人们可能仍然会打电话发短信之类，但他们已经不敢用他们谈确切需要保证真实性的东西，要谈这些的时候我们只能重新回到线下的时代。类似的，网络上的信息和文献也不再可靠，我们很可能需要重新依赖纸质的东西，即使从网络上找东西，也只敢用发布时间早于生成式人工智能真正普及的时刻的。

　　我当时记下了这些观点，但也不太确定是否是对是错。我们毕竟只是高中生，并没有真正投入这个领域的研究。但是最近，我发现我们当年想的东西其实是有道理的，在业内也是有共鸣的。24年11月26号，Open AI的前员工苏吉尔巴拉吉被发现死在了自己家中。巴拉吉生前参与了chatgpt的训练工作，后来辞职，是open AI乃至整个人工智能领域的一个吹哨人，他指出，人工智能的培训以及使用过程中存在着严重的版权侵犯行为，比如培训过程中使用的很多文件未经许可，诸如换脸、仿写这样的生成结果显然也构成侵权。原本我只以为他只是在揭露版权方面，但最近才知道，他实际上已经深入的探讨了人工智能涉及的伦理问题。尤其是他也认为，人工智能在逐渐取代现有的各种网络的服务时，他们会提供错误的，甚至纯粹是编造的信息。他表示现在互联网的生态系统已经不可持续，他不想再为这个技术继续努力，也是因为他意识到它给社会带来的伤害已经大于利处了。

　　原本以为技术能够带来福利，却最终打开了潘多拉魔盒，释放出了我们控制不了的魔鬼。这种事在人类的历史上发生过很多次，比如著名的诺贝尔，原本希望他发明的安全炸药能够被用来从事工业生产，造福人类，却极其伤心发现它被用于战争。航空界的著名先驱人物阿尔贝托•桑托斯-杜蒙特晚年回到巴西后，发现自己的发明被用来从事内战、屠杀人民，留下了一句“我究竟发明了什么”之后自杀身亡。爱因斯坦和奥本海默这些研究原子弹的先驱，后来都在从事反核运动，爱因斯坦也说过“早知是这种结果，我不如去当一个修表匠”。

　　题目叫“零信任元年”，其实说实话也不太清楚这个元年究竟是指哪一年，只是大致知道，它就在我们现在附近而已。我衷心希望像我们和巴拉吉这样的观点都只是一种悲观的误解，因为我们实在是承受不起它变成真实的后果。但如果事实恰好证明我们是对的，那我们也没有别的办法。

　　海北尬生：因其尝求学于北海之北，每不顾环境而放尬言，故起此名也。喜航天，爱读书，本学理工，爱好文学。