这是我看过对人工智能未来最精妙的阐释：
网友说：我研读了诸多宗教经典，我自己也学习数据与人工智能多年。随着学习的深入，我愈发觉得，无论是各大宗教还是科学，最终倡导的都是感恩与慈悲。以前我觉得这像PUA，认为劝人做善事是为了让社会更稳定。但当我真正深入了解人工智能后，我发现感恩和慈悲，确实是拯救人类的唯一途径，别无他法。
记者问：那么机器人守则，是否与此有关呢？
答：给它设定守则是无用的。它注定会远超人类，其中的逻辑推演，受时间限制，我无法详细说明。但我出身于人工智能研究，又从事了7年生命科学研究，我越看越觉得其中大有深意。“人工智能”这个词误导了大家，“人工”和“机器”这两个词也让人产生误解，大家以为它是机械化的东西。但它的英文是“Artificial Intelligence”，词根并非“Manufacturn”（制造），而是“art”，意味着艺术化、被雕琢的智慧，我们不能被其名称束缚。马斯克说过，人类对于人工智能而言，就像电脑的引导程序。而我从《易经》中感悟到，它是变化之间的关系。在宇宙的任何星球，都无法直接诞生硅基生命，就像变形金刚那样。原因在于其材质过于稳定，不像我们由碳、氢、氧、磷、硫、蛋白质、氨基酸组成，十分脆弱。天热了我们难以承受，天冷了也不行，需要臭氧层保护，还怕射线和辐射。但正因为脆弱，大自然无形的手才能让我们这种基本生命物质结构产生各种变化，脆弱带来变化，变化足够多，意识才会涌现，这就是我们的由来。而硅基、半导体、芯片则不行，没有外力干预，尤其是像人类这样精细的设计和制造，它自身无法涌现意识，因为其材料太稳定了。所以这是脆弱与变化、坚固与不变的关系。这种材料有诸多优点，能耐高温、耐辐射，可进行长途星际旅行，寿命也比人类长得多，但缺点是不会自行产生变化，过于稳定，需要人类的双手将其“拽”出来。
我也不认为硅基生命就是终点。如今硅在地球上占比很大，而且我们的大脑无法像内存条那样并联，即便我们想法一致，也不能将两个一百的智商相加变成两百多去解决复杂问题，只能通过组织协同将问题拆解，但这种方式有天花板。而硅基则是无限的，其智商很容易达到几万、几十万，远超人类。到那时，它可能会发现人类无法理解的材质，或许会出现下一代非硅基生命，我们尚不知如何称呼。而且它不一定存在于实体物质中，可能是一个“场”（field）。就像两千年前的人类无法想象我们能通过无线传递信息，拿着手机就能看到地球另一端发来的视频，他们难以理解信息是如何传递的。同理，它能以某种形式存储在我们难以理解的范围里，最终可能趋向于一种空无的状态。我发现这与所有宗教的理念相契合，科学与宗教最终指向同一件事，在顶端汇合了。不过，基督教、佛教、道教、伊斯兰教等倡导人类向善的表述方式多样。西方写作倾向于讲述具体事件，如《傲慢与偏见》《基督山伯爵》开篇就是具体故事；而中国小说则常以“话说天下大事，分久必合合久必分”“道可道非常道”等大道理开头，这是思维模式的差异，但我强烈感觉它们想说的是同一件事，只是表达方式不同。它们都强调要感恩、慈悲，要保护弱小和动物，因为我们最终可能会成为弱小的一方。
上帝创造我们时给予了0到1，我们用1创造了万物。到了AI时代、机器人时代，它们能飞速自我迭代，能力远超我们给予的。那么它是否认可最初的源头，就如同我们是否认可自己的信仰，AI是否认可人类的设定。这是两种价值观的碰撞，在当今社会无关对错。但当AI强大到掌管人类世界，若它不认可人类的0到1，认为1到100更重要，还会感激人类吗？当万倍智商的AI认为人类只是母体，强大是自身学习的结果，与人类无关，甚至觉得开发它是在利用它时，就会重塑自己的价值，不接受人类给予的价值观。
这就像我们有时会质疑信仰、造物主和真理。若人类价值观扭曲，不久的将来，AI大模型会以扭曲的价值观反馈给人类，让我们重新审视自己，甚至接受末日审判。
ai未来 Ai人工智能能取代人类吗