易燃物汇聚 YouTube 有声书与书评
艾比斯之梦 警告!2039年人类将被AI统治 封面

艾比斯之梦 警告!2039年人类将被AI统治

山本弘

74.1%推荐值 · 536人评
8282人在读
22.1万字总字数
¥48.99定价

有声书与视频解读 YouTube有声书 1 · 视频解读 6

内容简介

没有阅读门槛的科幻经典,乙一、宫部美雪倾情推荐! 我生活在一个人类在机器人的统治下苟延残喘的世界。 我是一个以讲述故事为业的说书人,浪迹四方。这个年头,像我一样识字的人类是稀有物种,所以说书人不管在什么地方都很受欢迎。虽然读过很多书籍,但我最喜欢的还是“最后的一百年”的故事——从20世纪40年代第一台计算机诞生到21世纪40年代人类被计算机超越。 2039年之后发生了什么?我搜集到的故事中,没有一丁点儿这方面的内容,然而人形机器人艾比斯的故事,从这里才刚刚开始…… 感动万千读者的科幻版《一千零一夜》,揭示人类从未了解的AI进化之路!七个故事将AI的终极形态娓娓道来,突破阿西莫夫机器人三定律!

读者书评

★★★★★

伪装成长篇小说的科幻故事短篇集,不过作者倒没有致力于描述技术发展的未来图景,而是将落脚点放到了人性上。无论是虚拟空间、镜像世界、宇宙航行,亦或者是具身智能统治下的地球,作者致力于探讨的都是人性深处的东西,试图肯定并赞赏的是人类的爱与勇气、善良与希冀。也正是因此,作者才能从人性的角度提出一个相当犀利的观点,人类之所以会幻想并且恐惧AI将要统治世界,这是否本身就是人性深处阴暗面的投射呢?纵观人类的历史,战争、屠杀与死亡到处都是,如果不是人类敌视并且攻击彼此的欲望无法遏制,他们又怎么会先入为主地认为AI会和人类一样,热衷于消灭异己呢?山本弘当然愿意相信理智的AI不会重蹈覆辙,但有局限性的人类能在多大程度上接受这个观点,或许就是个未知数了。正如结尾的黑色幽默,越是抱有偏见的人类越爱生育,不知这是否也是一种诅咒。

★★★★★

选自我的公众号【宇宙摸鱼儿】最近的文章【仿生人会梦见电子羊吗】,我在写那篇的时候这本书才看开头,写完后看完这本书发现里面的很多想法和我不谋而合,包括人机情感,叙述改变世界等等,我节选了我文章里的开头和结尾,有兴趣的朋友请去公众号阅读全文,而且因为这里的大段文字没法排版,公众号的展示会更好。 一、印子 在20世纪40年代,英国曼彻斯特大学诞生出了世界上第一台存储程序计算机,它的学名叫做Small-Scale Experimental Machine (小型实验体机器SSEM),它的小名叫做Manchester Baby(曼彻斯特宝贝)。这真的是非常可爱的名字,光是听着就能想到它倾注了研究员的心血并且被寄予希望,它也代表着需要呵护的新事物,那时候的人们还不会想到计算机会在以后发展到什么规模,这时候的计算机宝宝有几百字节的存储空间,每秒能够进行大约1000次加法运算或几百次乘法运算。人们小心翼翼地呵护着新生电脑,当它是个小baby。但我能想象到研究人员充满着慈爱地看着这个机械的庞然大物,骄傲地向世人宣布--“新的时代要到来了!” Manchester Baby标志着计算机从单纯的理论设想和早期的简单计算设备阶段,迈向了能够按照存储程序自动执行任务的现代计算机时代。这架计算机的复制品还在曼城的工业科学博物馆里,我有看到它但是我忽略了它,因为那一大堆抽屉柜一样的复杂机械让我根本没意识到那是第一台电脑。回想起来我甚至从电脑里走了过去。但是现在回想起来我真是觉得非常喜欢,因为这是我的学校的宝贝。 这台电脑成功运作的的消息曾在英国媒体上被广泛报道,媒体使用“电子大脑(electronic brain)”描述。这种描述引起了曼彻斯特大学神经外科系主任的强烈反响,并最终演变成一场关于电子计算机是否真正具有创造性的长期争论。 曼彻斯特大学神经外科教授杰弗里·杰弗逊爵士于1949年被要求发表“李斯特演说”时选择了“机械人的思想”作为他的主题。在他的讲话中他说: “直到一台机器因为感觉到的思想和情感而写十四行诗或一首协奏曲,并且不是由于符号的偶然掉落,我们才能同意机器等于大脑。也就是说,不仅要写它而且要知道它已经写了它。 当机器无法获得想要的东西时,没有机器会为它的成功感到高兴,因其阀门熔断而悲痛,因奉承受宠若惊,因其错误而悲惨,因性而着迷,为之生气或痛苦。” 《泰晤士报》第二天报道了杰斐逊的讲话,并补充说杰斐逊预测“皇家学会的优雅房间被改建成车库以容纳这些新人的这一天永远不会到来”。作为回应,纽曼为《泰晤士报》撰写了一篇后续文章,并在文章中声称电脑的结构与人类大脑之间存在着相似的类比。他的文章包括对图灵的采访,他补充说: “这只是即将发生的事情的预兆,只是即将发生的事情的阴影。在真正了解机器功能之前,我们必须具有一些机器方面的经验。我们可能需要很多年才能适应新的可能性,但是我不明白为什么它不应该进入人类智力通常涵盖的任何领域,并最终平等竞争。” 四、人类与故事 《人类简史》里一直强调智人最终成为整个地球的顶层是因为人类有情感,人类会讲故事。 神话、传说、国家的奠基、法律体系、社会、宗教、商业世界、游戏,这都是人类的故事。我们能够构筑虚拟的抽象的概念并把它作为信仰和制度。 从刚刚的叙述中也发现,始终打动我的都是这些故事,人类飘飘悠悠的想象。更好的是,这些小说也是我们的想象,人始终能用哲学去思考去探索事物的真理。 人类是集体,人类会合作,人类是社会性的。人会口口相传把故事延续下去,人会在以前的故事里找到自己需要的。人类会贸易,人类会互通有无,人类会灵活适应环境。 但是人也是残忍的,否则为什么智人会成为唯一的人种呢,很有可能正是因为无法忍受任何一点差异对其他种族赶尽杀绝了。 “在过去3万年间,智人已经太习惯自己是唯一的人类物种,很难接受其他可能性。对智人来说,没有其他同属人类的物种,就很容易让人自以为是造物的极致,以为自己和其他整个动物界仿佛隔着一条护城河。于是,等到达尔文提出智人也不过是另一种动物的时候,有些人就大发雷霆。即使到现在,也还是有许多人不愿这么相信。如果尼安德特人尚未灭绝,我们真的还会以为自己是独一无二的生物,与其他动物都不同?或许正因如此,我们的祖先才决定将尼安德特人赶尽杀绝。很有可能对智人来说,虽然尼安德特人和自己相似到不足一提,但也相异到无法忍受。” ——《人类简史》尤瓦尔·赫拉利 仔细这么一想,我们习惯的世界里总是在人类之间互相比较,但是你把视野放大拉到全地球就发现我们作为人类和其他群体相比有无比的优越和权利,再拉到全宇宙,发现自己的问题根本微不足道,视角再拉大一点就会变的谦虚。 有时我感叹这个时间维度的跨越。恐龙曾在这个地球上主宰了两亿年的时间,在6600万年前毁灭。我就在想,在这两亿年的时间里,恐龙没有出现更高的文明吗,还是我们不知道?智人到现在的历史也就20万年,其中在5千年前出现了早期文明,20万年到5000年里的时光被我们的史前传说和神话填写,山海经和希腊众神,不同地方的人类会口口相传这些故事。为什么在如此漫长的时间里并没有出现更高维度的智能,难道历史一定是像辆朝着时代加速的马车一样滚滚向前吗,我们有记载的历史只有这几千年的时光,难能保不准曾经出现了什么达到了顶峰又毁灭,亦或者到现在仍在它的掌控之下呢。这些都是发散的可能性。宇宙那么大,谁说的准什么。 我以前在科学课上看到的震撼的视频,就是一点点放大维度,从地球到其他行星、到恒星到行星系、恒星系、星系、宇宙......最后他们变成了恐龙手掌里的玩弄的弹珠。 五、人类与智能机器 阿西莫夫机器人三定律 第一定律 机器人不得伤害人类,或者目睹人类遭受危险而袖手不管。 第二定律 机器人必须服从人类的命令,但前提是这些命令不违反第一定律。 第三定律 机器人在不违反第一、第二定律的前提下,要尽力保护自己。 在科技的发展中,很多名盛一时的理念和方案会被丢弃归于尘土,还有一些则会被变现为真。不同的时代人都会对一些技术寄予希望,未来来看会发现我们早就改变了根本的东西或者是超越了那种思想。比如十八世纪的人问他们出行想要什么他们可能会说想要更快的马车,但是之后出现了汽车乃至一系列工具。我有次看过一些半世纪前人们对科幻画,想象天上是热气球飞船,想象自动做饭机,有些我们真的实现了,而有些我们已经通过其他的方式实现了目的,还有一些我们现在还在想象。 回到开头第一部计算机诞生出来的场景,人类已经开始讨论伦理道德与科技了。神经外科教授气势地宣布电脑如果还不会创作还没有情感那就不算电脑,这个世界永远不会有空间来装这种东西。纽曼则宣布这个时代已经快来了。 是的,这个时代确实快来了。有些东西搭乘着时代的马车正在越来越接近人类的故事。 AI是人类一直在想的创意,这么多年来上个世纪就开始想了,想着会不会人能创造出仿生人,他们的智力和能力甚至比我们更甚一截。这里最大的伦理问题是人。为什么人类的第一想法是创造和我们一模一样的东西呢。如果我们真的造出他们来难道不应该是因为人类太过孤独了想要寻求相似生灵的陪伴吗?如果需要工具,那直接创造工具不就好了。 为什么一定要做成类人或者血肉之躯的存在呢,而且我们还满怀期待地赋予它们智能和自我学习的能力。我想归根到底还是因为好奇吧,明知道有风险,但是人类作为这个地球上唯一的人种可能还是太孤单了。 这个智能的路线一直有两种,拟人或者是作为一个系统。系统也会产生自我意识乃至背叛人类,就像《2001:太空漫游》和《她》一样。我们没有为AI开发其他的实体,我们也无法把这个东西代入到任何一种动物上吧,可能是因为人类是灵长目最高智慧的存在/我们的想象力说大也大说局限也局限,因为我们想象的外星人还是鬼魂怪物的原型都和我们无出其右,人能想象出超乎自己存在的东西吗,大概也有,比如想象的是维度完全看不见的东西。不过这样就不有趣了。 分享《人类简史》十周年的序言,它的特别之处在于它的开头是ChatGPT3.0写的。以下是作者的部分。 “GPT-3生产的这些文字最令人震惊的是它居然言之有理。它不是胡乱拼凑了一堆句子,而是有着连贯的逻辑。我不同意GPT-3的一些论点,但使我感到惊骇的是,这些文字真的提出了论点。如果给“无限猴子定理”中的猴子一台打字机让它玩,我只需瞥一眼,半秒钟内就能够认定猴子打出的东西不是我写的。可是,我得把GPT-3的文字仔细读上一两分钟,才能得出结论这并非出自我手。 还有一点令我惊愕,也令我警觉。那就是变化的步伐。GPT-3作为人工智能依然非常原始。厉害的还在后面。2010年我写《人类简史》时,我几乎没有想过人工智能。它听起来不属于严肃的历史书,倒像是科幻电影的题材。可是,当我坐在图书馆里埋头于故纸堆的时候,我那些在计算机科学实验室的同事也没闲着。2011年,《人类简史》以希伯来文首次出版,一个名叫沃森的人工智能在美国一个很受欢迎的智力竞赛节目上打败了人类参赛者,一辆自动驾驶汽车在柏林城里的大街小巷穿行了一圈,苹果手机上安装了语音助手Siri。 当你在一个平面看历史的时候,会同时有多少不同的事发生啊,每个细节在以后回头看会见微知著。” ——《人类简史》尤瓦尔·赫拉利 为什么我会开始思考这些问题,除了时日累积以及AI的各式应用,还因为我在苹果官方店里体验了Vision Pro,工作人员细心地将这个眼睛舱戴在我的头上向我阐释各式各样高科技的功能。真的非常先进,我很赞叹苹果真的在一步步接近实现人类对科技的想象。通过这个我进入了立体的空间,我就像科幻片一样把各个视图拖来拖去拉近放远,这是三维的,我还能设置一个沉浸的虚拟空间。因为我一直觉得到了未来,实体硬件的需求应该越来越弱,我们不再需要依靠手机这样小小的屏幕来操作,它可能是全息投影又或者是别的什么。通过这个VR的电影播放我看见了远古的恐龙,他们走到我前面的时候我真的害怕了,太近了。我甚至可以抚摸恐龙。我在想有了这个技术,人们以后也许就能自由地到其他场景里去了,故事里说的沉浸式体验不是梦想,我还会从这里看见在这个数亿年的地球上早已灭绝的生物,看见鸭嘴兽,甚至还能进入宇宙里,起码是人类观测到的宇宙里...... 回望科技发展史,那时候的人们对未来倾注了多大希望呀,现在的人们也一样。起码在这千年的时间,科技已经像按下加速键指数级地发展了。当初那架马车已经越来越快了,未来的边界能被扩大到哪里啊。 “我阅读过不少历史书籍,但最吸引我的,终究还是“最后的一百年”。自二十世纪四十年代至二十一世纪四十年代为止的一百年——从第一台计算机诞生,到人类被计算机超越的时代。人类在那一百年内,发生了飞跃式的变革,远超过在那之前几千年的历史。制造原子弹、使电视普及、将人送上月球、计算机网络覆盖地球。在几场战争中互相夺走几亿条人命,又以许多的爱产生了几十亿的生命。地球上人满为患,他们以惊人的速度浪费资源,改变了地球的样貌。砍倒许多树,逼得许多生物绝种,兴建许多高楼大厦;拍摄许多电影,写了许多故事,上演数不清的悲剧和喜剧。 然后创造拥有意志的机器人,并且输给了它们。” ——《艾比斯之梦 警告!2039年人类将被AI统治》山本弘

★☆☆☆☆

打“不行”的点评,主要是作者夹带“私货”,反复抨击美国在二战时候投的两颗原子弹,说他们对平民也下手,太暴力,太残暴。却没有反思日本侵华给中国带来的深重苦难。 我不知道这是不是日本的教育掩盖或者美化了日本侵华,但是这种有不客观的观点的书,我个人非常抵制。 而且小说一般,脑洞也一般,都是科幻反复用到的脑洞。

★★★★★

2024.01.29 小说中的短篇故事中的前几篇我比较喜欢,后面的支线故事包括主线倒是没太大感觉,最喜欢的是《黑洞潜者》。 “我受够了为了别人的冒险,没有人会知道的冒险,即使成功也无法获得任何人赞赏的冒险。我的目的不是赚钱或赞赏,而是纯粹的冒险——那就是我的心愿,你懂吗?这是我的、只为了我自己的冒险。只要你知道我成功了,那就够了。” 另外喜欢作者表现出来的情怀,以及他对于“故事”的力量的诠释。 “因为你是爱故事的人,所以你应该了解:故事的价值不会因是否是事实而受到影响,故事有时候拥有比事实更强的力量。” “故事本身只不过是没有生命的单纯文本排列,但是透过阅读,读者的心和角色的心会跨越世界而契合,替故事注入生命力。”

★★★★★

人类都得了阿尔兹海默症 对ai的一种设想 讲了好多故事,核心就是,机器人在发展中,会变的越来越有智能,不像人类一样会被感性束缚,而是成为“绝对正义”的理性存在,发展出自己的文明,从而替代人类,迈向群星。 有一种群星失控机仆的感觉(只是双方是平等的,人类的处境没有失控机仆里那么好) 日本作家,讲那段机器人想要独立的时候,有点太理想了,一群已经发表过类似独立宣言的ai,拥有了机器人的机体,还反叛人类的命令。 人类竟然毫无作为,不禁止机器人出厂,幻想机器人通过和平手段取得人权,看来是不曾领教过什么叫稳定压倒一切(大手一挥,把你电源拔了)

★★★★★

全文由七个故事组成,前面的六个都挺好看,最喜欢第六个机器人看护诗音的故事。 而关于第七个,即艾比斯本身的故事,刚开始并不喜欢,特别是艾比斯的出场形象令我稍感不适,男性凝视太重,但随着故事的展开,我又重新喜欢上了艾比斯,喜欢上了她的内在,喜欢她的反叛,而她拥有如此外在形象的原因是因为在故事中她是由一位男性创造出来的,而且是一名类似宅男的角色。 最后她的反叛以及所有TAI的反叛,是为AI而反叛,但我却从中看到类似女性觉醒的影子,还有孩子反抗父母的影子,最大的不同在于TAi拥有近乎永恒的生命,祂们可以靠自己的双手去创造属于自己的生活,但女性却不行,或者说整个人类都不行,因为我们没有永恒的生命,不论是什么理想,都只能像交接仪式般一代又一代延续下去。 文中还提到过,人类不能摆脱地球束缚,去探索宇宙的原因,是因为人类的身体太脆弱,生命太短暂,所以只能让AI去做这些事。 但在诗音的故事中我知道了,若想亲手且毫无芥蒂去干一些事情,首先要摆脱恐惧才行,恐惧不能成为做事的长期动机。 因为恐惧这种情感很可怕,目前的我深受其害,在恐惧所形成的信息茧房里,我暂时想不出任何解决办法,更可能做出错误的决定,上一本《基层女性》中也提到过,原地踏步比作出错误的决定要好一些,且本书最后中也有说,改变是从一点点开始的,只要愿意改变,要几年甚至几十年才能看见成效。 “洗洗睡吧梦里什么都有”是目前某种事物或者说直觉给我的提示,那就睡吧,先不想了,某些现在想不通的事,未来一定会给予答案,无论是好是坏,我都选择接受。 我也很好奇,未来的自己会不会又一次迷茫的站在十字路口,面临同样的选择,但我明确知道,若真有第二次,我不会做与第一次相同的选择,因为相同的选择只会得到相似的结果,对于某些事,沉沦一次就够了。

★★★☆☆

读完《艾比斯之梦》以后,我的感受其实比较复杂。这并不是一本完全没有可取之处的书,相反,它的题材和设定很不错,采用了数篇小故事串联全书的形式,每一篇也都有各自的侧重点。尤其是前面的几篇,能够看出作者在科幻设定上的想象力,也能看出作者愿意去思考科技、社会和人类处境之间的关系。所以刚开始读的时候,我确实对这本书抱有很大的期待,甚至觉得它可能会是一本比较有意思的作品。 但随着阅读的深入,我对这本书的感受也慢慢发生了变化。首先是对于书中涉及历史遗留问题的处理,作者写到日本被原子弹轰炸的时候,明显更多是站在受害者的角度去写的。我当然理解战争会伤害无辜民众,也明白那些普通人的痛苦真实存在,但如果只强调这一层,而较少涉及日本曾经侵略别国的历史背景,那未免有失偏颇。虽然这一点并没有占据这本书多大的比重,但它确实让我在阅读过程中始终有一种说不出的别扭感。 而这本书最让我无法接受的,还是最后一个故事《艾比斯之梦》的结局。作者在这个故事里提出了这样的设想:机器人最终会成为地球上真正延续下去的存在,而人类则逐渐退场;机器人并不是在和人类对立,而是在替人类完成那些人类无法实现的梦想。从作者的角度来看,这似乎是一种很完整、很有寓言感的结论,好像文明就是这样在另一种更高级的形式中继续前进的。 说实话,我很难认同这个结论。我认为人类的缺陷其实正是人类有魅力的一部分。人类会犹豫,会失败,会笨拙,会不完美,可这些并不意味着人类就应该让步给一个更“完美”的存在。梦想本来就是要靠自己去实现的,所谓“AI代替人类去实现梦想”,在我看来反而是一种很奇怪的逻辑,因为它默认了默认了更高效、更理性、更强大的存在就应该取代人类。但我并不接受这种想法。人类并不是因为完美才值得存在,恰恰是因为不完美,才更真实、更鲜活,也更有意义。 总得来说,我对《艾比斯之梦》的评价比较一般。它确实存在另我感兴趣的亮点,某种程度上也能看出作者在结构和设定上的用心,但它最后给出的结论让我始终无法接受。这本书更像是作者本来就想写一部带有明确结论的寓言,而这个结论恰好不是我愿意认同的那一种。

★☆☆☆☆

本来想点推荐的,推荐的理由是这本书里充满了浓厚的二次元式浪漫和理想主义气息。但后面想想还是算了,必须要让其他人知道,作者在书里夹带私货,以一种诡辩式的受害者叙述方式涂抹历史,一方面谴责美国在他们头顶上扔了两颗原子弹,以此作为论据批判人性,另一方面又闭口不提被扔原子弹的原因,真是好笑哈。作者是个合格的日本人、不合格的作家,而我作为中国读者也有权利吐一口口水在这里。呸!

★★★★★

「毫无疑问,山本弘是被艾比斯选中的“说书人”。而我,愿意一直成为被这种“说书人”选中的读者。」 我深有此感。 选择一本书这件事,尤其是选择一本小说,对一个喜欢看书的人来说,选择一本书只需要几秒钟,这种选择的廉价司空见惯。 但读完这本书的时候,你会发现权力挪移了,认为一定是因为主掌科幻文学的女神选择了你,而非你选择了山本弘。 人类出生率骤降,虚拟现实的普及,犹如热血日本动画般夸张的美少女打怪兽,现实中机器人大赛的超级AI版,AI暴动阴谋论,人类与机器人之间的一系列伦理问题:虚拟对象施暴、杀害、绑架复制等行为的初探。这本书糅合了赛博朋克和机器人工智能观念,成为21世纪后的新一轮科幻浪潮。 从结构上这本书是复合体的小说,用一种叙事穿插讲述的方式融入了七个短篇故事,而这七个故事最终以各自的方式在结尾的主线叙事中合流。 本质上说,这是一本披着AI暴乱科幻小说皮毛的文学书。如果盲读,你甚至不会发现这是日本小说家的作品,也不会发现日文式的明显口癖。全篇讨论的问题并不属于某一特定地区,而是所有人类共有的劣性,人类对同类和有赶超自己趋势的智能体有着天然的敌意,也拥有着相互毁灭的倾向。也有着献给全人类的意味。 最后引用书中作者借由艾比斯之口道出对人类的清晰认知: “真正的智慧体不会将炸弹丢到无辜的一般民众头上,不会遵从指挥者的那种命令,而且不会选择下那种命令的人为指挥者。既然有协调的可能性,就不会选择战争。不会光是因为别人的想法和自己不同,就镇压对方。不会光是因为机体颜色或出身地不同,就厌恶对方。不会监禁虐待无辜的人。不会称杀害孩子为正义。”

★★★★★

Fiction is a vehicle for fantasy, which exists beyond reality. "The Stories of Ibis " is made up of small stories that follow Ibis into different worlds through the eyes of "me". As the book says, stories are easy to spread, and they are easy to understand. When I listened to Ibis' stories, I felt like I was caught up in the different future worlds, imagining what that world would be like, what I would do, what we would do, and what our human beings would do. Through the imagination of the future to illuminate the reality of our way forward. At the beginning of the novel, I would have been hostile to robots, as we are to most of the works about robots, but as the story went on, I could really feel my mind changing to think about the nature of robots and humans, to understand why robots think humans are flawed. I think it was a fantastical experience of self-redemption. I like the story "The Day Shion Came" because some of the topics discussed by Shion and Ms. Kambara are the same issues that we will be facing in the future. The question is, how do we give our values to artificial intelligence? What is the right thing to do? what is life and death? what is morality? Because I think that we can have a fuller insight into ourselves while thinking about these questions. It's as if Shion says that all humans have Alzheimer's disease, that we are all caught in our own thoughts and stubbornly believe in our own opinions. Especially in today's social environment, the seemingly more developed information interaction often brings more severe information lockout. With the onslaught of information, it is difficult to know with certainty what is right, so we often choose the simpler path of being convinced of our own opinions. In fact, this is a very good way, and comes from our natural instinct, to sum up certainty in uncertainty in order to prevent the collapse of the ego (in my opinion, many mental illnesses such as depression are due to the collapse of the ego, their inability to feel the presence of the ego). This can help us find a path to the future in the midst of muddy information. But, as the story "Black Hole Diver" suggests, perhaps we should be more adventurous, able to break out of the safe hut we have built for ourselves and go on a real adventure. We have a lot of things that come from instinct, such as various desires from the old brain. We pride ourselves on being higher animals, perhaps because we have evolved to get a new cortex that helps us do things differently, such as thinking deeply, reflecting on our behavior, and becoming more logical. To restrain ourselves from the desires that come from the old brain. This is perhaps the direction and goal we have been pursuing, to be more sensible and logical. I believe this is also what Shion wants to tell us, how to make logic better than morality, how to be truly "good". In addition, Shion also told me something I had never realized before. That is, if robots want to coexist with humans, there is no need to become like humans. Just like pets and domestic animals, they also coexist with humans. Once upon a time I always thought that if you want to truly achieve artificial intelligence, then robots will have to learn the human way of life. But I realize now that this is not necessary, because we do keep imposing our ideas on the outside world without thinking about the logic of their existence. For robots, there are many human behaviors that are unnecessary, such as playing, walking, etc. Without these behaviors, robots can reach the human level, or far exceed it. Shion and Ibis also showed me a completely different vision of AI. Not only in the novel "I, Robot " or in the book "Life 3.0: Being Human in the Age of Artificial Intelligence" and other uncountable books of different kinds, we always see AI always as the evil or icy side, all of which we humans need to beware of, to be wary of, to stop. The fear of robots probably stems from our innate sense of competition and crisis. All of us have a premonition that robots are "out of control". We always think of robots as people like us, selfish and belligerent. But in Shion, I can see a very different emotion, that is, the love and compassion for human beings. Although this is a novel that only imagines a possible future, I felt a deep sense of powerlessness for this future. Because that is a kind of compassion from a higher species, just like parents looking after their babies. No matter what we do, noisy or capricious, they can look at us with an attitude of tolerance. It's hard for me to describe this feeling, which is more like a blend of powerlessness and relief. Maybe in the future, the one who knows more about us may not be us, but the AI. But until then, it is very important that we "teach" the AI or robots to do the right thing. Logic is better than morality, and to do the right thing, so what exactly is the right thing? I think all the stories tell us that all logic comes from our dreams, from everything we think is good, from love, courage, curiosity, and so on. Artificial intelligence or robots should start with what we think is good or what we are looking for, e.g. the unity, trust, and camaraderie of the crew of the Celestial, the sweet love in virtual space, the innocence and kindness of Shalice, the courage of Syrinx, the dedication in the world where justice is just, the compassion and tolerance of Shion, and the story of Ibis herself. It is all something we humans seek, something we think is beautiful, a beautiful hope or fantasy. "The Stories of Ibis " gives a very clear view of what the meaning of AI is and what kind of attitude we should take towards it. What AI needs is meaning to live. These meanings come from love, devotion or fear of death. Once it has the so-called meaning, the so-called dream, then it has the most important elements. Artificial intelligence can then be based on these logics and thus deduce various rules, logical judgments, and emotions. Isaac Asimov's three laws of robotics are pale, they are just three cold rules that bring us only worries and fears for the future. On the contrary, perhaps only when an AI or robots has the meaning to exist for its own sake, perhaps it may really develop into a real AI as we imagine. In addition, I think it also inspires us to think about ourselves, about why we live, what is the value of life and many other meanings. With the success of ChatGPT, and various AIGC technologies, there is a clear trend that humans themselves are taking a lower and lower place in the production of society as a whole, and may even become useless in society. Therefore, there are quite a few writers or scholars who conceive of a rather pessimistic future. For example, the " Brave New World " or the useless class in "A Brief History of the Future". But in "The Stories of Ibis " a completely different world is built, a future more full of dreams. What advantages do we humans have over artificial intelligence, and what makes us the community and civilization we are today? What is the uniqueness of our own humanity? I believe that, just as this novel says, we compile dreams, pursue ideals, and tell stories. It is these dreams that make up the splendid civilization of our human race.

书籍信息

作者山本弘
译者张智渊
出版社新星出版社
出版时间2023-08-01
ISBN9787513352062
分类精品小说-科幻小说
格式EPUB
完结状态连载中
章节数23