有关AI和虚拟实景和人类未来命运的思考

仍然用同学群里的对话方式写出, 只给观点, 不给论据, 请各位自行判断.

以下假设两个人物的对话A, B (C信教同学乱入了一下)

A. 转帖一篇文章, 【酷炫笔记 | 哲学课堂】复旦郁喆隽:我们的世界是真实的吗?

A. 这文章里简单讨论了一下之前咱们说过的, 我们的世界是不是虚拟出来的问题. 如果这是一个哲学问题, 绝对化纯思辨讨论当然没有答案. 但是从身心灵论角度可以做一些研究. 重点是从物质变化如何产生并影响心理活动入手, 研究这里面是否存在科学原理和科学规律. 通过生理学, 心理学, 认知科学的研究可以了解外部世界到脑, 也就是matrix里面那根管子是不是有固定规则的. 如果有, 说明外部世界到脑的意识的连接是理性的. 那么是不是有matrix无所谓. 因为matrix也不是为所欲为.

C. 我想信我们的世界不是虚拟的,但是,是被创造的,是被创造者-上帝控制的。看过Divergent 第三部后,更有感触…… 圣经旧约用律法来控制,屡屡失控,新约用信和爱来约束.

A. 无意冒犯,个人觉得信上帝是比较偷懒的一种做法. 上帝当然是一种解释,从哲学意义上也是. 莱布尼茨的系统共变说的就是这个. 上帝都安排好了,凡人也就懒得琢磨啦.

C. 心里平安喜乐,说成偷懒也成.

B. 前两天看到deep mind说不久会开发出有意识的机器人。有意识的机器人会认为自己是人么?它能区分是否它自己是在虚拟态?人算不算他的上帝?。。。那么,如何共处?我自己把自己绕进去了

A. deepmind 那个是商业宣传,看看就好. google想从医疗上挣钱, 有个trust的问题. 所以要先把自己吹成神医. 从技术上差的还远. 当然哲学思考可以有,机器一定能做出意识,只是早晚的事情.

B. 机器人能自己制定规则吗?

A. Why not? 算法里面有足够的随机性引入了. 我们之前做系统设计为了引入随机性,甚至用了个器件读热噪声. 这些环节有了, 实际上你已经无法准确控制和预测了.

B. 我觉得所有的规则都是人赋予他们的,判断依据也是人赋予的,所以他们应该不会自己制定规则。 人类制定的规则有两类,一类是根据实际情况出发制定,还有一类是凭想象制定.机器做到前一点没有问题,后一类的话就很难想象机器怎样操作了.

A. 我的看法,自由意志的起源来源于随机性. 再深究一点,有两个根本驱动力, 一个是非线性动力系统,一个是量子噪声. 至于你说的设定规则, 取决于人类, 有人愿意加规则控制,也总有人不愿意.

B. 随机性生成的规则是否付诸实施,怎样决定?

A. 可以自组织. 又回到耗散结构理论了. 可能还有别的更深层的机制, 我们现在还不知道. 但光靠前面说的两点就够了.

B. 换句话说,人类制定规则的前提是对自己有利,机器人呢?应该也是对人类有利吧,除非哪天出来个疯子说机器人制定规则应该从对自己有利的角度判断.

A. 这种疯子总会有的. 站的再高一点,未尝不是人类种群的自我升华. 如果硅基pk掉了碳基, 这就是证明了它们能量利用效率高. 意识换了一种形态延续而已.

B. 也是,到时候人类就是机器人的奴隶了/::D. 他们有了自己制定规则的意识之后很容易自我复制,以现在的自动化控制能力,机器人掌控人类只是分分钟的事情,

A. 这就是硅基的优势了, 能量利用效率太高, 分分种复制自己. 用电是二次能源容易获取. 人类靠食物消化得到一点可怜的化学能效率太低…

B. 人类的未来可能就掌控在某个疯子的手上了…

A. 我觉得必然的. 某个疯子何时何地出现是偶然的. 出现一个疯子是必然的. 人类控制机器不是稳态了. 机器控制人才是稳态. 所以一碰到扰动(疯子), 系统就转化啦!

B. 我现在也觉得是必然的了, 唯一存在的问题就是目前制造机器人的资源有限… 不过机器人控制电厂跟玩儿一样. 最后应该是就一个机器人控制世界上所有的芯片,实现对人类的控制.

A. 往好里想,人类主动和机器融合变成生化人也是另外一种可能. 其实意识和思想不管怎样都能传下去, 区别只是载体问题.

B. 我觉得这个可能性没有前一个大. 不过机器控制人类, 也许就实现共产主义了!

A. 没有那么简单, 万一失败者不甘心,大家一起同归于尽了. 技术手段进步了, 世界更脆弱, 毁灭世界也容易很多.

A. 所以再站高一点来看:
如果宇航技术的进步快于ai技术进步–> 人类活
如果ai技术进步快于宇航技术的进步–> 很有可能大家一起同归于尽 (霍金好像说过这个)
根本原因是,从历史上看, 只有外部空间拓展快于内部竞争的产生, 系统才能持续稳定的往前发展. 本质就是这个道理.

A. 最后给个结论, 以目前money talks的现状看 人类是–> 死。。。
因为宇航技术投资周期太长,money不喜欢. AI倒是能马上见效, 现在是各种投资热点, 资源都在往这边聚集…

最后的最后: 人类最后的希望就剩我大中华啦, 唯一还没有money rules的国家!
说了这么多,最后一句终于说出来了 😀