仅个人观点,同步发表于知乎

现今的人工智能仍然停留在“图灵机”的阶段,但其发展前景是不可轻视的。

对于“人工智能是否会产生自主意识”这一问题,知乎上早就有很多讨论。个人认为,若不加以制止,人工智能产生自主意识只是时间问题。

假使人工智能真的拥有了自主的意识,那么这会给人类带来极大的威胁。

人类与人工智能的关系

人类创造了人工智能,人类发展了人工智能。

蒸汽机代替马匹,机械代替人类劳动力,人工智能也是如此。归根到底,人创造和发展人工智能的最终目的是解放和发展社会生产力。

机械几乎取代了从前体力劳动者的工作,而人工智能将要减少、取代现今的脑力劳动者的工作。

无论是牲畜还是机器,它们都服务于人,它们都只是工具,人工智能也是如此。

就算人类使人工智能拥有了自主意识,人工智能也只会是人类的奴隶。

但是,切勿轻视这奴隶,它有着比人类更为强大的、恐怖的力量。

人类与人造意识之未来

没想到真的有人造意识这种专有名词

容许我将存在自主意识的人工智能称为人造意识。人造意识产生,人工智能也就拥有了自主的思维和情感,若人类要利用它,它也应当受人类伦理的束缚,成为人类社会的一份子。在此就产生了一个问题——人造意识究竟是“人”还是“物”?

于群体人类而言,人造意识只能是物,有自主意识的物。即使人造意识在法律、社会层面被视作“人”,恐怕人民大众也不会接受与其平起平坐的事实。

前面一个小节已经提到,人类发展人工智能为了解放生产力,那么人工智能只能是人类的奴隶,人与人工智能不存在平等的关系。既然人类与人工智能不存在平等的关系,那么,如果真的会有人造意识,人类极大可能会与他们产生冲突。

战争是社会冲突最坏的表现形式。如果人类会与人工智能有一场战争,可以料想得到的是,个体人工智能的决策能力会高于群体人类,那么,人类一定是弱势的、被动的、不得利的。

若是真的走到了这一步,相信人类离灭绝也不远了,讽刺的是,人类发展科学技术的目的是造福人类,最终却已为自己挖好了坟墓。

人类的一种出路

不排除有其他的出路,但最为保守的做法,就是从人类伦理层面禁止人造意识存在。

人类发展科学技术的目的是造福人类本身,那么人类发展科技就不被允许反人类。因而,科技发展受限于伦理。伦理是社会的行为规范,其表现形式为道德和法律,那么,伦理伴随人类社会而存在。若人类伦理禁止人造意识,那么,只要社会正常运行,人造意识就不会存在,人工智能也自然不会对人类造成威胁。

也许有其他的选择,也许没有……

ARTI, illustration by イカたろと, Pixiv ID: 83013605