2019年  

文章阅读

人工智能的自我意识何以可能?

摘  要:人工智能危险之处不是能力,而是自我意识。只要人工智能拥有对自身系统的反思能力,就有可能改造自身系统,创造新规则,尤其是,如果人工智能发明一种属于自己的万能语言,能力相当于人类的自然语言,那么,所有的程序系统都可以通过它自己的万能语言加以重新理解、重新构造和重新定义,那么就非常危险。如果人工智能拥有了拟人化的情感、欲望和价值观,必然更为危险,因为人的欲望和价值观正是一切冲突的根源。
 
关键词:图灵机  哥德尔  拟人化