林治波：警惕人工智能的异化

从无人驾驶汽车到电脑棋手战胜人类顶尖选手，人们在震惊之余，开始议论：人工智能到底会发展到什么程度？

笔者认为，人工智能对人类的近期影响是大量取代简单、机械性重复劳动的岗位;中期影响是部分取代人类在脑力方面的机械性重复劳动;远期则难以预测，因为这在很大程度上取决于人类是否有节制地发展人工智能。

异化，是人类社会始终存在的规律性现象。比如，官员作为群众的服务者而存在，但久而久之一些服务者竟变成官老爷;后勤部门是为服务业务人员而设置的，但结果往往是后勤部门自身的地位高于业务人员，甚至会侵蚀业务人员的权益。

科技也是如此。且不说坏人掌握科技而导致的种种恶果，即便是好人运用科技也未必都是好结果，工业革命以来自然环境的大规模破坏、物种的加速灭绝、人类自身本能的退化、各种添加剂对人类健康的损害以及人类对电子游戏的沉迷等等，就是和科学技术的广泛应用密切相关的。问题不在技术本身，而在于人类的道德出了问题，以致把科技用错了方向。

人工智能是科学技术中最先进的部分，同时存在着造福与危害人类的可能性，关键在于实行怎样的生产关系：在进步的生产关系之下，先进科技的推广将普惠多数人;反之，则专惠于极少数大资本家。科技本身不能为自己确定方向，人类必须以进步的人文精神和社会制度规范并驾驭科技发展，才能让科技最大限度地有益于人类和自然。

现在的机器人，绝大部分只能从事简单的机械性劳动，即便是战胜人类顶尖围棋高手的“大师”，也只是能够替代人类脑力中的机械逻辑部分，并无能动的主观意志、思维能力和自我完善能力，更谈不上审美、道德与情感。

无论将来的人工智能能够进展到哪一步，其发展的限度应当是——人类能够控制它，而不是被它所控制。但做到这一点并不容易。因为，人性中的邪恶、侥幸、好奇，人与人、企业与企业、国家与国家之间的激烈竞争，很容易导致人工智能的研发犬牙交错，失去控制。

针对这种危险性，前不久，亚马逊、脸谱、谷歌、IBM 和微软等五家公司联合发起“AI 伙伴关系”，旨在通过成立联合组织来制定基本规则。希望更多政府、顶级科研机构以及联合国教科文组织也能在这方面发挥作用。(作者是人民日报甘肃分社社长兼兰州大学新闻与传播学院院长)