李长亮：谨防新技术侵蚀人生控制权

人类进化史，其实是一部不断获取控制权的奋斗史。从物竞天择、优胜劣汰的自然法则中生存繁衍，我们学会观察自然规律，适应自然环境;学会采摘与种植，食物按既定节奏进行供应，基本生存条件得以保障;制作工具发展技术，延展体力与智力边界，进一步扩大改变自然与世界的范围;商贸和交易，构建社会沟通体系，催化了整个人类社会的关联能量。今天，我们掌握了这个世界的绝对控制权，构建了科技与文明的社会。

工业革命和科技进步，使经济跨数量级的飞跃增长，成为影响世界运转的巨大引擎。生产力不断提高，交流沟通成本不断降低，人们尽情享受日益便利的生活，一部智能手机，几乎可完成对工作和生活的所有操控。从历史演进角度看，我们对世界、对个人生活的控制，变得史无前例的强大。按这个趋势，未来这种控制会变得更极端。事实是否真如此呢？

目前科技的发展，特别是人工智能技术的突破，正在绑架我们让渡生活的控制权，日益压缩我们自由选择的空间。生活中，我们出行打车，出行公司要求我们必须同意共享我们的位置，否则无法提供服务。个人的位置信息，在这一刻，将不再只属于个人，而是与背后的大数据和人工智能系统共享，甚至它了解得比你更多，下一步要去哪里，什么时间到达，都了如指掌。比这更严重的是，目前个人数据很容易泄露，并且被恶意利用。

今天，在我们享受科技个性化服务同时，人类对自己的隐私保护和生活控制，都在历史性下降，只是这种下降，一者被其带来的便利所掩盖，二者人们并不在意这种下降，或者没有看到持续下降带来的潜在危害。当我们所有的一切都变成透明，所有决策看似是我们自主选择了一个便利的方式，但其实在更高意义上是被看不见的算法所引导和控制，人类会对自身的生命意义产生怀疑，对未来产生焦虑和恐慌，谁将主宰下一个世界，是人还是机器？

但是，在目前的技术条件下，让渡隐私和控制，是获取这些智能服务的先提条件。而法律框架，对这一块还不是很完善，毕竟人工智能和大数据是最近十年才快速突破、大规模应用到生产生活中，市场还在培育，社会认知还在建设中。

在未来，人工智能技术会替代人类完成生产生活中很多的环节，我们应该从很多重复可学习的技能工作中抽身而出，去做一些更具有创新性和审美的事情。而保护这种替代不伤害到人的自由和隐私，是我们的社会文明体系和安全技术应该携手解决的。一场足球赛，对球权的控制，不一定能带来最终的胜利，一个优秀的守门员，才能保证至少不败。

一个理想社会，除了科技发达，生产力十足，更应是细致和自由的。每个人的需求都被照顾到，每个人都有自主选择的权利，并且每种选择都应该能到达目的地。科技在以加速度前进，社会也在不断地学习和改进。有时候，两者不在同一速度上，可能会出现偏差带来滞后。但是从长远来看，我们有信心看到一个发达而精致的社会，这也是社会应该演进的方向。当然前提是我们应该学会与科技相处，同时配套成熟的体制。人与技术的边际关系，应该由技术决定上限，由社会文明决定下限。(作者是中国人工智能学会专家)