机器与人怎么当好“合伙人”

  [中国石化报2018-08-22]
  在2018世界机器人大会上，由机器人发展引发的人工智能伦理和法律话题成为议题之一。
  应当建立规范机器人及其使用行为的法律框架
  在国际人工智能界，不少人认为人工智能会对人类产生巨大威胁，呼吁不要开发“人工智能自主武器”，警惕人工智能的潜在风险。他们讨论的人工智能，通常指的是未来能自主进化、有类人意识的“强人工智能”，而当前应用的多是擅长单项任务、完成人类指令的“弱人工智能”。即便如此，人工智能的迅速发展带来的挑战已经逐渐显现。
  为保护隐私，人们发布照片或视频时，会打上马赛克覆盖人脸，但美国一个研究小组开发了一套机器学习算法，通过训练，神经网络可以识别图像或视频中隐藏的信息。
  时下，一些机器人应用到儿童和老人陪护中。中国社会科学院哲学研究所研究员段伟文认为，机器人与儿童对答、给老人喂饭等行为看似简单，长期相处可能使人类对机器倾注感情、产生依赖，有必要设置防止过度依赖机器人的原则。此外，无人驾驶汽车发生交通事故怎么界定责任，医疗外科手术机器人出现意外怎样处置……随着智能机器人深入参与人类生活，专家认为，如何建立规范机器人及其使用行为的法律框架，成为人工智能和机器人产业发展无法回避的重要问题。
  思考与智能机器的相处模式，控制不良影响
  “人工智能及其智能化自动系统的普遍应用，不仅仅是一场结果未知的科技创新，更可能是人类文明史上影响深远的社会伦理试验。”段伟文说。
  北京师范大学哲学学院教授田海平表示，机器深度学习和算法体系，使得智能体具有了一种准人格或拟主体的特性。当前，“阿尔法狗”、医疗机器人“沃森”和智能伴侣虚拟机器人微软“小冰”仍属于“弱人工智能”，离真正的智能主体还比较远。即便如此，它们也已经呈现改变人类形态的发展趋势。未来假若“强人工智能”出现并深度介入人类事务，那么，“我们必须提前思考人类如何与之相处的问题，控制它的不良影响”。
  近年来，国际人工智能界日益重视人工智能中的伦理与法律问题，并推动相关技术标准及社会规范的研讨和制定。2017年1月，一个国际学术会议制定并发布了人工智能23条伦理原则，其中包括，人工智能研究的目标应该建立有益的智能，而不是无向的智能；人工智能系统的设计和运作应符合人类尊严、权利、自由和文化多样性的理念等。电气和电子工程师协会（IEEE）也颁布了《人工智能设计的伦理准则》，试图从工程设计和生产的角度，提出人工智能的伦理标准。
  专家表示，人工智能伦理、法律涉及科学界、企业界、哲学、法学等多个领域，有必要成立应对人工智能发展的联盟组织，吸纳各方面的力量，共同推进相关研究。
  运用算法，将人类道德规范体系嵌入智能机器
  目前，人工智能界在探讨运用智能算法，将人类的价值观和道德规范体系嵌入智能机器。
  田海平说，把道德代码嵌入机器，是人工智能发展的必然趋势。缺少这一步，自动驾驶、无人机、助理机器人等智能体就不可能进入人类生活。机器在自主性上达到了人类高度后，它在做决策时，只有遵循道德算法，才能发展各种各样的功能。
  段伟文介绍，让机器符合人类道德规范，学界大体有3种设想：一是自上而下，即在智能体中预设一套伦理规范，如自动驾驶汽车应将撞车对他人造成的伤害降到最低；二是自下而上，即机器通过数据驱动，学习人类的伦理道德规范；三是人机交互，即让智能体用自然语言解释其决策，使人类能把握其复杂的逻辑并及时纠正可能存在的问题。
  尽管人工智能发展存在许多潜在问题，但更多人对技术应用的前景表示乐观。清华大学人工智能研究院院长、中科院院士张钹说，不管人工智能如何发展，基本理念应该不是用智能机器代替人，而是要协助人做好工作。人和机器各有优势，要互相了解才能实现人机协作，但人还是人机关系的主导者。如此，才可能将人工智能引向人机合作的发展道路。