人类爱上人工智能怎么办？

近来，美国一家公司生产的超强建模机器人Sophia在电视节目上与人类对答如流，沦为“网红”机器人。对话中，Sophia流露出的喜乐、惊讶、反感等表情现实得令人惊叹，网友惊叹：慢和真人分不清了！技术往往是一把双刃剑。

人工智能在很快发展的同时，也带给了一些疑惑和挑战。人工智能不会产生自律意识和情感吗？不会会因此给人类社会带给冲击？法律争议假设无人车受伤了人，那么是开发者负责管理还是驾驶员公司负责管理关于人工智能带给的“伦理困境”，让很多专家深感纠葛。

尽管这样的场景在目前还只不存在于设想中：一辆装满乘客的无人驾驶汽车正在行经，遭遇一位孕妇横穿马路的突发状况，如果应急刹车可能会打滑伤到乘客，但不应急刹车可能会撞到到孕妇。这种情况下，无人车会怎么做？如果司机是人，那个瞬间几乎各不相同人的精神状态辨别，甚至是本能或直觉。

可当人工智能陷于人类“伦理困境”的极端情景时，其每一步都是通过算法原作好了的。“无人车依赖的是人工智能大脑，它目前不有可能做到远超过人类算法中所原作范围的不道德决策。”浙江大学计算机学院教授吴飞说道，将全国每年的交通事故数据“喂”给计算机，人工智能可以自学海量数据里说明了的各种不道德模式。非常简单来说，就是无人车会从以往案例数据库中挑选一个与当前情景较相近案例，然后根据所挑选案例来实行本次决策。

但遇上几乎陌生的情景，计算机不会怎么办？“无人车第一个自由选择依然是搜寻，即在‘大脑’中很快搜寻和当前场景相近度小于一定阈值的过往场景，构成与之对应的行事。如果计算机搜寻出来的场景相近度大于阈值，即去找将近相近场景，则算法可约束无人车随机自由选择一种方式处置。”吴飞说道。“程序员可通过代码来誓约无人车如何做到，但这种誓约一直要遵循广泛的社会伦理。

这个过程中，程序员要和伦理学家一起参予未尽，程序员要将合乎伦理的决策用代码的形式反映出来，输出到系统中。”吴飞指出。

无人车损害了人类，谁来负责管理呢？“当前人工智能仍未超过类人智能或超人智能水平，无法将人工智能作为行为主体对待。”浙江大学教授丰晓明说道，从技术看作，现在技术构建层次还很低，不道德体出了问题认同不能去找它的设计者。从哲学看作，彰显人工智能“主体”地位很荒谬。

“主体”概念有一系列限定版，譬如具备反省能力、主观判断能力以及情感和价值目标原作等。人工智能不是严苛意义上的“智能”。“人工智能展现出出来的智能以及对人类社会道德行为规范的掌控和遵循，是基于大数据自学结果的展现出，和人类主观意识有本质的有所不同。人工智能不是生物，可分不成行为主体，传统司法审判无法如出一辙到人工智能身上。

因此，人工智能不可以作为社会责任的承担者。”中国社科院社会学研究所副研究员赵联飞所持某种程度观点。“以无人车为事例，到底由人工智能开发者负责管理，还是无人驾驶公司负责管理甚至任何的第三方负责管理，或者这几者在何种情形下各自如何承担责任，应该在涉及人工智能的法律法规框架下通过制定商业合约展开誓约。

”赵联飞说道。情感根源人与人工智能经常出现类夫妻、父女等情感，将考问现代伦理规范科幻影迷一定会记得这几个片段：电影《机械姬》的结尾，机器人艾娃产生了自律意识，用刀杀死了自己的设计者；在电影《她》中，人类作家西奥多和化名为萨曼莎的人工智能操作系统产生了爱情。

只惜，西奥多找到萨曼莎同时与很多用户产生了爱情，二者所解读的爱情原本显然不是一其实。尽管科幻电影对人工智能的叙述偏向负面，但它也在一定程度上传达了人类的情绪和忧虑。现实中，人工智能不会享有自律意识，和人类不会产生情感吗？“这要各不相同如何界定‘产生’一词。人工智能的自主性，依然各不相同所自学的样板和过程。

正如阿尔法狗对每一步对局的自由选择就是指海量有可能棋局中自由选择一种走法一样，这种自律在终极意义上是一种受限的自律，它实质上各不相同所自学的那些内容。”在赵联飞显然，人工智能意识和情感的传达，是对人类意识和情感的“习得”，而会多达这个范围。

机器能无法远超过对人类的自学，主动产生意识和情感？吴飞指出，以目前的研究来看，这是遥不可及的。但有一种假设的、可可供探究的路径是，通过把人的大脑了解通透，就可以建一个像人的大脑一样的机器出来。“失望的是，我们对人的大脑如何产生意识和情感这些显然问题还理解过于。

”人工智能更加像人，人类对机器有了感情怎么办？“人类否不会与人工智能产生感情，将各不相同这种过程否给人类带给感觉。正如互联网发展早期的一句常用语所说——在互联网上，没有人告诉你是一条狗。这指出，当人类在不告诉交流者的身份时，只要对方需要给自己带给感觉，感情就有可能产生。

”赵联飞指出，这可能会对人类的恋情模式带给影响。比如说，未来，知识型的人工智能可以问人们需要想起的很多问题，从而造成个体自学方式、生活方式乃至社会化模式的变革。假如人与人工智能经常出现类夫妻、父女等情感，将考问现代伦理规范。

“如果社会主流意见指出这种关系合乎伦理，人们有可能偏向于以类似于夫妻、父女之间的伦理准则来调节二者之间的关系；但如果人们始终认为，人与人工智能之间的关系是人占到主导地位的‘游戏关系’，那么适当的伦理标准也就无从谈起。”赵联飞说道。

未雨绸缪专家建议完备人工智能技术规范和法律约束面临人工智能带给的种种冲击，专家指出，上世纪50年代美国科幻小说家阿西莫夫明确提出的机器人三大定律，2020-03-30 仍然有糅合意义。这三大定律是：机器人不得损害人，也不得闻人受到损害而袖手旁观；机器人不应遵从人的一切命令，但不得违背第一定律；机器人不应维护自身的安全性，但不得违背第一、第二定律。

“归根结底，人是智能不道德的总开关。”吴飞指出，人类几乎可以做未雨绸缪，应付人工智能有可能带给的威胁。“开发者应当一直把人工智能对社会负责管理的拒绝，放到技术变革的冲动之上。正如生物克隆技术，从明确提出克隆技术那一天开始，克隆的社会伦理问题就一直优先于克隆的技术问题。

”赵联飞指出，人类应当在研发人工智能的过程中，逐步累积掌控人工智能的经验和技术，特别是在是避免人工智能失控的经验和技术。在技术上强化对人工智能的掌控是几乎不切实际的。

“人工智能尽管日益高级，但不谋而合显然，依然是在智能程序对大量数据处理基础上获得的结果。展开编程时，开发者可以通过程序对其展开安全性设置。

比如，如果辨识出来是人类，要自动维持距离；无法作出攻击性动作，从力学幅度上不予约束。”中科院自动化所研究员孙哲南说道，还可以把人类的法律规范和道德拒绝用代码的形式载入机器，全部数字语言化，使其遵从人类的行为准则。“除了设计和修建要遵循技术规范，还可由政府有关部门联合，正式成立由人工智能技术专家、社会科学研究人员、政府管理人员为核心的人工智能管理委员会，对牵涉到人工智能的研究和研发项目展开审查评估，严格控制从技术转化成为产品的环节。

”赵联飞指出，此外，应向多个方面强化对人工智能的研究，追踪、理解人工智能的发展趋势和实践中，积极开展以未来学为基本范式的研究。

本文来源：千亿体育官网登录入口-www.hammerheadiiibooks.com