为什么赋予人工智能人类伦理可能是一个糟糕的想法

如果你想让人工智能拥有人类伦理，你必须像我们一样教它进化伦理至少这是印度班加罗尔国际信息技术研究所的一对研究人员在今天发表的预印本论文中提出的

这篇题为人工智能和自我意识的论文描述了一种称为弹性身份的方法，研究人员表示，通过这种方法，人工智能可以学会获得更大的代理意识，同时了解如何避免附带损害简而言之，研究人员建议我们通过允许人工智能学习何时适合自我优化以及何时有必要为社区的利益进行优化，来教人工智能在道德上与人类更加一致

根据论文:

虽然我们可能离一个全面的自我计算模型还很远，但在这项工作中，我们关注的是我们自我意识的一个特定特征，这可能是人类与生俱来的责任感和道德感的关键我们称之为弹性的自我感觉，延伸到一组称为身份集的外部对象

我们的自我意识不仅限于我们身体的边界，而且经常延伸到包括来自我们环境的其他对象和概念这构成了社会认同的基础，建立了一种归属感和对某种东西的归属感和忠诚度，而不是或超越一个人的身体存在

研究人员描述了一种利他主义和自私行为之间的平衡，在这种平衡中，代理人能够理解道德上的细微差别。

至于人工智能模型应该具有什么样的弹性度量，这可能更像是一个哲学问题，而不是科学问题。从1946年世界上第一台电子计算机到1950年的图灵理论。然后到1956年人工智能根据定义，人工智能的发展分为计算智能，感知智能和认知智能。这期间真正需要突破的是让计算机自己去理解，思考甚至学习。然而，新一代大数据，云计算，物联网，人工智能等一系列突破性成功因素，真正将人工智能发展成为人类科技智慧的金字塔，展现出不可估量的巨大潜力。。

据研究人员称:

在系统层面上，关于具有弹性身份的代理系统的进化稳定性也存在悬而未决的问题一小群不认同他人的非移情代理人能否成功入侵移情代理人系统或者是否存在一种策略来决定一个人的同理心的最佳水平或一个人的身份集的程度，这使得它在进化上是稳定的

我们真的希望人工智能能够以人类的方式学习道德吗我们的社会伦理观点是在无数战争的烈火和不断犯下可怕暴行的传统中形成的在制作人类社会的煎蛋卷的过程中，我们打碎了很多鸡蛋

而且，公平地说，我们还有很多工作要做向 AI 教授我们的道德规范，然后训练它像我们一样进化，这可能是使灾难自动化的秘诀

它还可能导致对人类伦理的更哲学理解以及用人工代理模拟文明的能力也许机器会比人类历史上更好地处理不确定性

。