一组计算机科学家使用理论计算来证明算法无法控制超级智能AI。
他们的研究解决了牛津哲学家尼克·博斯特罗姆所说的控制问题：我们如何确保超智能机器为我们的利益服务？
研究人员构想了一种理论上的遏制算法，该算法可以通过模拟AI的行为并在程序的动作变得有害时停止程序来解决该问题。
IBM高级研究科学家：IBM已完成全同态加密领域的实地试验:IBM高级研究科学家FlavioBergamaschi表示，IBM已成功完成全同态加密（FullyHomomorphicEncryption，简称FHE）领域的实地试验。IBM与一家大型美国银行和一家大型欧洲银行签约，利用实时数据对FHE技术进行了实地试验。其中，关于美国银行的FHE试验是基于机器学习模型来预测发放贷款的可能性，并为大量客户提供零售银行、贷款和投资信息。数据集由364000个条目组成，有几百个特征点，模型需要识别数据集中相对罕见的事件（约1%）。试验的成功表现在，得到了具有类似精度的与基数相当的加密数据预测、具有类似精度的变量选择以及可接受范围内的计算成本。注：FHE是一种能保护数据隐私的加密算法，允许对加密过数据直接进行数学运算，并且解密后结果依然是正确的，2009年IBM的CraigGentry首次提出一种基于理想格的全同态算法。（arstechnica.com）[2020/8/3]
但是，他们的分析发现，建立一种可以控制这种机器的算法从根本上来说是不可能的，人类与机器中心主任IyadRahwan说：
声音 | 计算机科学家：DApp开发人员低估了区块链的复杂性:据cryptoglobe报道，理论计算机科学家Dr. Jerome Rousselet指出，DApp开发公司最近有创建自己的区块链的趋势，而不是使用以太坊的网络，这些公司低估了运行此类项目的复杂性，并高估了他们目前的可寻址市场。[2018/10/7]
如果将问题分解为理论计算机科学的基本规则，就会发现，命令AI不破坏世界的算法可能会无意中止其自身的运行。如果发生这种情况，您将不知道遏制算法是否仍在分析威胁，或者它是否已停止遏制有害的AI。实际上，这使遏制算法无法使用。
声音 | nChain科学家CSW：BCH目前共识协议的所有发展是无需许可的:nChain首席科学家CSW（Craig S Wright博士）表示，BCH基于目前共识协议的所有发展是无需许可的，不需要去征询任何人，这个共识协议稳定，也造就了现在的BCH。现在所有的改变，需要去征询开发团队的意见，而无需许可的协议天生具备稳定性。[2018/9/5]
研究发现，由于计算的基本局限性，没有一种算法可以计算出AI是否会危害世界：
假设超级智能将包含一个程序，该程序包含通用图灵机在输入时可能会像世界状况一样复杂地执行的所有程序，那么严格的围堵要求对该程序进行仿真，这在理论上是不可能的。
到目前为止，这种类型的AI仍仅限于幻想领域。但是研究人员指出，这项技术正在朝着科幻小说作家所设想的超级智能系统的类型迈进。
研究的合著者，马克斯·普朗克人类发展研究所的曼努埃尔·塞布里安说：“已经有机器独立执行某些重要任务，而程序员却没有完全了解他们是如何学习的。”
“因此提出了一个问题，在某个时候这是否可能变得不可控制并且对人类构成危险。”
郑重声明： 本文版权归原作者所有， 转载文章仅为传播更多信息之目的， 如作者信息标记有误， 请第一时间联系我们修改或删除， 多谢。