3月29日，非营利组织“未来生命研究所（Future of Life Institute）”发表了一封题为“暂停巨型AI实验”的公开信，呼吁全球的AI实验室暂停训练比GPT-4更强大的系统至少6个月，并在此期间开发出一份针对AI的共享安全协议，必要时需要政府介入。
1000多名科技人士在这份公开信上签名，包括特斯拉CEO马斯克、Stability AI 的CEO Emad Mostaque等企业掌门人，也包括Alphabet旗下DeepMin的研究人员，还有诸如图灵奖得主Yoshua Bengio这样的重量级学者。当然，也有人表达了不同意见，认为这是在阻碍技术进步。
开发出GPT-4模型的OpenAI公司内还没有人签名，该公司目前也没有对这封公开信予以回应。但我们向卷入纷争中的ChatGPT要了个回应。
这个AI自然语言大模型产品倒是表现出了善解人意的一面：暂停实验存在合理性，但需要谨慎考虑这么做带来的技术发展滞后问题。它还给出了关于AI的六大风险和十个管理制度建议。
人类精英：暂停实验 确立规则
截至今日，挂在“未来生命研究所（FLI）“官网上的《暂停巨型AI实验》公开信，已经收集了1130人的签字，名单里精英云集，不乏特斯拉、苹果等科技公司的高管，也有政客和作家，当年，更多的是全球多所高校的教授以及人工智能领域的专家。??????
作家水木然：人类世界就是一个元宇宙:金色财经报道，作家水木然表示，科技越发达，人类对世界的认知越清晰，越接近世界的真相。“元宇宙”是当前人类最大的科技趋势，势不可挡，人人都在关注。其实，我们生活的这个世界，就是一个“元宇宙”。只要“元宇宙”的技术成熟，人类就会虚构出一个“新世界”，然后就可以把很多人塞进去，让他们在里面繁衍。或者当地球面临日益恶化的环境危机，核危机，疫情等等，就会有一批人构建一个新世界，然后移民进去，开启新生活。[2022/1/3 8:20:39]
那么精英云集签字的这封公开信到底说了什么？以下是这封信的全文（向上滑动启阅）
广泛的研究表明，具有能与人类竞争的智能的AI系统会对社会和人类构成深刻的风险，顶尖的AI实验室也承认这一点。正如广受认可的阿西洛马人工智能原则（Asilomar AI principles）原则所述，高级AI可能代表着地球生命历史的深刻变化，应该以合适的态度和资源去进行规划和管理。不幸的是，这种水平的规划和管理并没有发生。尽管最近几个月AI实验室陷入了一场失控的竞赛，以开发和应用越来越强大的数字思维，然而没有人能够理解、预测或可靠地控制这些思维，甚至他们的创造者也不能。
长寿科学基金会寻求区块链项目，以帮助延长人类寿命:9月30日消息，长寿科学基金会是一个由生物技术创始人、临床医生和长寿研究机构组成的财团发起的瑞士实体，其目标是在未来10年内花费超过10亿美元来寻找基于技术的手段来实现120年的人类寿命。该基金会将资助使用区块链和其他下一代技术的研究、机构和项目，该基金会旨在通过捐赠将科学发现和技术进步转化为临床治疗和解决方案。基金会的贡献者也可以用加密货币进行捐赠，他们将获得投票权，在决定哪些项目获得资金方面有发言权。
长寿技术专家Alex Zhavoronkov博士加入该基金会委员会，他同时还是区块链医疗数据市场Longenesis的顾问，该市场与Bitfury Group启动了一个联合项目，为医疗保健行业建立基于区块链的同意管理系统。LongeVC管理合伙人Garri Zmudze表示如果与人工智能配对，区块链可以解锁数百TB的非结构化医院数据以供进一步分析。（Cointelegraph）[2021/9/30 17:18:21]
当代AI系统在一般任务上正在拥有与人类竞争的能力，我们必须问问自己：
我们应该让机器在我们的信息渠道中充斥宣传和谎言吗？
我们是否应该自动化所有的工作，包括那些有成就感的工作？
星际联盟CEO范国连：分布式存储协议将改变人类数据的存储方式:4月25日，由星际联盟主办的2021分布式存储生态峰会在上海隆重举办。“面对数据存储万亿级市场，我们该如何选择优质综合服务商？”星际联盟CEO范国连以此为主题，发表了精彩的演讲。
范国连为大家讲解了当前参与分布式存储生态领域的几类公司，以及选择优质综合服务商的六大标准：技术、价格、市场、战略、团队规范以及强大的后方支持。他为大家详细分析了这六大标准。收益及合作的长久性，取决于战略的长远性；战略与眼光取决于创始团队的基因；扎实的技术实力，如封装速度、出块优化、集群稳定性等则是硬实力的象征。而营销能力则决定市场占有率，单T性价比则是吸引用户的直接要素。
通过范国连的深度分析，可以看到星际联盟作为业内领先的分布式存储综合服务商，具有遥遥领先的行业优势。此外，范国连还向大家介绍了星际联盟的产品与合作方案，包括C端中小客户合作方案以及B端大客户合作方案。
分布式存储协议将改变人类数据的存储方式，星际文件系统将改变区块链的获取区块奖励方式。范国连表示，选择大于努力，选择一家优质的服务商是至关重要的。星际联盟坚持“匠心品质·洞见未来”的产品理念，为构建信息和谐的行业生态而努力，持续为客户创造价值，期待与大家一起共创美好未来。[2021/4/25 20:56:27]
我们是否应该培养出可能比我们数量更多、比我们更聪明、最终超越并取代我们的非人类思维？
“人类基因组项目之父”计划将其基因组作为NFT进行拍卖:哈佛医学院遗传学教授、“人类基因组项目”之父George Church计划将其基因组作为NFT进行拍卖。早在1984年，Church就负责开发了第一个直接基因组测序系统。据悉，即将拍卖的基因组是有史以来第一次测序的基因组之一。NFT的最高出价者将获得ERC-1155 NFT代表的所有权，以及所有相关数据的所有权证明。拍卖日期定于4月25日美国国家DNA日，拍卖所得一部分将用于基因组研究，其余收益将捐给慈善机构。（Beincrypto）[2021/4/23 20:49:25]
我们是否应该冒着失去对我们文明控制的风险？
此类决策决不应该委托给未经选举产生的技术领导人。只有当我们确信AI的效果是积极的，风险是可控的时候，AI系统才应该被开发。这种对AI的判断必须是合理的，并随着系统潜在影响的变化而变化。
OpenAI最近关于人工通用智能（AGI）的声明指出，“在开始训练未来的系统之前，进行独立审查可能很重要。同时对于最前沿的工作而言，人们应该在合适的时间点限制用于创建新系统的计算增长率。我们同意这一说法，并认为现在就是合适的时间点。
声音 | Sean Walsh：加密货币可以利用更多的人类能量:在接受采访时Sean Walsh分享了他对加密货币及其在全球金融体系中的地位的看法。这位密码投资者相信，去中心化的数字货币可以利用更大比例的人类能源，帮助我们的文明回归更可持续的平衡。（news.bitcoin）[2019/10/12]
因此，我们呼吁所有的AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。这种暂停应该是公开的和可核实的，所有关键的参与者也能暂停相关工作。如果这种暂停不能迅速开始，政府应该介入并实施暂停。
AI实验室和独立专家应利用这一暂停的时段，共同开发一套AI设计和开发的共享安全协议，这些协议需要由独立的外部专家严格审计和监督。这些协议应确保所有遵守它们系统的AI是安全的。这种暂停并不意味着总体上暂停AI开发，只是让人们从具有新兴功能的、不可预测的危险竞赛中后退一步。
AI的研究和开发应该重新聚焦于使当今强大、最先进的系统更加准确、安全、可解释、透明、稳健、一致、可信和可靠。
与此同时，AI开发人员必须与政策制定者合作，大幅加快强大的AI管理制度的开发。管理制度至少应包括以下内容：
?针对AI的新的、有能力的监管机构；
?监督和跟踪能力强大的AI系统和计算能力池；
?帮助区分真实和合成数据的溯源、水印系统，并跟踪模型泄露；
?提供健全的审计和认证生态系统；
?对AI造成的损害进行责任认定；
?为AI技术的安全研究提供充足的公共资金；
?资源充足的机构以应对AI将造成的巨大经济和破坏（尤其是对民主的破坏）。
人类可以通过AI享受一个繁荣的未来。在成功创建了强大的AI系统后，我们现在可以享受一个“AI之夏”。
在这个AI的夏天，我们可以收获回报，为所有人的利益设计这些系统，并给社会一个适应的机会。人类社会曾经暂停使用一些可能会对社会造成灾难性影响的技术，我们现在也可以在AI领域这样做。让我们享受一个漫长的AI之夏，不要在没有准备的情况下匆忙进入秋天。
事实上，这封公开信是近期人类精英们对人工智能风险担忧的总爆发。自 ChatGPT 高速迭代后，担忧从未停止，特别是当微软、谷歌、百度、华为等科技巨头们在自然语言模型上展开“军备竞赛”之后。
日前，“深度学习之父”杰弗里·辛顿（Geoffrey Hinton）在媒体采访中表示，人工智能正处于“关键时刻”，毁灭人类“并非不可能”。AI领域内的“大牛”盖瑞·马库斯（Gary Marcus）发推特支持辛顿，甚至发出灵魂一问：“用百分之一的人类毁灭风险换取和机器对话带来的乐趣，这值得吗？”
而马库斯在转发FLI这封公开信时表示，“这封信并不完美，但精神是正确的。我们需要放慢脚步，直到我们更好地理解AI带来后果……他们可能会造成严重伤害……主要参与者对他们正在做的事情越来越保密，这使得社会很难抵御可能发生的任何伤害。”
也有科技圈人士对这封信的观点持不同意见。
Writer的创始人Waseem 以讽刺的语气表达了他对权威们的不满，“让我们停止建设和发展我们的公司，因为来自硅谷的亿万富翁说我们有风险。一定要喜欢那些比我们人类更聪明的人，因为他们告诉我们如何生活。当我们有他们神圣的指引时，谁还需要进步？”
OSS Capital的创始人Joseph Jacks 态度更是简洁明了：强烈反对，绝对不签这个。
ChatGPT：暂停合理但小心阻滞技术
目前，OpenAI 还没有就 FLI 的这封公开信做出回应。而我们把人类精英们的担忧与建议甩给了ChatGPT，引发这场纷争的这个对话机器人不但认可了FLI要求暂停实验的合理性，还补充了六大AI风险。
ChatGPT的答案中也包含了暂停实验带来弊端：导致技术发展的滞后。这也和舆论场上很多普通大众的想法趋同。????????????????????
那么，问题摆在眼前，如果要让研究人员和政府制定规则，该包含哪些内容呢？ChatGPT给出了十大建议，相当于给包括自己在内AI发展画了一个规范圈。
连ChatGPT自己都这么说了，可见，“AI失控”、”替代人类“无论是在意见领袖圈层还是舆论场上都有探讨的意义。
最近，微软的创始人比尔·盖茨在大力肯定人工智能带来生产力提升的同时，也强调过风险，“AI失控的可能性是存在的，一台机器会认为人类是自己的威胁吗？它们会得出结论认为自身利益与人类的利益不同进而不在意我们吗？” 他预测，随着算法、算力的提升，超级智能AI会在未来出现。
连 OpenAI 的CEO Sam Altman都表示，超级智能AI的风险可能会远远超出我们的预料。此前，他在技术研究员Lex Fridman的播客中表达他的担忧，包括AI造成的虚假信息问题，带来的经济冲击等等，“危害可能远远超过了人类能应对的程度”，他举了个例子，“我们怎么会知道，大语言模型没有在推特上指挥大家的思想流动呢？”
这正应了那封公开信中所说的：没有人能够理解、预测或可靠地控制这些数字思维，“甚至他们的创造者也不能”。
虽然通用人工智能（AGI）还远远没有到来，但就像比尔·盖茨说得那样，在这之前，世界需要建立规则以使AI带来的正面影响远远超过其负面影响。
换句话说就是，别让人类造出的东西把人类自己灭了。毕竟，战争、核事故带来的灾难还历历在目。
蜂巢Tech
个人专栏
阅读更多
金色财经 善欧巴
金色早8点
白话区块链
欧科云链
Odaily星球日报
Arcane Labs
MarsBit
深潮TechFlow
BTCStudy
链得得
郑重声明： 本文版权归原作者所有， 转载文章仅为传播更多信息之目的， 如作者信息标记有误， 请第一时间联系我们修改或删除， 多谢。