这封信呼吁，所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统至少6个月。这种暂停应该是公开的和可验证的，并且包括所有关键参与者。如果不能迅速实施这种暂停，政府应介入并实行暂停。
(资料图片仅供参考)
“我现在并不担心‘AGI风险’（我们无法控制的超级智能机器的风险），在短期内我担心的是‘MAI风险’——平庸人工智能（Mediocre AI）是不可靠的（比如必应和GPT-4）但被广泛部署。”
最近几天，人工智能风险引发了多位科技领袖的深切担忧。
首先是被称为“人工智能教父”的杰弗里·辛顿（Geoffrey Hinton），他上周在接受哥伦比亚广播公司采访时表示，人工智能可能发展到对人类构成威胁“并非不可想象”的地步。
随后，AI“大牛”盖瑞·马库斯（Gary Marcus）3月27日发推响应辛顿，28日又发表题为“人工智能风险≠通用人工智能风险”的文章，称超级智能可能会也可能不会迫在眉睫，但在短期内，需要担心“MAI（平庸人工智能）风险”。
27日，推特CEO伊隆·马斯克也加入进来，表达对辛顿和马库斯的赞同。
马斯克在社交网络上与杰弗里·辛顿和盖瑞·马库斯互动。
29日，未来生命研究所（Future of Life Institute）公布一封公开信，呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。辛顿、马库斯和马斯克均签署了这封公开信。
“加快开发强大的AI治理系统”
未来生命研究所的这封公开信题为“暂停巨型AI实验：一封公开信”，于29日解封。
未来生命研究所的公开信已有1079人签署。
信中写道：广泛的研究表明，具有与人类竞争智能的人工智能系统可能对社会和人类构成深远的风险，这一观点得到了顶级人工智能实验室的承认。正如广泛认可的“阿西洛马人工智能原则（Asilomar AI Principles，阿西莫夫的机器人三大法则的扩展版本，于2017年由近千名人工智能和机器人专家签署）中所述，高级AI可能代表地球生命史上的深刻变化，应该以相应的关照和资源进行规划和管理。不幸的是，这种级别的规划和管理并没有发生，尽管最近几个月人工智能实验室陷入了一场失控的竞赛，以开发和部署更强大的数字思维，没有人——甚至他们的创造者——能理解、预测或可靠地控制。
“当代人工智能系统现在在一般任务上变得与人类具有竞争力，我们必须扪心自问：我们是否应该让机器用宣传和谎言充斥我们的信息渠道？我们是否应该自动化所有工作，包括令人满意的工作？我们是否应该发展最终可能比我们更多、更聪明，淘汰并取代我们的非人类思维？我们应该冒险失去对我们文明的控制吗？”这封信写道，“只有当我们确信它们的影响是积极的并且风险是可控的时候，才应该开发强大的人工智能系统。这种信心必须有充分的理由，并随着系统潜在影响的规模而增加。OpenAI最近关于通用人工智能的声明指出，‘在某些时候，在开始训练未来的系统之前进行独立审查可能很重要，并且对于最先进的工作来说，应该同意限制用于创建新模型的计算量增长。’我们同意。那个某些时候就是现在。”
这封信呼吁，所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统至少6个月。这种暂停应该是公开的和可验证的，并且包括所有关键参与者。如果不能迅速实施这种暂停，政府应介入并实行暂停。人工智能实验室和独立专家应该利用这次暂停，共同开发和实施一套用于高级人工智能设计和开发的共享安全协议，并由独立的外部专家进行严格审计和监督。这些协议应确保遵守它们的系统是安全的，并且无可置疑。这并不意味着总体上暂停AI开发，只是紧急从奔向不可预测的大型黑盒模型的危险竞赛中收回脚步。
与此同时，信中指出，AI开发人员必须与政策制定者合作，以显著加快开发强大的AI治理系统。至少应包括：建立专门负责AI的有能力的新监管机构；监督和跟踪高性能人工智能系统和大量计算能力；推出标明来源系统和水印系统，以帮助区分真实与合成，并跟踪模型泄漏；强大的审计和认证生态系统；界定人工智能造成的伤害的责任；为人工智能技术安全研究提供强大的公共资金；以资源充足的机构来应对人工智能将造成的巨大经济和政治破坏（尤其是对民主的破坏）。
这封信最后写道，“人类可以享受人工智能带来的繁荣未来。成功创建强大的AI系统后，我们现在可以享受‘AI之夏’，收获回报，设计这些系统以造福所有人，并为社会提供适应的机会。社会已经暂停其他可能对社会造成灾难性影响的技术。 我们可以在这个领域也这样做。让我们享受一个漫长的AI之夏，而不是毫无准备地陷入秋天。”
未来生命研究所建立于2014年，是一个非营利组织，由一系列个人和组织资助，使命是引导变革性技术远离极端、大规模的风险，转向造福生活。
截至发稿，这封信已有1079名科技领袖和研究人员签名，除了马斯克、辛顿和马库斯之外，还包括图灵奖得主约书亚·本希奥（Yoshua Bengio）、《人工智能：现代方法》作者斯图尔特·罗素（Stuart Russell）、 苹果公司联合创始人史蒂夫·沃兹尼亚克（Steve Wozniak）、Stability AI首席执行官埃马德·莫斯塔克（Emad Mostaque）等科技界领袖人物。
“可能导致核战争和更严重的疫情”
28日，马库斯在写作平台Substack上写道，一位同事写信给他问道：“这封（公开）信不会造成对即将到来的AGI（通用人工智能）、超级智能等的无端恐惧吗？”
马库斯解释道，“我仍然认为大型语言模型与超级智能或通用人工智能没有太大关系；我仍然认为，与杨立昆（Yann LeCun）一样，大型语言模型是通向通用人工智能道路上的一个‘出口’。我对厄运的设想可能与辛顿或马斯克不同；他们的（据我所知）似乎主要围绕着如果计算机快速而彻底地自我改进会发生什么，我认为这不是一个直接的可能性。”
人工智能风险与通用人工智能风险。
但是，尽管许多文献将人工智能风险等同于超级智能或通用人工智能风险，但不一定非要超级智能才能造成严重问题。“我现在并不担心‘AGI风险’（我们无法控制的超级智能机器的风险），在短期内我担心的是‘MAI风险’——平庸人工智能（Mediocre AI）是不可靠的（比如必应和GPT-4）但被广泛部署——无论是就使用它的人数而言，还是就世界对软件的访问而言。一家名为Adept.AI的公司刚刚筹集了3.5亿美元来做到这一点，以允许大型语言模型访问几乎所有内容（旨在通过大型语言模型‘增强你在世界上任何软件工具或API上的能力’，尽管它们有明显的幻觉和不可靠倾向）。”
马库斯认为，许多普通人也许智力高于平均水平，但不一定是天才，在整个历史中也制造过各种各样的问题。在许多方面，起关键作用的不是智力而是权力。一个拥有核代码的白痴就可以摧毁世界，只需要适度的情报和不应该得到的访问权限。现在，AI工具已经引起了犯罪分子的兴趣，越来越多地被允许进入人类世界，它们可能造成更大的破坏。
欧洲刑警组织27日发布一份报告，对采用ChatGPT类工具进行犯罪的可能性进行了讨论，令人警醒。“大型语言模型检测和重现语言模式的能力不仅有助于网络钓鱼和在线欺诈，而且通常还可以用来冒充特定个人或群体的讲话风格。这种能力可能会被大规模滥用，以误导潜在受害者将他们的信任交给犯罪分子。”这份报告写道，“除了上述犯罪活动外，ChatGPT的功能还有助于处理恐怖主义、政治宣传和虚假信息领域的许多潜在滥用案件。因此，该模型通常可用于收集更多可能促进恐怖活动的信息，例如恐怖主义融资或匿名文件共享。”
马库斯认为，再加上人工智能生成的大规模宣传，被大型语言模型增强的恐怖主义可能导致核战争，或者导致比新冠病毒更糟糕的病原体的故意传播等。许多人可能会死亡，文明可能会被彻底破坏。也许人类不会真的“从地球上消失”，但事情确实会变得非常糟糕。
“人工智能教父”杰弗里·辛顿在接受哥伦比亚广播公司采访时表示，人工智能可能发展到对人类构成威胁“并非不可想象”的地步。
上周在哥伦比亚广播公司的采访中，“人工智能教父”辛顿被问及人工智能“消灭人类”的可能性时说，“我认为这并非不可想象。我只想说这些。”
马库斯指出，相比辛顿和马斯克担忧天网和机器人接管世界，应该更多思考眼前的风险，包括恐怖分子在内的犯罪分子可能对大型语言模型做什么，以及如何阻止他们。
标签：
截至发稿，这封信已有1079名科技领袖和研究人员签名，除了马斯克、辛顿和马库斯之外，还包括图灵奖得主约书亚·本希奥（YoshuaBengio）、《人
记者近日获悉，云南省征信融资服务平台与云南省公共资源交易平台已实现互联互通，我省公共资源交易领域的中标企业及中标项目等信息实现实时共
1、本人桂林工学院本部学生，来深入解答你的问题 首先看你是读专还是读本这当然是废话本在桂林南宁分部只有专。2、还要看你打算读的专业，桂林
华泰联合及两保代被警示未发现浩欧博违规占用资金等
3月27日，国家统计局发布了2023年1-2月全国规模以上工业企业利润增长状况。1—2月份，全国规模以上工业企业实现利润总额8872 1亿元，同比下降22 9%
一些数据表明，AMDZen4锐龙7000处理器并没有在市场上取得前辈Zen3那样的销售成绩，大环境疲软是一个因素，但不得不说，产品本身方面也有槽点。
欧美银行接连暴雷，储户、投资者和政策制定者都无比关注当前银行业的状况，目前的情况与历史上的银行问题相比如何？研究人员表示，在过去的八
今天来回顾关于上海一男子持刀砍人致9伤含2民警到底发生了什么的文章,希望对各位小伙伴们有所帮助。【上海一男子持刀砍人
3月28日，嘉实浦盈一年持有期混合A最新单位净值为1 0001元，累计净值为1 0001元，较前一交易日下跌0 08%。历史数据显示该基金近1个月上涨0 69%
广东队这边，杜润旺投进7记三分得到全队最高的23分并抢下4篮板4助攻，胡明轩有20分4篮板4助攻入账，布鲁克斯贡献15分13篮板9助攻1抢断，徐杰砍
1、浮动后按住SHIFT，然后喷第一遍，再松开SHIFT，再喷第二遍。2、说起来容易，但是刚学的人抓不住车头，不然第一次
厦门网讯据“同安发布”微博消息，清明节即将来临，为方便市民前往我市各大墓园开展清明扫墓祭奠，同安公交公司将开通清明祭扫临时专线，为...
【五色土】是桃源深处有人家游戏里的道具之一，很多玩家都很需要这个道具，但是不知道从哪里得到，那么桃源深处有人家五色土怎么获得？下面就
吉电股份(000875)03月28日在投资者关系平台上答复了投资者关心的问题。
白癜风的发病原因是什么1、传染源是构成传染的主要因素。但白癜风不存在传染源，因为它是由于色素分泌系统不平衡导致的，所以它不可能传染。2
生化危机8官网地址是什么？游戏目前公布了不少大家比较关心的内容，比如发售时间，售价等，这里给大家带来了生化危机8官网地址介绍，一起来了
能否以放弃定金或者双倍返还定金为条件要求解除合同重庆律师 陈龙桥 2022年12月23日摘要：按照民法典的规定，缴
BEIJING,March28(Xinhua)--China sStateCouncilInformat
1、不用再上油;紫檀的木质细腻并且含油量高,不易变形开裂，所以大家在盘的时候不用上任何的油就可以。2、2 包浆之前不
助威工具是不锈钢盆，奖品是鱼鲜果蔬，啦啦队表演是少数民族舞蹈……近日，被网友戏称为“村BA”的贵州省首届“美丽乡村”篮球联赛总决赛落...
再见，时尚界最后的叛逆者,秀场,礼服,走秀,时尚界,米兰时装周,moschino
3月28日电，兴发集团在互动平台表示，公司电池回收业务目前处于技术储备阶段，同时公司正在积极接洽下游合作伙伴解决废旧电池
标普：美国经济前景迄今表现出韧性，但下行风险上升：标普认为，虽然近年来预期已久的美国经济衰退尚未演变成为现实，但3月10日硅谷银行的倒闭
北京时间3月28日02:45，欧洲杯预选赛小组赛E组第2轮，波兰坐镇华沙国家体育场迎战阿尔巴尼亚，本场主裁判为温契奇。上半场，卡明斯基兜射中柱
我曾经想当然地认为她的主业是影视表演。她是在众多观众的见证下成长起来的国民妓女和娱乐主持人。尤其是央视主持人白出场，关玲负责采访的时
你的人生中有遇到什么重大的变故吗。这样的变故，或许当时并不起眼，就像吃早饭少喝了一口豆浆，多吃了一个小笼包一样，完全是可以忽略的小事
潼关黄金(00340)公布2022年业绩公司拥有人应占溢利5034万港元同比减少约64%,毛利,潼关黄金,公司股东
【江龙船艇：签订8673 09万元重大销售合同】江龙船艇(300589)3月27日晚间公告，公司3月24日收到与客户A签署的订购合同原件，合同金额8673 09万
贷款逾期是很多人都会遇见的问题，并不是每个借款人在申贷之后，都有足够的还款能力。如果借款人有稳定的经济收入，还款能力又超出了个人能力
刘会远先生向临沂市图书馆捐赠图书音像资料
Copyright © 2015-2023 港澳服装网版权所有 备案号：京ICP备2023022245号-31 联系邮箱：435 226 40 @qq.com
意大利海空军F-35战机同时登上加富尔号航母 
