2023年之前，生怕谁也没想到，AI有一天能用云云速率，席卷全球。

距离ChatGPT点燃全网讨论热度不到半年，GPT-4、Microsoft 365 Copilot、Midjourney V5、文心一言、Google PaLM API等众多巨头级 AI 大模子及应用已经纷纷落地。

这些前沿科技功效在为民众带来震撼的同时，也难免让人发生担忧。一场“降临派”与“拯救派”的较量在默默睁开。

克日，生命未来研究所（Future of Life）公然宣布一封名为《暂停大型人工智能研究》的公然信，将这场较量放在了明面之上。公然信中呼吁，所有人工智能实验室应立刻暂停比GPT-4更壮大的人工智能系统的训练，为期至少6个月。

该机构在信中提到：“只有当我们确信其影响将是起劲的，而且其风险是可控时，才应该开发壮大的人工智能系统。这种信心必须有充实的理由，并随着系统潜在影响的巨细而增添。”

“人工智能实验室和自力专家应该行使这次暂停，配合制订和实行一套共享的平安协议，用于先进的人工智能设计和开发，这些协议由自力的外部专家举行严酷的审计和监视，并应确保它们是平安的。”

特斯拉和推特的首席执行官马斯克、苹果团结首创人史蒂夫·沃兹尼亚克（Steve Wozniak、蒙特利尔学习算法研究所所长约书亚·本吉奥（Yoshua Bengio）等众多科技领域从业者和AI专家都在这封公然信上留下署名。住手发稿前，总人数已经到达1794名，并仍在连续增添。

01

马斯克与OpenAI“宫斗”委屈

作为OpenAI公司的团结首创人之一，马斯克对其态度一直较为耐人寻味。已往几个月，马斯克对 OpenAI 相关信息连续轰炸，一会儿强调 AI 平安性的问题，一会儿又“阴阳” OpenAI 的代码库，而他作为*位投资者，什么都没有获得。

2015年，马斯克和阿尔特曼一起担任团结主席，那时，OpenAI的目的是“以最有可能造福整小我私人类的方式推进数字智能，不受发生财政回报需求的约束”。

但他在2018年脱离了OpenAI的董事会，并取消了一大笔赞助款。杂志《财富》报道称，马斯克虽然支持人工智能，但特斯拉智能驾驶手艺与OpenAI之间有“潜在利益冲突”。

那时特斯拉正在为自动驾驶开发自己的人工智能，并在与OpenAI竞争人才。2022年去职的特斯拉自动驾驶主管Andrej Kapathy就是其中之一。他是 OpenAI*秀的人才之一，且是AI界著名网红，在推特和Medium上异常活跃。

但在OpenAI，大多数员工对这个故事并不买账。《Semafor》采访了八位熟悉内情的人士后发现，马斯克在2018年脱离的缘故原由是夺权失败。他以为该公司已经严重落伍于Google，于是，马斯克提出了一个可能的解决方案——他来掌控OpenAI并亲自运营。然而，阿尔特曼和其他首创人拒绝了马斯克的提议。

在这场权力之争失败后，马斯克选择脱离公司，并作废了一笔大规模的捐赠设计。这使得OpenAI无法支付在超级盘算机上训练人工智能模子所需的巨额用度。6个月后，OpenAI从微软那里获得了10亿美元的投资，不仅是资金，另有微软提供的基础设施的专业知识。

这或许也就不难明白，为何在脱离OpenAI后，马斯克就一直在指斥后者，甚至矛头直指其*的支持者微软。3月16日，马斯克还在Twitter上示意，“我最早向OpenAI捐赠了1亿美元，那时它照样非营利的机构，没有所有权，也不受任何人控制。”他还抨击微软“将OpenAI占为己有”。

在越来越不能协调的矛盾眼前，阿尔特曼也终于没忍住爆了粗口。在最近与科技记者卡拉·斯威舍（Kara Swisher）的播客中，阿尔特曼用“忘八”（jerk）来形容马斯克。

有意思的是，此前阿尔特曼的名字也曾泛起在公然信上。后续，经证实，此署名为虚伪署名，很快被移除。

进击的东北边陲小城：隐藏的下沉咖啡之王

对于公然信，阿尔特曼也并未做出直接回应。但在30日早晨，他在Twitter揭晓了一些关于通用人工智能的看法，OpenAI的另一位首创人格雷格·布罗克曼（Greg Brockman）也转发了阿尔特曼的推文，并再次强调OpenAI的使命是“确保AGI惠及全人类”。

02

都在担忧什么？

“宫斗权术”故事总归令人兴奋，但相比于马斯克，名单上的大部门人则真正是对当前突然加速的AGI（通用人工智能）生长感应担忧——尤其是生长的速率。

在这封信的组织者之一、生命未来研究所所长马克斯·泰格马克（Max Tegmark）看来，“把这说成是一场军备竞赛是不幸的，这更像是一场自杀竞赛。谁先到达那里并不主要，它意味着人类作为一个整体可能会失去对自己运气的控制。”

加倍具有争议性的一点是，在这项新手艺以光速生长的同时，大型科技公司却一直在致力于镌汰评估部署AI相关伦理问题的团队员工。今年1月，微软在万人级别大裁员行动中，遣散了所有的伦理道德与社会团队。随后，Meta、谷歌、亚马逊和推特等公司都镌汰了其“认真任的人工智能团队”（Responsible AI）的成员，这些团队认真为使用AI的消费产物提供平安建议。

颇为取笑的是，推特的“道德人工智能（Ethical AI）”团队，也在裁员中三军尽没，彼时距离马斯克接手推特只不外刚刚两个月。

在AI生长堪称光速的当下，这么多相关员工被开除让众多业内人士感应震惊和不解。Alphabet 旗下 DeepMind 的前伦理和政策研究员安德鲁·斯科特（Andrew Strait） 示意，“在比以往任何时刻都需要这样的团队的时刻，有这么多相关员工被开除。”

“这些器械正在塑造我们的天下，”耐久以来指斥AI系统缺陷的企业家、学者加里·马库斯在接受采访时这样说道，“我们面临着不认真任的企业、普遍应用、羁系缺失和大量未知因素引发的‘*风暴’。”

但同时，马库斯也明了，说服更普遍的科技界赞成暂停是很难题的。

图灵三巨头之一杨立昆（LeCun）以为，所谓“暂停研发”，不外就是“隐秘研发”而已，这与一些署名者所希望的恰恰完全相反。

值得一提的是，此前由于竞争态度关系，杨立昆一直对ChatGPT甚至谈天机械人持否决态度，他曾直言，“ChatGPT满嘴胡诌，你们却对它云云宽容，但我家的Galactica才出来三天，就被你们骂到下线了。”

这次由于这份公然信，展露出了与OpenAI冰释前嫌的信号，也是令人啼笑皆非。

与此同时，马库斯以为，公然信中提到的“若是不暂停，应由政府强制暂停”的可能性也很小，由于立法者在羁系AI方面做得很少。

昨日，美国科技伦理组织人工智能与数字政策中央（CAIDP）要求美国联邦商业委员会（FTC）阻止 OpenAI 宣布新的商业版 GPT-4，现在后者对此尚未做出回应。

加州共和党众议员杰伊·奥伯诺尔特（Jay oberolte）示意，美国政界对这项手艺领会不多，“你会惊讶于我花了若干时间向我的同事注释人工智能的主要危险不会来自邪恶的机械人，它们的眼睛里会射出红色激光。”

2021年，欧盟政策制订者倒是提出了一项执法，旨在规范可能造成危险的AI手艺，包罗面部识别系统。该措施预计最早将于今年通过，它要求公司对AI手艺举行风险评估，以确定它们的应用将是否影响康健、平安和小我私人权力。

但前谷歌大脑成员、在线教育平台Coursera的首创人吴恩达在政府介入方面，示意了强烈的否决。他以为，让政府暂停他们不领会的新兴手艺是反竞争的，这会树立一个恐怖先例，是糟糕的创新政策。

“在推进手艺生长的同时，让我们也对平安举行更多的投资，而不是抹杀提高。”吴恩达如是呼吁。