马斯克等为何呼吁暂停GPT-5训练？AI已成中美战略竞争制高点！中国需从九方面紧急应对！

作者 :正文注明 2023-04-01 06:43:17 围观 : 次评论

作者：李光满
来源：李光满冰点时评
微信公众号ID：ligm-479210127
已获转载授权

最近关于AI的话题非常火爆，特别是GPT-4出来后，引发全世界巨大担忧，甚至恐慌，这种担忧和恐慌不仅是因为GPT可能对整个社会就业的冲击，而是因为GPT快速迭代、进化对人类生存构成的更深层次担忧。

3月29日，美国未来生命研究所公布一封公开信，目前已有包括马斯克、“人工智能教父”的杰弗里·辛顿、AI“大牛”盖瑞·马库斯、图灵奖得主约书亚·本希奥、《人工智能：现代方法》作者斯图尔特·罗素、苹果公司联合创始人史蒂夫·沃兹尼亚克、StabilityAI首席执行官埃马德·莫斯塔克等在内的一千多名科技界领袖人物和研究人员签名，公开信呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。

他们为什么要呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统叫呢？主要原因是GPT进化得太快了，从推出GPT到迭代进化到GPT-4，不到半年的时间，GPT的进化已经远远超出人们的想像。

下面是这封信的主要内容：一、大量研究表明并得到顶级AI实验室的认可，具有人类竞争智能的AI系统可能对社会和人类构成深远的风险。二、高级AI可能代表地球生命史上的深刻变化，应以相应的关怀和资源进行规划和管理。三、这种级别的规划和管理并没有发生。四、最近几个月人工智能实验室陷入了一场失控的竞赛，以开发和部署更强大的数字思维，没有人——甚至他们的创造者——都无法理解，预测，或可靠地控制。五、当代人工智能系统现在在一般任务上变得与人类具有竞争力，我们是否应该发展最终可能超过我们、超越我们、过时并取代我们的非人类思维？六、我们应该冒险失去对我们文明的控制吗？不得将此类决定委托给未经选举产生的技术领导者。七、只有当我们确信它们的影响是积极的并且它们的风险是可控的时候，才应该开发强大的人工智能系统。八、人工智能研究和开发应该重新聚焦于使当今强大的、最先进的系统更加准确、安全、可解释、透明、稳健、一致、值得信赖和忠诚。最终结论是：所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统（包括目前正在训练的GPT-5至少6个月。

从这封信我们可以知道，这些科学界精英已经意识到，“人工智能实验室陷入了一场失控的竞赛，以开发和部署更强大的数字思维，没有人——甚至他们的创造者——都无法理解，预测，或可靠地控制。”即所有人都已经无法预测、可靠地控制这场AI竞赛的方向、速度、趋势、风险。AI的进化太迅猛，而人类又无法控制，这就是GPT给人类带来的深度担忧，不仅仅是给人类就业带来的冲击，也不仅仅是给各产业带来的革命性影响，而是我们已经无法控制它的方向，它给人类带来的到底是毁灭还是更幸福的生活，我们无法预知和控制，这才是最可怕的。

360公司的周鸿祎预计，当GPT演化到GPT-6、GPT-8的时候，人工智能将会产生意识，变成新的物种。未来，人工智能大语言模型有可能实现自我进化、自动更新系统和自我升级，或者指数级进化能力，人类将会面临不可预知的安全挑战。周鸿祎关于“当GPT演化到GPT-6、GPT-8的时候，人工智能将会产生意识，变成新的物种”的观点令人感到的将不仅仅是担忧，而是恐惧。既然GPT已经产生了意识，变成了新的物种，而且比人类更聪明，那一定会与人类产生竞争，有竞争就有胜利或者失败，人类是最终的胜利者还是失败者呢？

其实还有一个更深远的问题，如果真的按周鸿祎所预测的那样，到GPT-6、GPT-8有了意识，那么我们推想，既然可以让GPT产生意识，那就一定会使它具有感情，还会有思想以及立场和态度，或许这才是那些科学精英们所担忧的问题，也是这场AI竞赛所面临的最严峻的伦理挑战，也就是说，这场科学变革所带来的，除了给我们经济、军事、教育等等方面带来深刻的冲击与变革之外，还会给人类社会的文明体系、伦理、价值观带来重大而深刻的冲击。

而从GPT演化进度来看，这种担心绝不会是空穴来风，也绝不是杞人忧天，或许在GPT给人类带来巨大变革的同时，对人类所构成的威胁才是我们应该首先考虑的问题。面对美国率先掀起的AI浪潮，中国该如何认识和应对GPT崛起及AI迅猛发展所带来的挑战？对此，我有以下九点想法。

第一，尽管已经有人意识到AI的演进或者说GPT的进化超出了人们的预期，引起了人们的担忧，就此有人提出了要暂停。但我以为，在当今这个资本和市场主导的全球化浪潮中，任何关于科技暂停的呼吁都是苍白无力的，都是不可能阻止GPT以及及类似GPT的AI向前推进的，正如居里夫人发现了放射性元素，却无法阻止人类利用她的科学发现去制造可以毁灭人类的核武器一样，只要能够带来利益，没有什么力量最终能够阻止科学发现和科技发明能够用于军事和战争。因此我们对此不能心存侥幸，同时我们要对GPT以及类似AI给我们带来的恶的毁灭的力量保持足够警觉。

第二，我相信无论什么科技成就和成果都会用于军事甚至会首先用于军事，AI技术也不例外，AI技术或者说GPT系统很快就会被美国用于军事，会在战场上使用，正如马斯克搞的星链很快就在俄乌战争中大规模使用一样，GPT系统和搭建在GPT系统上的子系统都会大量运用于武器系统和战争环境，成为影响战争胜负的关键性武器。这一点我们尤其要高度重视。

第三，类似GPT的AI系统对一个国家具有越来越重要的战略价值，正在成为大国竞争的一个新的制高点，而且是一个关键战场。当前美国在这一领域处于领先地位，这对其它国家来说是一种巨大的战略威慑，甚至是致命性的优势地位。当前中国许多公司也在搞AI系统，但与美国相比存在一定差距，这种差距将会影响中国产业竞争、教育竞争、军事竞争、文化竞争以及舆论影响力竞争，如果中国不能尽快赶上甚至超过美国，将会在未来的国家整体竞争中处于被动的不利的从属的地位。

第四，GPT的快速迭代进化，对算力的要求越来越高，而决定算力的是高端芯片。由于美国对中国芯片实施全面制裁禁运，不仅光刻机进口受影响，而且高端芯片也被严格禁运。由美国英伟达公司生产的占据学习机器人图形处理市场95%份额的高性能芯片A100和H100或未来峰值性能等于或超过A100和H100的GPU都被禁止向中国出售。这无疑会给中国AI的迭代进化带来严重制约，因此自主研制能够生产高性能芯片的光刻机已经成为非常紧迫的任务。有人认为，现在28纳米光刻机生产的芯片已经能够满足80%的芯片需求，更高端的芯片禁运对中国影响不大，可以缓一缓，最终仍可依靠全球合作解决。这种认识的错误是非常严重的，如果不尽快解决高端光刻机问题，我们的科技创新和AI产业的发展可能会长期被美国锁定在低端，因此仍然对全球合作解决光刻机问题抱有幻想是短视、愚蠢而又幼稚的。

第五，中国应该从战略高度，以极强的历史性敏锐重视AI所带来的历史性变革，甚至是历史性革命，尽快组织专业力量对GPT所带来的冲击进行全面评估，对中国AI产业发展进行全面规划和部署，研判AI给我们社会、文化、教育、产业、科技、舆论、意识形态等等方面会带来哪些重要的变革、冲击、影响，在国家层面成立专门机构，支持和促进中国AI产业加快发展，使中国AI尽快赶上美国和超过美国，在全球AI竞争中保持领先和优

势地位。

第六，由于GPT所具有的巨大的军事价值，建议立即成立相关机构，研究GPT的军事价值，研究如何应对GPT给中国国家安全、军事安全带来的冲击和威胁，研究GPT对战争形态、战场态势带来的影响，研究GPT在武器研制方面带来的影响，并制定相应的对策。

第七，由于GPT对社会的广泛渗透和价值观倾向，我们需要超前关注和研究GPT对我国社会意识形态的影响，防止境内外敌对势力通过GPT对我国意识形态进行深度渗透和影响，随着GPT的进一步迭代和进化，境内外敌内势力或者GPT本身的知识体系都可能对中国人的思想、知识、价值观产生潜移默化的西化的影响和扭曲，以达到文化破坏、文明变形、价值观扭曲、社会秩序坍塌的目的，对此我们要高度重视，提前布局防犯。

第八，AI发展主要还是靠大投入推动。近几年中国在人工智能领域的投入有明显进步，但却远不及美国在人工智能领域的投入力度，中国的投入总额不及美国的十分之一，相差巨大。而且美国还出台了一系列鼓励AI产业发展的法案，从政策、资金、政府主导等各方面推进AI产业发展，中国在这方面的表现远远不及美国。

第九，AI发展的基础还要靠基础理论研究。中国在AI领域的基础研究相对较弱，包括人工智能的理论研究、算法开发、数据科学等方面，需要投入更多的资金和资源，以吸引更多人才从事基础研究和应用研究。由于中国人工智能领域的人才严重短缺，必须尽快在大学设置人工智能学科，开设人工智能学院，加快培养相关人才。同时国家要在有关大学、研究机构和企业建设人工智能国家重点实验室，加大产学研合作力度。

当前，由于GPT的来势过于迅猛，我们很多人，包括政府可能都还没有来得及做出必要的反应。因此我认为高层应高度关注GPT所带来的冲击，我们的企业、社会上的每个人也都应该重视并适应AI可能带来的就业、教育、工作方式变革。

从更深层面看，AI可能还会给我们的价值观、思想、文化、伦理、理念带来深刻而重要的渗透和影响，我们有关部门应及时了解和应对这种渗透和影响的严重程度。

GPT所引发的冲击大潮已经汹涌而来，AI已经成为大国竞争制高点，中国已不可避免地成为主要竞争者，我们应该意识到AI所带来的影响和冲击是巨大的，深刻的，深远的，如此才能早准备、早适应、早应对，在与美国的AI战略竞争中取得战略主动和优势赛道。

标签马斯克 GPT

上一篇：聊几句近期的台湾！下一篇：美国要出大事了！这次真不赖中国！

美国要出大事了！这次真不赖中国！

原创：占豪来源公众号：占豪微信ID：zhanhao668美国要出大事了！什么大事？可能要乱！那么，美国到底出了什么情况呢？是特朗普被起诉了。更为严重的问题是，特朗普正面临刑事指控。据媒体报道，经过曼哈顿地区检察官办公室的调查，当地时间3月30日，美国纽约曼哈顿大陪审团投票决定起诉特朗普，原因是特朗普在2016年竞选期间向艳星丹尼尔斯支付“封口费”。这次指控不简单，因为这次是一次刑事指控，这就意味着证据一旦坐实，特朗普被证明有罪，那么他将面临牢狱之灾。坦率说，特朗普也真是够倒霉的，他不但是第一位被封了社交账...
2023-04-01 10:43:04 真不美国事了
谈到中国，美军最高将领连说三个“很麻烦”

中国实力增长的表现之一就是，现在美国国会的听证会，经常地开成“中国专场”。不管是讨论芯片、抖音、流浪气球、对台军售、贸易逆差还是军费预算，“中国”都作为“主角”无法缺席，而讨论的结果无外乎都是：“中国是美国在这个星球上的最大挑战”。这不，美国众议院军事委员会又开听证会了，美国防长、军队最高将领都来了。讨论美国国防战略的近景远景，那还能少得了中国？中国人隔着太平洋都打喷嚏了。美军参谋长联席会议主席...
2023-04-01 10:31:37 将领中国很麻烦
这次美军给国会带来的全是坏消息这一大堆破事

对于习惯用装备优势压人的五角大楼而言，过去的这几天简直就是各种倒霉事凑一起了：F-35战斗机只有一半能用，“哥伦比亚”级战略核潜艇建造进度严重滞后、现役攻击核潜艇的维修进度继续延误，AGM-183A高超音速导弹发射失败，基本确定了下马命运……这一大堆破事，让美军高层在国会接受质询时被批得焦头烂额。失事损毁的F-35残骸先说已经影响到全球多国的F-35战斗机。美国空军中将迈克尔∙施密特3月29日在...
2023-04-01 10:31:33 这一国会美军
案例：我退休金五千，存款二十万，再找老伴只有三个要求得满足

张阿姨今年61岁了，头发乌黑茂密，精神矍铄，周围的邻居都喜欢叫她张老师。因为张阿姨当了一辈子的小学语文老师，这个工作体面，受人尊重、收入也很稳定。在那个年代能当上老师都是件稀罕事儿，可想而知张阿姨顺利退休的话，日子也能过得很舒服。张阿姨的丈夫也是当老师的，而且教学资历比张阿姨还久，在年轻的时候确实是拼搏奋斗：现在退休了也确实能享福了。关键是张阿姨她家的子女也非常令人省心。张阿姨家有两个儿子，从小...
2023-04-01 10:25:18 阿姨张老师孙子
案例：年终奖发五万，转手被妻子送小舅子，丈夫：过年去你弟家吧

马上就要过年了，再加上今年公司业绩也很好，于是老板当场给公司每人直接发了五万块的年终奖。我高高兴兴的回家将五万块的年终奖交给老婆袁惠管理。谁知道却惹出了一场风波，甚至差点毁了我们这个家。事情到底是怎么回事呢？你且听我缓缓道来。我老婆袁惠嫁给我之前家里面就很重男轻女，在这样的家庭氛围里我老婆从小就逆来顺受到最终的理所当然。从小我小舅子成绩就很差，所以我那岳父岳母就让我老婆小学主动留学一年级和我那不...
2023-04-01 10:25:13 小舅子我老婆老婆
案例：我爸攀上高枝后为了顺利结婚，我被送给姑姑，如今报应来了

今天的案例，来自于粉丝小慧的分享：对于亲生父亲，小慧其实一直没有什么太清楚的印象。小的时候小慧就一直和姑姑生活在一起，姑姑对她很好，从小吃穿不愁。但就在某一天，一个男人突然找上门来，说是小慧的爸爸，小慧看着这个陌生的男人下意识地觉得非常奇怪。小慧一直以为自己从小就没有爸爸，姑姑也只是说爸爸生病去世了，在小慧心里姑姑就是自己的亲生妈妈，如今突然跳出来一个陌生人来认亲，谁能接受呢？男人坚决要和小慧相...
2023-04-01 10:25:11 小慧姑姑男人
将棋出问题！横宫七海被骂了⋯

你是看片很注意细节的人吗？我是完全没在看的，所以我很佩服那些戏看得很细的人，不过对片商来说那可能就不是很开心的事：还记得上次月乃ルナ(月乃露娜)的章鱼烧事件吗？明明是个小情侣在家一起烹调美食然后上床打炮的温腥剧情，偏偏就有个影迷留言要她们「不要小看大阪人」：原来是月乃ルナ(月乃露娜)烹调的方式不对，既没有好好控制烤盘的火候翻面的方法也不对，片中可以清楚看到有些章鱼烤焦了ー可能有些人觉得影迷要求太...
2023-04-01 10:00:00 骂了将棋横宫七海被
就做到年底！前写真女星的千金不干了！

虽然是暗黑界的销售保证，不过河北彩花也逃不过新法影响，她在twitter说了，接下来11和12月都不会有片子上市，大家明年再见！好悲伤。连河北彩花都这样了，其他女演员当然受到的影响更大，很多女演员都事先预告要到明年才会有片，然后因为不少片商持观望态度减少发片量或干脆不发片，让许多得不到Offer的女演员认清了再撑下去也没用，所以最近引退或人间蒸发的女演员很多：()就宣布，做到今年结束就不干了！虽...
2023-04-01 10:00:00 干了千金写真
水野朝阳：以后我不会在twitter露脸了。

好一阵子没有作品了，偶尔有人会问：「怎么了？还会回来吗？」和大多数女演员因为AV新法的影响而跳过发片不同，打从今年(2022)一开始就没拍片了，存货消化完了自然就没有新作品问世；为什么不拍片呢？因为她本来就是因为肺炎疫情太严重导致无法从事她热爱的美甲业所以才复活的，现在状况好多了，她也存到钱了，自然就离开暗黑界惹～所以就算有更新twitter，水野朝阳也绝口不提暗黑界的事，因为她已经不是这一行的...
2023-04-01 10:00:00 我不会在朝阳
宣布答案！因为官方网站吵架的经纪公司是？

还记得上次我曾提到，有两间事务所因为官网长得太像而有了摩擦、高层不是很开心吗？因此我举行了有奖征答，凡是猜中两间事务所的就免费来参加ForAVer要在12月9日举办的摄影会，现在我要宣布答案了：(这是的官网)是T-Powers和AllPro〜仔细看看，两家事务所的官网像不像？(这是AllPro的官网)好像有一点像但又不是很明显的抄袭对吧？其实我觉得很多朋友说的T-Powers和Cruse Gro...
2023-04-01 10:00:00 经纪官方网站答案