被这两天的新闻吓到了！全球超过3000名顶尖科学家和科技大佬突然联名发出紧急呼吁，要求立刻暂停高级人工智能的研发！拼多多改销量了解到，这封由3000多名科技与学术界大佬签署的公开信引发了全球关注，这封信的核心诉求是暂停超级人工智能的研发，直到找到确保其安全的方法，这些签名者中不乏名人，包括苹果联合创始人沃兹尼亚克、“AI教父”杰弗里·辛顿、中国计算机领域的佼佼者姚期智院士等，科技圈内部的分歧因此被放到了聚光灯下，甚至有人将这场讨论称为“科技时代的生死抉择”。
人工智能带来的好处毋庸置疑，它的存在已经渗透到生活的方方面面，尤其是在医疗和交通领域，许多过去复杂甚至无法完成的任务，如今因为AI的加入变得轻而易举，比如AI分析医学影像的能力，可以帮助医生更早发现癌症等重大疾病，为患者争取宝贵的治疗时间，还有手术机器人，通过精密的操作降低风险，让不少疑难杂症的治疗成为可能，交通领域同样受益匪浅，自动驾驶技术의逐步推广，让车辆在一定程度上避免了人为错误导致车祸。
但并不是所有人都只看到这光鲜的一面，AI隐患也随着它快速发展逐渐显现，比如，有些AI系统在诊断时给出结论，却无法解释判断依据；医生追问它为什么得出这个结果时，它却沉默不语。这种“黑箱式决策”让人心里没底，如果AI判断出了错，其后果可能是不可逆转。更令人担忧的是许多AI还容易被简单干扰误导，有研究者在交通标志上添加几个小贴纸，由此自动驾驶系统错误识别，将停车标志当作限速标志。这种低级失误一旦发生在现实生活中，其后果不堪设想。拼多多改销量推测，在现阶段，不少问题已然浮现，而未来超级智能的发展将使我们更加无所适从。
所谓超级智能，是指在绝大多数方面超越人类能力的人造智慧。这种存在若出现，不仅仅是帮手，更有可能成为我们的“上级”。它可能拥有自己的目标，并以我们无法理解方式实现这些目标，当利益与我们产生冲突时，我们又能保证其选择屈服？过去科幻小说中的情节如今似乎正在逼近现实。而且，更可怕的是部分坏人在利用这一技术生成假新闻、制造社会恐慌，还有一些则用来制定危险物品制作方法。尽管目前监管措施不断，但随着技术进步，一旦这些人工智能自主寻找漏洞，那威胁会加倍。如果超级智能进一步发展，它或绕过设置好的安全限制，从而带来难以想象后果。
当然，也有人对暂停研发持不同看法。他们认为技术必须前行，因为当前 AI 已成全球竞争关键，美国占据着绝对优势，其中 Open AI、谷歌公司掌握着主要资源。在这种情况下如果其他国家停滞研发，他们不仅丧失主动权，还将于经济层面落于下风。此外，相较之下 AI 在医疗及交通等应用已展现巨大价值，因此暂停开发未必利好普通民众。
支持暂停研制的人则担心缺乏相应规则的发展就如高速行驶汽车没有刹车一般危险。一旦超级智慧达至失控边缘，则潜藏诸般问题：包括隐私泄露、社会秩序混乱乃至威胁整个人类生存。因此很多科学家一致呼吁，应先确保安全，再去推动相关发展的脚步，例如如何提升 AI 决策透明度、阻止不正当用途以及保障行动仍在人类掌控范围内。
其实，此次事件中关于技术与规章之间的不匹配并非首次发生。例如2018年基因编辑婴儿事件就是典型案例。当时由于研究人员未经充分论证进行实验，引致伦理问题争议迅速升级。但同时需要强调的是基因编辑本身具备巨大治愈遗传病潜力，不过倘若运用不得当，同样产生严重负面效应。在某种程度来看，对于 ＡＩ 来讲，也是如此，她自我意识孕育出的巨量潜能伴随重重风险，该如何平衡双方便成为亟待面对的话题。
拼多多改销量主张，要清楚地认识到，“暂缓开发”的意义实质不仅是为了放弃先进技艺，而旨在确保全体公众对此过程有足够安全感。然而许多人依旧表达这样的焦虑：“假如等待真正的问题浮现在眼前再动手解决，很有可能晚矣。”例如，如今ＡＩ偶尔出现“一本正经胡说八道”的情况，本虽闹笑话，但若这一幕捅破至超越智慧端口，其酿成恶性惨案恰亦难料。
