艾隆·马斯克（Elon Musk），苹果联合创始人史蒂夫·沃兹尼亚克（Steve Wozniak）和稳定AI的首席执行官是广泛的科技行业的主要人物之一 ，他们签署了一封公开信 ，呼吁开发六个月的“停顿 ”，以开发包括Chatgpt在内的高级人工智能系统 。
这封信由非营利组织Life Institute的Future of Life Institute发表 ，并在撰写本文时拥有来自学术界和技术的1,100多个签署人 。
信中说：“具有人竞争智能的人工智能系统会对社会和人类构成深远的风险。 ”“最近几个月 ，AI实验室锁定了一场失控的竞赛，以发展和部署更强大的数字思想，而没有人甚至无法理解 ，预测或可靠地控制他们的创作者” 。
因此 ，这封信认为该行业应该在开发比GPT-4更强大的事物之前停下来思考 。如果这没有自愿发生，政府应该介入。
“我们呼吁所有AI实验室立即停顿至少六个月 ，对AI系统的培训比GPT-4更强大。此停顿应该是公共的 ，可以验证，并包括所有关键参与者 。如果无法迅速实现此类暂停 ，政府应该介入并提起暂停 。 ”
领先的签署者包括稳定AI的创始人兼首席执行官Emad Mostaque ，这是稳定的扩散文本到图像生成模型背后的装备，Pinterest的联合创始人Chris Larson ，加密货币公司Ripple Ripple ，深度学习Yoshua Bengio和Connorhy的联合创始人Chris Larson，Ceo of Ceo of Coceo of ai nii coco of ai conory coco。
当然 ，愤世嫉俗的人可能建议许多签署人可能只想一些时间来赶上比赛 。但是更多的东西没有明显的立即获得 。
此外 ，不可否认的是，过去几个月来，在大型GPT风格的AI模型方面已经看到了爆炸性的发展。仅采用打开AI的GPT型号 ，Chatgpt中看到的第一个GPT-3模型仅限于文本输入和输出 。但是 ，GPT-4是多模式的，支持文本 ，音频 ，视频和图像 。
新的插件可以使模型“眼 ”和“耳朵”迅速开发，允许AI模型发送电子邮件 ，执行代码并在现实世界中进行事情 ，例如通过Internet访问的书籍航班。
GPT-4的推理能力也是Chatgpt和GPT-3的重要提升 。例如，在美国法律考试中 ，CHATGPT在最低的10％中得分 ，而GPT-4的得分在前90％ 。
GPT-4现已用于创建Google Chrome扩展名和iPhone应用程序，后者从头开始 ，现在可以在官方的App Store上使用。GPT-4还成功地编码了类似于原始厄运的基本3D游戏引擎 。人们甚至给GPT模型制定了创建投资策略然后实施这些策略的任务 。
因此 ，即使您甚至在想提出问题的问题之前，也不难以查看这些模型如何对现实世界产生重大影响，即使它们变得有知觉。在这一点上 ，在GPT-4的创建者撰写的一篇论文中 ，人们担心该模型本身可以发展和追求不受欢迎或危险的目的。
“有些特别关心的人是制定和行动长期计划的能力，[62]具有能力和资源（“ powerSeeking”） ，表现出越来越“代理 ”的行为 。[64]在这种情况下 ，代理并不打算人性化的语言模型，而是指向系统的指定 ，例如 ，这些目标是指向系统介绍的，例如 ，这些范围可能会涉及这些范围 ，例如，这些范围可能会涉及这些范围 ，例如 ，这些范围却是在能力和指定的范围内，这些范围却不是为了何种范围，而这些范围可能是在这种情况下 ，而这些范围可能是在这种情况下 ，而这些范围可能是在这种情况下，而这些范围可能是在这种情况下 ，而这些范围可能会以con的能力为特定 ，那么这些目标是con的，这些范围却不是在范围内的 。实现特定的 ，可量化的目标；
同时 ，微软表示，其最新的GPT-4模型确实显示了人工通用智能的“火花 ”。任何人 ，这里的主要问题肯定是 ，这些模型在从BING搜索到电子邮件和办公工具的所有方面都会在公众面前大规模释放 。
一切都很好 。但是，同样 ，意外后果的范围似乎几乎是无限的。这有点令人恐惧 ，我们通常欢迎任何新的霸主可能出现的条件 。你知道，以防万一 。
