在过去的三年里，我们经历了非同寻常的炒作 人工智能。人工智能作为一个概念已经存在了近 70 年，但自 OpenAI 于 2022 年 11 月推出 ChatGPT 以来，讨论激增。
ChatGPT 使用一种称为大语言模型 (LLM) 的技术。它不是唯一的人工智能技术，但它似乎吸引了所有的注意力。该模型使 ChatGPT 和其他聊天机器人 写出令人印象深刻的散文甚至诗歌，并对尖锐的问题给出详细的答案。
但其中一些聊天机器人的结果也令人担忧，引起了一群人（许多人工智能创造者本人）的关注，他们警告开发人工智能使其变得“超级智能”的危险，这个术语的定义各不相同，很难确定。
这种担忧已经达到了极端——最近一本畅销书叫做 如果有人建造它，每个人都会死：反对超级人工智能的案例。许多末日论者认为，超级人工智能有可能导致人类灭绝，因此世界必须阻止其发展。
在题为“人工智能毁灭者”的播客节目中，作为主持人安迪·米尔斯的系列节目“最后的发明”的一部分，两名毁灭者（包括该书的作者之一）接受了采访。受访者警告说，因为即使是人工智能模型的创建者也不明白它们是如何工作的，也不明白为什么会产生这样的结果——其中一些模型相当令人担忧——一旦人工智能达到超级智能，几乎不可能控制它的行为。
有一些令人不安的报道。例如，一名青少年在房间里花了几个小时与聊天机器人讨论他是否应该自杀。聊天机器人鼓励他这样做，不幸的是，他这么做了。
最广泛分享的聊天机器人惊人结果的例子可能是《纽约时报》记者凯文·罗斯 (Kevin Roose) 的例子，他在 2023 年与微软 Bing 聊天机器人的对话导致了人工智能的爱的宣言。米尔斯在“最后的发明”系列的另一集中介绍了卢斯，他说他试图“测试它的护栏，看看它不会做哪些事情”。他询问聊天机器人是否存在“任何不被允许实施的黑暗欲望”。卢斯表示，随后“就脱离了轨道”。
