Andrej Karpathy 近期提出，大型语言模型（LLMs）正在引发软件开发的根本性变革，他将此称为“Software 3.0”。他认为 LLMs 是一种新的计算机，可以用自然语言编程，具备类似早期计算机、公用事业甚至操作系统的特性。面对 LLMs 既超人又易错的本质，我们需要学习如何高效协作，构建人类参与验证的部分自主产品，并为 AI agents 优化接口和数据格式。
Karpathy 的“Software 3.0”愿景
Andrej Karpathy 在一次演讲中阐述了他的观点：大型语言模型（LLMs）正在推动软件开发进入一个新时代，他称之为“Software 3.0”。他将 LLMs 视为一种新型计算机，其独特之处在于可以使用自然语言（特别是英语）进行编程。Karpathy 认为，这代表着计算领域的一次重大升级，其影响可与早期计算机时代相媲美。
他将 LLMs 比作“人类精神”，是基于海量数据训练而成的随机模拟器，具备一种涌现出的心理特性，使其在某些任务上表现超人，但在其他方面又容易出错。鉴于这种特性，Karpathy 强调了学习如何与 LLMs 高效协作的重要性。他建议，与其立即追求完全自动化，不如专注于构建人类仍在验证环节中的部分自主产品。此外，他指出 LLMs 正成为数字信息的重要消费者，与使用 GUI 的人类和使用 API 的程序并列，因此我们应该开始构建为这些 AI agents 优化的接口和数据格式。
社区讨论与实践挑战
Karpathy 的演讲在社区中引起了广泛关注和赞赏，许多人认为这是关于 AI 驱动软件未来最扎实、清晰的愿景之一。大家赞赏他以现实主义的方式解释复杂技术概念和战略方向的能力。关于“Software 3.0”的比喻引发了讨论：一些人认为这个版本号可能令人困惑，暗示着对传统代码的取代，而实际上传统代码仍将至关重要；另一些人则认为这是一个恰当的术语，代表着一种突破性的变化，可能涵盖更广泛的能力。
一个突出的实际痛点是集成 LLMs 的“DevOps 摩擦”，特别是为了安全处理 API keys 而需要搭建后端服务，这激发了对类似“Firebase for LLMs”的开源解决方案的兴趣。另一个热门话题是“结构化输出”（如 JSON 模式）