## 思考
### ChatGPT 之父 Sam Altman: 万物摩尔定律

[英文原文](https://moores.samaltman.com/) [中文翻译](https://zhuanlan.zhihu.com/p/577620007)

本文来自2021年Sam Altman的博客，他在文章中写了对人工智能革命的思考。我认为他自己总结的很好，下面是观点摘要：

  我在OpenAI的工作每天都在提醒我，社会经济的重大变革将会比绝大多数人认为的更快到来。越来越多人类的工作将被能够思考和学习的软件取代，更多的权力将从劳动力转移到资本上。如果我们的公共政策不做出相应的调整，最终，大多数人会比现在过得还要糟糕。

  我们需要设计一种制度拥抱这种技术化的未来，然后对构成未来世界大部分价值的资产（公司和土地）征税，以便公平地分配由此产生的财富。这样做可以使未来社会的分裂性大大降低，并使每个人都能参与收益分配。

  未来五年，会思考的计算机程序将可以阅读法律文件，并提供医疗建议；在接下来的十年里，它们将可以从事流水线工作，甚至可能成为人类的同伴；而在之后的几十年里，它们几乎可以做所有的事情，包括探索新的科学发现，扩大我们对”一切”的概念。

  这场技术革命势不可挡。当这些智能机器又可以帮助我们制造更智能的机器时，创新的循环往复将加快这场革命的步伐。随之而来的是三个至关重要的后果：

  1. 这场革命将创造惊人的财富。一旦有足够强大的人工智能「加入劳动大军」，很多种劳动力的价格（驱动商品和服务的成本）将逐渐归零。

  2. 世界将发生翻天覆地的变化，因此我们需要同样颠覆性的政策变化来分配财富，从而使更多的人可以追求自己想要的生活。

  3. 如果我们把这两方面的工作做好了，就能将人类的生活水平提高到前所未有的状态。

  由于我们正处于巨变的开端，因此人类有一个难能可贵的机会去打造未来。这种设计不会简单地解决当前人类面临的社会和政治问题，人类需要着眼于不久的将来，设计一套截然不同的政策体系。

  如果我们在制定政策时不着眼于未来，那人类即将面临重大的考验，就像我们把前农耕社会或封建社会的组织原则应用到当今社会，必然会导致失败一样。 

### [GPT-4 ，人类迈向AGI的第一步](https://orangeblog.notion.site/GPT-4-AGI-8fc50010291d47efb92cbbd668c8c893)

文章节选+翻译了本月最重要的一篇论文的内容，《通用人工智能的火花：GPT-4早期实验》

该论文是一篇长达154页的对 GPT-4 的测试。微软的研究院在很早期就接触到了 GPT-4 的非多模态版本，并进行了详尽的测试。

这篇论文不管是测试方法还是测试结论都非常精彩，强烈推荐看一遍，传送门在此 。[https://arxiv.org/pdf/2303.12712v1.pdf](https://arxiv.org/pdf/2303.12712v1.pdf)

[《GPT-4 ，通⽤⼈⼯智能的⽕花》论⽂内容精选与翻译](files/《GPT_4，通用人工智能的火花》论文内容精选与翻译_.pdf)

中文翻译全文在此：
[《GPT-4 ，通⽤⼈⼯智能的⽕花》](files/%E3%80%8AGPT_4%EF%BC%8C%E9%80%9A%E7%94%A8%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD%E7%9A%84%E7%81%AB%E8%8A%B1%E3%80%8B154%E9%A1%B5%E5%BE%AE%E8%BD%AFGPT%E7%A0%94%E7%A9%B6%E6%8A%A5%E5%91%8A%EF%BC%88%E5%85%A8%E4%B8%AD%E6%96%87%E7%89%88%EF%BC%89.pdf)

### OpenAI GPT4 技术报告

报告链接：
https://arxiv.org/abs/2303.08774

GPT-4的发布直接填补了之前GPT系列的跨模态信息生成能力的空缺，GPT-4目前已经可以同时接受图像和文本输入，来生成用户需要的文本。并且OpenAI团队在多个测试基准上对其进行了评估，GPT-4在大部分测试上已经与人类水平相当了。有很多学者分析，GPT-4相比前代的GPT-3.5以及ChatGPT”涌现“出了更加成熟的智能，其内部原因可能是投入了更大的训练数据库和训练算力，真有一些力大砖飞的感觉。但是不可否认的是，GPT-4仍然面临着生成”幻觉“ (Hallucination)的问题，即仍有可能产生事实性错误的生成文本。此外，GPT-4主打的多模态生成模式是否也会进一步带来生成具有政治导向、错误价值观、暴力倾向等内容的风险呢，那么如何灵活的应对这些局限性和风险性，对GPT-4的健康落地也具有非常重要的意义。

### [真·万字长文：可能是全网最晚的ChatGPT技术总结](https://www.techbeat.net/article-info?id=4766)

[原文链接](https://www.techbeat.net/article-info?id=4766)  [备份](files/simpread-真%20·%20万字长文：可能是全网最晚的%20ChatGPT%20技术总结%20-%20TechBeattech.md)

ChatGPT的强大能力是显而易见的，但对于人工智能领域不太熟悉的人，对这种黑盒的技术仍然会担忧或者不信任。恐惧通常来自于不了解，因此本文将为大家全面剖析ChatGPT的技术原理，尽量以简单通俗的文字为大家解惑。

### [OpenAI: Our approach to AI safety](https://openai.com/blog/our-approach-to-ai-safety)

* 英文原文: [《Our approach to AI safety》](https://openai.com/blog/our-approach-to-ai-safety)
* 中文报道：[界面新闻：OpenAI回应安全性质疑，公布保障AI模型安全方法](https://www.jiemian.com/article/9194641.html)

文章介绍了ChatGPT六个方面的安全部署，包括构建日益安全的AI系统、在实际使用中学习改进安全措施、保护儿童、尊重隐私、提高事实准确性，以及持续研究和参与。

## 近年重要思考与长文（2024–2026）

延续上文 2023 年的经典，下表整理了近两年关于 AI 未来、影响与人类处境的重磅文章、报告与演讲。链接均经核实、归属明确，优先一手来源。

| 标题 | 链接 | 作者 / 出处 | 简介 |
|---|---|---|---|
| Machines of Loving Grace | [链接](https://darioamodei.com/essay/machines-of-loving-grace) | Dario Amodei（Anthropic CEO） | 2024.10 长文，从乐观视角描绘强 AI 如何在生物医学、心理健康、经济与治理上"把一个世纪的进步压缩到 5–10 年" |
| Situational Awareness: The Decade Ahead | [链接](https://situational-awareness.ai/) | Leopold Aschenbrenner（前 OpenAI） | 2024.06 的 165 页系列长文，预测 AGI 在 2027 年前后到来，并引发智能爆炸与大国算力/安全竞赛 |
| The Intelligence Age | [链接](https://ia.samaltman.com/) | Sam Altman | 2024.09 短文，宣告人类即将进入"智能时代"，每个人都将拥有一支虚拟专家组成的个人 AI 团队 |
| Reflections | [链接](https://blog.samaltman.com/reflections) | Sam Altman | 2025.01 年终长文，首次明确"我们已经知道如何构建 AGI"，并把目标转向超级智能 |
| Three Observations | [链接](https://blog.samaltman.com/three-observations) | Sam Altman | 2025.02，提出 AI 经济学三观察：智能≈log(资源)、使用成本每 12 个月降约 10 倍、线性智能带来超指数价值 |
| The Gentle Singularity | [链接](https://blog.samaltman.com/the-gentle-singularity) | Sam Altman | 2025.06，提出"温和的奇点"——奇点不是爆炸时刻，而是逐点缓慢地与人类融合 |
| The Urgency of Interpretability | [链接](https://www.darioamodei.com/post/the-urgency-of-interpretability) | Dario Amodei | 2025.04，警告我们对模型"黑箱"几乎一无所知，呼吁在失控前打开它 |
| Core Views on AI Safety | [链接](https://www.anthropic.com/news/core-views-on-ai-safety) | Anthropic | 阐述其 AI 安全战略的纲领性文章，系统说明对进展时间表、风险来源与对齐路线的核心立场 |
| Software Is Changing (Again) / 软件 3.0 | [链接](https://www.ycombinator.com/library/MW-andrej-karpathy-software-is-changing-again) | Andrej Karpathy（YC, 2025.06） | 提出"软件 3.0"：以自然语言为编程层，强调"部分自主"与"为 agent 而构建" |
| "We're summoning ghosts, not building animals" | [链接](https://www.dwarkesh.com/p/andrej-karpathy) | Karpathy × Dwarkesh（2025.10） | 提出"这是 agent 的十年"，并以"我们在召唤幽灵，而非培育动物"概括 LLM 与生物智能的差异 |
| 从扩展时代走向研究时代 | [链接](https://www.dwarkesh.com/p/ilya-sutskever-2) | Ilya Sutskever × Dwarkesh（2025.11） | Ilya 判断"扩展时代"近尾声，2026 起重回"研究时代"，并谈超级智能与泛化能力不足 |
| The Bitter Lesson | [链接](http://www.incompleteideas.net/IncIdeas/BitterLesson.html) | Richard Sutton | 2019 经典短文，至今高频被引：能借助算力扩展的通用方法，终将大幅胜过依赖人类领域知识的方法 |
| International AI Safety Report 2025 | [链接](https://internationalaisafetyreport.org/publication/international-ai-safety-report-2025) | Yoshua Bengio 主编 | 约百位专家、多国支持的全球性 AI 安全权威报告，被视为 AI 领域的"IPCC 式"评估 |
| AI 2027 | [链接](https://ai-2027.com/) | Daniel Kokotajlo 等（2025.04） | 引发广泛讨论的情景预测，逐月推演从 2025 到智能爆炸的两种结局 |