1. 合成智能

1.1. 在工业时代之前，整个社会的生产力受到极大限制，因为能源是一种稀缺资源

1.2. 回顾历史时，我们往往会通过工业革命带来的最糟糕的产物来看待它

• 1.2.1. 城市因获取蒸汽动力需要燃烧煤炭而蒙上黑烟

• 1.2.2. 工人在苛刻的工厂里从事危险的工作，几乎没有任何权利

• 1.2.3. 童工现象盛行

• 1.2.4. 生活条件变得更加艰苦，人们缺少社交

• 1.2.5. 贫民窟的拥挤与都市的孤独并存

1.3. 在日益商业化的世界里，人们之间的关系更多基于利益交易，因而削减了彼此互惠和互信的机会

1.4. 全球范围内的经济发展不均衡，人们对自然资源的新需求强化了已经具有剥削性的殖民关系，并造成了全新的不平等

1.5. 技术驱动越强大的社会，就越需要具备更高教育程度的民众

1.6. 合成能源和工业化一直是极具人性化的力量

1.7. 食品等各类商品和信息生产效率的提升最终促进了社会发展和进步

• 1.7.1. 更公平的法律、更频繁的经济文化交流、日益完善的社会福利系统，以及日益受重视的个人权利和自由

• 1.7.2. 曾几何时，几乎所有的人力资源都集中投在种植粮食和屠宰牲畜上

• 1.7.3. 蒸汽机通过用合成人力增强实际人力，以指数级的方式极大地扩展了人类的可能性

• 1.7.3.1. 它为人们走向更丰富、更多样、更有尊严且人性化的生活开辟了一条道路

1.8. 合成智能可以像合成能源一样扩展人类的潜力，激发人类的能动性

• 1.8.1. 这是一条让人类走向更充实、更人性化生活的道路

2. 服务、合作于人的AI

2.1. AI应该是人类个体意志的延伸，并且在自由精神下，尽可能广泛和公平地分布

2.2. 类似推荐服务和新闻筛选等正被使用的AI功能，你通常也并没有明确表示要使用它们

• 2.2.1. 你只是在遵循AI的开发者为你设定的路径

• 2.2.2. 在这些情境下受到AI影响的人并没有明确选择使用它

2.3. ChatGPT

• 2.3.1. 用户必须主动选择它们，才能使用

• 2.3.2. 一旦用户选择使用，就可以以开放、自主的方式利用它们

• 2.3.3. 有了一个高度可访问、易于使用的AI工具，它明确与你合作并为你服务，而不是凌驾于你之上

• 2.3.4. 它将个体用户置于体验的核心

2.4. 迭代部署有着坚实的技术、科学的监管和严谨的社会学理论基础

• 2.4.1. 在技术方面，它遵循经典的硅谷风格，依赖用户体验和明确的用户反馈来指导后续的开发工作

• 2.4.2. 关注监管需求，逐步变革，以便控制潜在负面影响带来的冲击

• 2.4.3. 在社会学角度，它给予个人和社会足够的时间去适应它的这些变化

2.5. 罗马不是一天建成的，罗马人也不是一天养成的

2.6. 关键问题是信任

• 2.6.1. 对技术的信任仅仅是个开始

• 2.6.2. 信任始于接触，并随着人们对新事物的使用而发展

• 2.6.2.1. 一旦你了解某物的本质及其功能后，你就会开始信任它

• 2.6.3. 信任的基础是长期的一致性

2.7. 要想以民主、负责任、合乎伦理且高效的方式开发AI，我们必须吸纳不同公众的广泛参与，并持续收集公众的反馈

2.8. 仅仅制定关于AI的规则是不够的，信念、规范和共同价值观也同样重要

2.9. 在数字网络时代政府治理的一个悖论特征是，民主化程度最高的社会，往往也是最难推动变革的社会，喧嚣嘈杂凌驾于共同体与共识之上

3. 主要群体

3.1. 问题的答案只能在长时间不断争论的过程中慢慢显现，这与人类每次创造变革性技术时的情形如出一辙

3.2. 末日论者

• 3.2.1. 末日论者认为我们正走向一个糟糕的未来，最坏的情况是，超级智能、完全自主的AI可能不再与人类价值观保持一致，甚至可能决定彻底毁灭人类

• 3.2.2. 或许会留下一小撮技术人员作为替扫地机器人复仇的工具，让他们留下来打扫卫生

3.3. 悲观论者

• 3.3.1. 既对AI持强烈的批评态度，也对末日论者严厉指责

• 3.3.2. 支持运用具有限制性的、自上而下的管理方式，认为AI的开发和部署应该由官方监管，发布和运行应由监督机构严格监测和控制

• 3.3.3. 悲观论者主张暂停、禁止AI的开发和建立自上而下的许可机制

3.4. 乐观论者

• 3.4.1. 认为AI带来的革新和生产力的提升等积极影响将远远超过其产生的任何负面影响

• 3.4.2. 想要一条畅通无阻的跑道和完全的自主创新权

• 3.4.3. 他们想要在绝对自由的环境中构建AI，通常他们会假设以此构建AI带来的最终影响是增强人类的能动性

• 3.4.4. 乐观论者要求创新自由

3.5. 繁荣论者

• 3.5.1. 从根本上是乐观的

• 3.5.2. 相信AI可以在无数领域加速人类进步

• 3.5.3. 像AI这样具有变革性和多样性的技术不能也不应该单边开发和部署

• 3.5.4. 尽管他们并不完全反对政府监管，但他们认为开发更安全、更公平、更有用的AI工具的最快且最有效的方法是让具有不同价值观、不同意图的多样化用户群体来使用这些技术

• 3.5.5. 倡导在现实条件允许的情况下用户能广泛参与AI的开发和部署，这正是迭代部署的意义

• 3.5.6. 繁荣论者则认为创新自由和监管义务都很重要，我们必须在两者之间找到适当的平衡

3.6. 这些群体都贡献了独特且宝贵的见解，挑战了假设，并拓展了我们的集体认知边界

4. AI赋能进化论

4.1. 超级能动性是指在AI技术的赋能之下，个体及集体能够突破限制，实现潜能的最大化发挥

• 4.1.1. 不仅代表了个体能力的提升，更强调这种提升如何在社会层面产生累积效应，使得每个人都能受益，并有机会成为更好的自己

4.2. AI的发展本身更像农业，就好比你播下一颗种子，看着它生长并适应周围的环境

• 4.2.1. 你了解哪些作物在哪些地方最适宜生长，继而根据所发现的问题和将面临的挑战，制定可能缓解这些问题的解决方案来对其生长进行干预

• 4.2.2. 随着时间的推移，你的知识会增加，你的技术会提升，你的产量会增长