硅谷领导人告诉我们，第四次工業革命将带来难以言状的好处。他们说，这场革命已经开始，并且在加速前进，其动力来自人工智能和其他技术。他们并且警告说，我们如果赶不上这趟潮流，我们只能望尘兴叹。
　　这场剧变—它也反映了机器人、生物和纳米技术、5G和物联网（IoT）的影响—是一场通用的革命。其领导人及他们的支持者承诺，它将帮助社会应对气候变化，解决贫困和不平等问题，以及阻止生物多样性的急剧丧失。
　　革命可能会这样展开，也可能不会。
　　我的工作越来越关注两个世界的碰撞。技术圈（technosphere）包括人类创造的东西，估计相当于30万亿吨，或地球表面每平方米50公斤。生物圈是覆盖在地球表面的薄层，也是生命茁壮成长之处，人类在这里享受了1万年的相对稳定的气候。
　　我第一次对这一关系感兴趣，是在探索半自动化全球疾病控制预警系统成长的时候。这让我深刻体会到技术对人、组织和机器行为的影响。技术圈就在我们身边。但是关于技术圈的设计和方向的决定，必须反映社会目标和地球的状态。因此，建设一个更可持续的未来需要我们重新思考一些关于技术，特别是人工智能作用的根深蒂固的假设。
　　最大的当务之急，可能是扩大主流“人工智能解决气候变化”的叙事。该叙事关注使用人工智能来预测气候，或使用人工智能优化能源系统或交通流。但气候系统与生物圈及海洋和农业生态系统，有着根本性的联系。要想负责任地开发和部署人工智能以应对紧迫的可持续性挑战，就必须接受气候系统与活生生的地球的这种联系。
　　对于构建地球和人类的长期韧性而言，界定人工智能在优化和效率方面的贡献，就是在缘木求鱼。韧性—从冲击中恢复和适应不断变化的条件的能力—需要多样性和冗余性。一个城市如果只有一条高速公路通过，就很容易因为遭受山洪爆发或恐怖袭击而陷入瘫痪。拥有多条出路的城市，韧性就更好。
　　经“产出（比如特定作物的产量）最大化”优化的系统，容易受到冲击和环境变化的影响。利用预测分析和自动化“优化农田以获得最高产量”是一项诱人的策略，但它可能加速当地生态知识的损失，扩大现有的不平等，以及为了应对商业压力而增加对单一作物的依赖。
　　人工智能帮助应对气候挑战的潜力不在于“优化”系统，而在于提高人们成为生物圈管理者的能力。但在引导智能机器促进生物圈管理方面，存在两大风险。
　　第一个是炒作。随着地球和气候系统压力的增加，我们对于人工智能方案帮助“解决”极其复杂的社会、经济和环境挑战的希望也日益提高。鉴于我们对技术演化的了解，我们对人工智能是否真的（以及对谁）提供巨大气候益处的了解有限。现有的评估往往非常乐观。随着人工智能技术逐渐演化和扩散，所有主张都必须经过严格和独立的测试。
　　第二个风险是加速。人工智能系统以及物联网、5G和机器人等相关技术的部署，很可能导致生物圈韧性的更快丧失，以及支撑这些技术的化石燃料和原材料开采的增加。例如，石油和天然气公司正日益寻求通过数字化来削减成本。据估计，未来5年，化石燃料行业的数字服务市场将增长500%，每年为石油生产商省约1500亿美元。
　　数字化、自动化和人工智能在提高可持续性和优化开发方面有着尚未利用的潜力。可持续地开展第四次工业革命，我们需要从现在开始更好、更强地引导其中的技术。