薛澜
【内容提要】
当前，第四次工业革命的浪潮席卷全球，把物理空间、网络空间和生物空间有机地联系在一起，深刻地改变了人类社会的生产和生活，并将对人类未来的发展产生更加深远的影响。与此同时，在这些科技创新的应用和扩散过程中，也对我们的经济社会各方面产生了巨大的冲击，带来了一系列伦理和治理方面的挑战。例如，机器人技术的广泛应用对社会就业问题的影响，人工智能的广泛应用对个人隐私的侵犯，基因编辑技术的广泛应用带来的社会伦理问题等等。这些冲击和挑战使得我们在推进科技创新发展的同时，也必须把科技创新治理的问题提上日程。从历史上看，中国在错过了前三次工业革命的重大发展机遇后，通过多年的不懈努力，终于能够与其它发达国家一起站在了第四次工业革命的前列。如何在推动新兴科技创新发展的同时也能够加强科技创新治理，引导第四次工业革命的健康发展，不但是中国实现两个百年奋斗目标的必然之举，也是推进人类命运共同体建设的应有之义。本文将围绕这些主题进行分析讨论。
笔者认为，第四次工业革命发展下的科技创新治理可从以下四个方面进行简要的介绍。
第一，科技创新在人类历史发展中的作用。纵观人均GDP的发展和历史年代的关系图，不管是秦皇汉武还是其他朝代的发展，所谓的人均GDP均没有较大的变化，而真正发生骤变的实际上是在18世纪后期，即第一次工业革命时期。可见，科学技术的发展对人类的进步起到了巨大的作用，而科技创新对产业的发展影响也是十分深刻的。例如，柯达公司1975年最早掌握数码相机技术，但为保护其胶卷市场而放弃商业化。日本富士公司与东芝公司合作于1988年并将数码相机投放市场，而柯达则资不抵债已经于2012年1月19日申请破产保护。再之，科技创新对日常生活的影响也是潜移默化的，例如半导体技术与基因检测技术的发展与应用。七十年代初至今，英特尔芯片的晶体管数量从原本的几个增加到几十亿个，如此庞大的数量增幅造就了今天的旗舰手机，也成为了支撑现代信息社会的核心；由于科技的革新，现代基因测序的成本下降的速率远快于基于摩尔定律所计算的速率。听闻今后的基因测序可能会有更为广泛的应用，而是否执行又是另一个值得思考的问题。
第二，第四次工业革命及特点。第四次工业革命实则为各项现代科技的发展下的物理空间、网络空间和生物空间的高度融合。其特点有不同的总结方式，笔者认为，应偏重于从数字技术的角度对此进行阐述。首先，数字转型为核心，人类经济社会活动数字化；第二，天地万物互联互通，具体表现为以5G为代表的现代信息技术推动数字的流动，而人们对于数字的分析不断产生新的信息和价值；第三，技术扩散的速度、范围及规模前所未有，其表现为无实量的扩大规模、全景式的范围经济及无间歇的变化；第四，对数字转型中的核心变量的高度关注，例如数字产权、数字资源、经济价值的理解，时空概念的变化（例如数据的跨境流动）和平台与生态的兴起（对传统组织的突破）等。
第三，第四次工业革命带来的收益与挑战。其中一部分是直接的收益与挑战，例如：清华大学程京教授的博奥公司提供的耳聋基因检测使得每年约1万人免于致聋，目前已纳入到北京市的医保；普华永道会计师事务所（PwC）对人工智能的经济增长影响及其在世界各个地区的分布做了全面评估。他们认为，人工智能到2030年可能对全世界的GDP收益增加15.7万亿美元。当然，该收益在不同的国家和地区的增幅是不一样的，从该角度分析，中国则是全球经济增长环境下最大的受益者；另外，气候变化也是我们面临的一个大问题，现在的可再生能源应用，就像锂电池成本的下降速度、光伏成本的下降速度，都是由于技术的应用才得以实现的，而本世纪是否能够摆脱化石能源，中国也对此做出过承诺，这和可再生能源的使用高度相关。
当然，这些技术的应用同时也带来了一系列的问题。例如，人工智能的应用中所出现的预测算法的种族偏见。美国的医疗保健系统使用商业算法来指导健康决策。Obermeyer等（2019）在《Science》发表的论文调查了一家医院，在该医院所使用的算法中发现了种族偏见的证据。因为算法使用医疗成本作为医疗需求的近似替代，然而以往花费在有同样需求的黑人病人身上的钱更少，因此算法错误地得出了黑人病人比同样有病的白人病人更健康的结论。结果发现，黑人患者入院的疾病门槛比白人更高，二者入院条件相差17.7% 至46.5％，医疗护理实际上并没有顾及到最需要的那些人。最后，文章作者将所存在的偏差问题告知所提供的算法的高科技公司，公司随即进行了产品更正。该案例表明，公共机构在使用AI时应保持警惕和积极主动。同时政府应时刻意识到这种有害的社会影响。
该类技术应用还造成了新的就业问题。长期以来，笔者通过科技创新层面的研究，所持的判断是科技创新总是有益的，尽管有几率会替代一些传统产业或工艺，但一定会创造出更多的就业机会。然而，MIT的若干位经济学家研究表明，从1987年至2017年，美国就业增长放缓的原因归咎于加速的失业效应和衰落的复职效应的不平衡。如图1所示，蓝线识为创造就业的指数，红色识为替代就业的指数。30年来，尽管创造就业率增长了10%，却远小于消灭就业的指数速率。因此，在实际情况下的技术应用对就业的负面影响是值得高度关注的。
其次，除了第四次工业革命所带来的直接的正面、负面的影响，其技术所带来的不确定性才是真正令人深度困扰的，人们需从整体社会的角度全面考虑该技术应用的利和弊有哪些。例如基因检测和基因修复技术，置于全社会的角度，通过技术解决病例性疼痛等行为是可以被大众所接受的；倘若出于个人需求或私欲，通过修复基因从而弥补身高、智商、视力等先天性的缺陷，是否值得被理解？《Economist》杂志曾坦言任何的基因缺陷都可被人为修正，一个人体的一切都可打造成世界级运动健将的体格，这里涉及到一个认知性的问题，试问改造完的个体是否依旧可被认为是原本的身份？怎样程度的修复才可被定义为合理且被允许的？一系列跟基因编辑、基因修复的相关问题就这样摆在我们面前。人工智能亦是如此。尽管目前许多人工智能的专家把现在的人工智能定义为“弱人工智能”，然而随着相关技术的革新与飞跃，强人工智能的诞生及其能做的事情是超乎创造者想象的。我们是否要实现这样的人工智能？这背后有许多的不确定性需要我们考虑。
下面来介绍几个经典案例。
案例一：CRISPR-CAS9低成本、易获取性的监管难度
2020年10月7日，瑞典皇家科学院决定将2020年诺贝尔化学奖授予德国马克斯·普朗克病原学研究所的Emmanuelle Charpentier博士以及美国加州大学伯克利分校的Jennifer A. Doudna博士，以表彰她们在基因编辑领域的贡献。Emmanuelle Charpentier和Jennifer Doudna在2012年发现CRISPR / CAS9基因剪刀，极大地降低了编辑基因的技术门槛，该技术非常易于使用且精准，成本低廉，提高基因编辑技术的可获取性。然而，该突破却触发了Bio DIY的监管难题。因为，监管像CRISPR这样容易获取和低成本技术的使用，特别是防止该技术的滥用，对当局来说可能是一个挑战，随着技术发展，这一挑战只会更大。
案例二：基于合成生物学的薄荷醇生产研究
生物合成薄荷醇的研究——薄荷醇是世界上用量最大的香料，年消耗量超过40000吨。传统采取天然提取或化学合成的方式，2015年科学家在实验室已经利用重组DNA大肠杆菌证明了基于微生物平台的生产可行性。然而，成果的背后是两大需要面对的难题。其一，经济与社会冲击应如何控制？全球薄荷醇生产主要集中在南亚等欠发达地区，天然来源的生产占比达70%，产业链重塑可能导致相关农民失去生计。其二，公众的接受度如何考量？选择天然还是非天然？公众对于新型生产方式的风险感知和接受程度是无法估计的。
案例三：基因驱动灭蚊
英国帝国理工学院的研究人员今年5月12日发表在《Nature Biotechnology》上的研究，显示他们找到了一种有效的“灭蚊”方法。他们基于CRSPR，对一群冈比亚按蚊（传疟媒介之一）进行了遗传改造，使其繁育出更多的雄性后代，从而影响其种群性别比例，达到消灭疟疾的效果。值得争议的是，“基因灭蚊”可能会导致比其父辈更加强大的变种蚊的出现，且释放新物种对于生物多样性和生态稳定具有一定的破坏性。
案例四：世界第一“人工智能城市”
特斯联（北京）科技有限公司和丹麦建筑设计公司BIG已开始在重庆建设智慧城市试点区，该区域由大量AIoT（智能物联网）传感器和移动机器人构成。该类人工智能城位于重庆高新技术产业开发区内，是一个占地13.5万平方米的“云谷”。总体规划的第一阶段包括科技总部建设，目的是让区域内生活的全面实现自动化，而无需真人在场。尽管一切条件看似甚好，但是有观察者对个人隐私以及依靠AI系统管理整个城市街区的有效性表示担忧。这样的社区是否在实践中能受到住户的欢迎呢？结果尚不得知。
第四，为了解决上述问题，我们需通过有效治理来促进第四次工业革命健康发展。有以下三个方面值得考虑：
首先，夯实基础，加强关于第四次工业革命的基础研究。鉴于中国目前对第四次工业革命的研究，趋于成果的努力还需鼓励支持。相较前三次工业革命的参与度，此次中国算跻身于第一班车上。纵然如此，处于首班车的我们依然有许多不足之处。笔者对中国在AI领域的研究技术水平略有了解，倘若中国在人工智能的应用层面处于领先位置，算法或硬件层面却仍有追赶的地方。因此，中国需支持基础和原创研究，加强对以深度学习为代表的底层算法模型的支持，建立专属中国的AI生态体系。再者便是如何构建良好的学科生态。前段时间听闻部分学校为了学科评估把评不到A+或者A的学科撤删了。然而，科学的发展就好似培养一个生态，既需要大树也需要小草，有些看起来不那么重要的学科，实际上对科学的整体发展起到了至关重要的作用。我们需保持研究领域的可持续性，多元性，和对基础问题的持续关注。其三便是硬科学与软科学的并重。高度关注“NT”“BT”“IT”等科技的发展势头固然好，却千万不能忽视相关社会科学与人文学术问题的研究。其四是深化科技体制改革，促进创新主体的分工与合作机制，例如促进企业、研究机构、高校之间的合作机制。因此，加强基础研究是我们必须高度关注的。
其次，引导应用，把社会价值纳入技术发展选择方向。首先，我们需时刻关注社会价值并加强对社会价值选择的研究和引导，通过落实基础性工作来真正了解社会对基础问题的认识。世界经济论坛通过调查新兴科技对人类社会的影响得出以下结论：在经济、环境、社会、地缘政治、技术五大方面位居榜首的分别是“人工智能和机器人”“地质工程”“空间技术”“人工智能和机器人”和“人工智能和机器人”。显然，AI技术是大家所高度关注的，人们基于该技术取代旧工艺的担忧并非空穴来风。第二，我们需重视数据安全问题，即数据收集使用中如何保证安全准确的问题。人工智能发展依赖大数据的运作，但如果数据质量不高，或有人对数据动手脚，是否会导致人工智能系统决策产生系统偏差？第三，个人隐私保护。典型的有如何看待人脸识别带来的争议。目前天津市已经针对该情况进行立法，对人脸识别技术的使用进行限制，这也意味着并不是所有的新型技术皆可无限制地运用在任何地方，而更多需要将人的价值观纳入到技术的选择过程中。大数据时代，个人数据共享是社会收益的基础。然而，个人数据被收集整理后可使得我们每个人都赤身于整个社会，我们需考虑共享与隐私保护之间的平衡。第四，个人自主性。信息推送的利弊是我们当前需要考虑的。当成千上万的信息自发性地迎面扑来时，我们如何避免信息茧房，又如何避免通过被动获取各种信息而丧失培养自主的分析能力与判断能力？
第三，敏捷治理，如何合理地规制第四次工业革命技术的发展？其中涉及到两个方面，其一是推动它的创新性，其二是合理规制它的应用。首先，第四次工业革命技术的应用和推广带来了新产业、新业态、新模式，一方面为经济社会发展带来了新的活动力，但也对政府的管理带来了新的挑战。新经济新业态在创立初期，面临着市场定位模糊、管理归口不清晰、合法合规缺失的问题，当前火爆的直播带货、线上教育、互联网医疗都不同程度地存在这样的问题，亟待出台相应的政策和规范。例如，“春雨医生”涉及到互联网医疗“首诊”“复诊”的合法性；与“蜜芽平台”相关联的最担心的问题便是“直播带货的合法性”； “字节跳动”所暗藏的合法性风险让企业数据难以实现交易、共享等。在这类情况下，我们如何让它既有合理发展的空间又能够健康运行，关键在于如何创造宽松的发展环境。另外，新经济新业态的发展是一种具有高度创新性的生产活动，存在跨行业、跨领域的经营活动，在当前条块化的政府治理结构中，多个不同行业的监管部门、政策法规、监管工具存在很大差异，客观上造成了新经济新业态与现有政策体系的不匹配，导致了新兴业态治理中的政府政策难以有效地帮助企业，甚至还冲击到了企业的现有业务，使企业只能在现有政策的夹缝中求生存。例如，“作业帮”已有的教育政策难以适应线上教育的快速发展；“零氪科技”的互联网医疗难以获得医院的税收减免和补贴；“罗辑思维”面临着新兴媒体难以获得网络出版和视听牌照，身份认同缺失的问题。再者便是行业监管执法中存在的“一刀切”问题。政府部门在新经济新业态监管的执法过程中，难免会遇到新情况、新问题，而在规则不明、层层加码的情况下，就会导致发生政策执行“一刀切”问题。“一刀切”会增加企业的合规成本，尤其是在创业初期，极大可能扼杀摇篮中的企业。典型案例就如转转网事件，疫情期间因缺乏医疗资质，二手口罩交易被直接叫停。一旦新业态有零星问题，就把整个业务一棍子打死，会导致新生业态成长面临极大的困难。因此，在监管中需要留有一定的缓冲空间。
何谓敏捷治理？敏捷治理可归结为宽容审慎、底线思维、完善政策、及时升级这四个要点。当今世界，新经济新业态存在多种产业的交叉，政府与市场的边界也愈发模糊。因此更需要完善现有的治理体系，扩大政策制定中利益相关者的咨询范围，进行包容性的决策。值得注意的是，在新经济的治理中，包容审慎的监管不是任由新兴产业野蛮生长，成为法外之地。政府对于信息安全、数据隐私、生物伦理等原则性问题要树立底线思维，明确监管原则，最大程度地控制风险蔓延。与此同时，我们也需要转变治理观念，凡事稳步推进，通过多元主体的协商将发展的问题在发展中解决。政策的制定不能一劳永逸，应当以“补充附件”的形式，持续地补充完善现有政策的真空和不足。
作为第四次工业革命的重要组成部分，新经济新业态的发展蕴含着难以估量的潜力，有助于改善社会福祉，代表着新兴产业的市场前景。对于新经济新业态的监管需要充分借鉴敏捷治理的思想，在治理的灵活性和全面性上持续改进。治理行动方面需做到“反应要快，力度要轻”。反应快可以减少企业的合规成本，让企业能够尽早调整经营策略，减少商业模式和技术路线调整带来的损失；力度轻可以通过政府的引导帮助企业调整方向并知晓规制的红线。与其一刀切式的关停，还不如让子弹飞一会，减小或避免措施过严、过死而给企业带来致命伤害的风险。
中国社会所蕴藏的力量是巨大的，中国人民对新科技的发展亦是企盼心切。自国家新一代人工智能治理专业委员成立以来，组织以极快的速度成立了专家组，针对目前所面临的问题出台了政策，并通过众筹的方式吸纳了许多有关人工智能治理的建设性建议。历经了数月的精心预备，委员会于2019年6月17日正式发布《新一代人工智能治理原则——发展负责任的人工智能》，该原则旨在更好协调人工智能发展与治理的关系，确保人工智能安全可控可靠，推动经济、社会及生态可持续发展，共建人类命运共同体，发展负责任的人工智能。我们希望在此基础上能进一步推出其他相关的伦理的指引和应用的准则，从而能够真正促进第四次工业革命的合理发展。
