2022年10月1日，周六，上午九点。
陈诺坐在创新学院的教室里，面前坐着第三批学员。他在白板上写下了一行字：“学会制造灯罩。”
“同学们，上一节课我们讲了‘不能拒绝阳光’。”陈诺说，“今天我们来聊聊‘学会制造灯罩’。”
马强举手问：“陈老师，‘制造灯罩’是什么意思？”
陈诺说：“阳光虽然好，但如果没有灯罩，阳光会刺眼，甚至会灼伤皮肤。同样，技术虽然好，但如果没有防护措施，技术也会带来伤害。所以，我们需要学会制造‘灯罩’——也就是技术的防护措施。”
刘志强举手问：“陈老师，那具体怎么制造‘灯罩’呢？”
陈诺说：“有三个层面。第一，技术层面的灯罩。比如，AI系统中的隐私保护技术、安全防护技术。具体来说，包括差分隐私技术、联邦学习技术、同态加密技术等。这些技术可以在不暴露原始数据的情况下，实现数据的分析和处理。第二，制度层面的灯罩。比如，伦理审查制度、法律法规。具体来说，包括AI伦理认证体系、数据保护法、算法责任法等。这些制度可以对技术开发者和使用者形成约束。第三，文化层面的灯罩。比如，科技伦理教育、公众科普。具体来说，包括在学校开设科技伦理课程、在媒体上普及AI知识、在社会上倡导负责任的创新文化。”
张晓梅举手问：“陈老师，您能举个具体的例子吗？”
陈诺说：“好。以AI伦理认证体系为例。这个体系就是一个‘灯罩’。它通过对AI系统进行伦理审查，确保AI技术不会被滥用。这就是技术层面的灯罩。同时，我们还在推动立法，将伦理审查纳入法律框架。这就是制度层面的灯罩。此外，我们还在学院开设科技伦理课程，培养学生的伦理意识。这就是文化层面的灯罩。”
当天下午，陈诺组织了一场小组讨论。每个小组要设计一个“灯罩”——针对某一项技术的防护措施。马强所在的小组选择了人脸识别技术。他们设计的“灯罩”包括三个部分：第一，技术层面——在系统中加入差分隐私技术，确保个人数据不被泄露。差分隐私技术通过在数据中添加随机噪声，使得攻击者无法从输出结果中推断出任何个体的信息。第二，制度层面——建立人脸识别技术的使用许可制度，任何机构使用人脸识别技术都必须获得许可。许可分为三级：一级许可用于公共安全领域，由省级公安机关审批；二级许可用于商业领域，由市级市场监管部门审批；三级许可用于个人用途，只需备案即可。第三，文化层面——开展公众教育，让人们了解人脸识别技术的利弊。具体措施包括在社区举办讲座、在学校开设课程、在媒体上发布科普文章。
陈诺听完他们的汇报，点了点头：“很好。你们的设计很全面。特别是差分隐私技术的引入，显示了你们对技术细节的关注。而且你们还考虑了分级许可制度，这是一个很务实的做法。不同风险级别的应用，对应不同严格程度的监管，既保证了安全，又不至于过度管制。”
刘志强所在的小组选择了自动驾驶技术。他们设计的“灯罩”包括：第一，技术层面——在系统中加入冗余传感器和故障自诊断系统，确保在单个传感器失效时仍能安全运行。第二，制度层面——建立自动驾驶事故的责任认定机制，明确在事故发生时，是驾驶员的责任还是系统的责任。第三，文化层面——开展公众教育，让人们了解自动驾驶技术的局限性和安全性。
陈诺听完，点评道：“你们的设计也很好。特别是责任认定机制，这是一个很现实的问题。目前的法律体系还没有明确的规定，你们提出的思路很有参考价值。”
当天晚上，陈诺回到家，坐在书房里，拿起那本旧笔记本，写下了一行字：“2022年10月1日，我在课堂上讲了‘学会制造灯罩’的道理。学员们分组设计了针对不同技术的防护措施。马强的小组设计的人脸识别技术防护方案很出色，涵盖了技术、制度、文化三个层面。刘志强的小组设计的自动驾驶防护方案也很有见地。我知道，制造灯罩是一个长期的过程，但只要开始做了，总会越来越好。就像古人说的，‘千里之行，始于足下’。”