高校科技伦理教育 的三重原则******
【专家视角】
作者 ：谢惠媛、常舒铭（分别系北京航空航天大学马克思主义学院教授 ，北京航空航天大学马克思主义学院硕士研究生）
随着科技 的快速发展，科技伦理治理问题日益成为社会各界 的关注重点 。加强科技伦理治理 ，需要发挥教育 的基础性和关键性作用 。中共中央办公厅 、国务院办公厅印发 的《关于加强科技伦理治理 的意见》（以下简称《意见》）明确指出 ，要重视科技伦理教育，“将科技伦理教育作为相关专业学科本专科生 、研究生教育 的重要内容，鼓励高等学校开设科技伦理教育相关课程，教育青年学生树立正确 的科技伦理意识，遵守科技伦理要求”。作为培育科技创新领军人才的重要摇篮，高校应加快推进科技伦理教育 ，把科技伦理纳入教学，培养德才兼备 、可堪大用、能担重任 的栋梁之才 。
高校科技伦理教育要取得成效，不仅要遵循科技伦理治理的总体要求，而且要尊重教学规律 ，聚焦教育对象特点。具体而言 ，应遵循制度与意识并重 、目标与责任并重 、规制与引领并重等三项原则。
制度与意识并重
制度具有规范性和导向性 ， 是开展有效治理的重要保障 。然而 ，单凭制度本身不足以激发遵守规范的自觉，不足以从源头上遏制违法违规行为的发生。事实上，一项制度的贯彻落实从根本上需要深层的伦理意识和道德观念作支撑。就行为性质而言，行为之所以被称作是道德的 ，主要 是因为行为者具有道德认知和伦理自觉，自愿恪守道德规范 ，而不仅仅 是因为行为表现得合乎道德。诚如冯友兰所指出 的那样，道德行为 是“对于道德价值有觉解 ，为道德而行 的行为”。就制度现状而言 ，目前我国科技伦理规范和标准有待完善、治理体系尚未成形，与科技发展相伴随的新问题往往倒逼制度作出回应 ，催生新 的规则。在转型升级阶段 ，伦理意识尤为必要且重要 。可以说 ，不管 是制度出台前，还 是制度执行过程中，科技伦理意识都是最后一道，也 是最根本 的一道防线 。培养伦理意识与加强制度规范，共同构成科技伦理治理不可忽视的着力点。
围绕科技伦理治理的着力点 ，高校科技伦理教育应双管齐下，激励学生把外在的规范转化为内在的需要。有调查表明 ，一些理工科学生对科技伦理抱有偏见 ，不重视学习规章制度，或者理解不全面 、不透彻，处于“熟知而非真知”的状态。鉴于此，教师应一方面向学生系统讲解我国相关道德准则和法律法规，介绍国际社会伦理建议书或伦理指南 ，帮助他们明确科技活动有制可依 、有规可守 ，另一方面给他们讲解道德 的本质和功用等基本原理，并借助情景模拟或场景再现等方式，引导他们思考该情境中存在 的伦理问题，使其强化伦理信念，做到知其然、知其所以然 、知其所以必然 ，从而在价值理念上捍卫科技伦理 的权威性。此外，高校还可通过辩论赛、知识竞赛、社会调研和网络宣传等多种形式，营造教育氛围，多渠道帮助学生把制度规范内化于心，自觉以制度为准绳 ，在科技活动中始终保持伦理敏感度 ，发现与抵制违反科技伦理要求 的行为 ，在个体层面真正做到伦理先行。
目标与责任并重
科学研究与技术应用是有目的性 的行为活动。这些目标不仅指向物的推进，关乎某一特定科技领域的突破，同时也应指向人 的发展 ，体现“术”与“道” 的有机统一。就《意见》而言，科技伦理治理 的总体目标、科技伦理原则等 ，都不同程度地体现了对人之发展的高度重视 。明乎此，才能理解“科技无禁区”的谬误，避免陷入技术“价值中立论”陷阱。与正确理解目标同样重要的 是培育责任感。责任与目标紧密相连 ，在强烈的社会责任感驱动下，科技活动更有可能减少“脱靶”概率 、降低伦理风险 ，更好地服务于人的发展。目标与责任相辅相成 ，充分体现科技伦理的落脚点。
着眼于科技伦理的落脚点，高校科技伦理教育应帮助学生全面深入地把握科技活动 的目标 ，培养与提升社会责任感 。当前 ，一部分大学生单纯关注技术 的推进 ，却忽视技术 的根本指向 ，忽略人的发展问题 。他们认为应严格区分研究与应用 ，主张前者在价值上是中立 的，不应为其设置禁区，也无须承担社会责任 。但通观生命科学、合成生物学和人工智能等高新技术领域，不难发现 ，科学研究与技术研发应用之间的边界逐渐变得模糊。加之，科技领域本身专业性强 、技术壁垒高，事前风险研判难度大 。著名的“科林格里奇困境”提醒我们 ，当代科学技术 的可控性正变得越来越小，技术对人 的影响很难在短期内清晰把握，只有通过人与技术 的交互关系才能逐步呈现出来，但此时技术已对社会产生广泛且深远的影响。对此 ，高校科技伦理教育应引导学生关注人的发展问题，从工具理性和价值理性等多个角度思考行为责任，负责任地开展创新性研究 。
规制与引领并重
科技向善具体表现为 ，科技活动遵守道德准则 ，要满足人民对美好生活 的需要。从这个意义上讲，科技伦理的作用首先表现为，给科技活动提供必要规范，避免其侵害人 的生命安全 、身心健康和人格尊严，防止其危害社会安全 、公共安全 、生物安全和生态安全 。除此以外，科技伦理还应发挥价值引领作用，引导科技朝着增进人类福祉的方向发展 ，使科技更好地造福人类。换言之 ，科技伦理不仅要扮演好“守门人”角色，为制度制定、伦理审查和监管等提供价值支撑，而且还应为研究指引新方向、提供新空间 。
从科技伦理的作用功能出发，高校科技伦理教育应帮助学生掌握与守好科技活动 的底线和红线，同时帮助他们合理把握人与技术 的共在关系 ，多维理解生活图景 ，使其在深化认识过程中激发主动性和创造力 ，以科技呈现生活 的丰富样态 ，避免技术应用挤压生活空间而导致生活扁平化 。这是实现科技创新与科技伦理良性互动 的应有之义，也 是助推人民群众过上有尊严的美好生活 的必然要求 。
高校科技伦理教育事关科技人才队伍建设 、事关科技发展方向 ， 是加强科技伦理治理的基础性 、长远性要素 。必须坚持正确原则 ，切实做到意识与制度并重 、责任与目标并重、引领与规制并重，在培养更具伦理精神 的未来科技工作者方面发挥更为积极的作用 。
《光明日报》（ 2023年01月03日 15版）
人工智能治理体系如何平衡包容 ？中外专家把脉建言******
中新网北京12月4日电(记者 孙自法)作为有望引领人类未来变革的一项战略性技术 ，人工智能(AI)近年来在快速发展并赋能千行百业 的同时，也带来安全 、隐私 、公平等系列问题和挑战 ，人工智能治理概念应运而生，备受关注。
由清华大学主办、联合国开发计划署支持 的2021人工智能合作与治理国际论坛12月4日在北京开幕 ，中国科技部副部长李萌致辞时形象表示 ，“我们现在正站在智能化社会 的门槛上，人工智能这条大船正载着我们向智能化世界驶去 ，而治理正是随时校正大船航向 ，确保大船行稳致远” 。
在随后举行的“如何构建一个平衡包容 的人工智能治理体系”主论坛上 ，中外专家学者线上线下对话，把脉人工智能发展 ，聚焦治理体系构建 。
中国国家新一代人工智能治理专业委员会主任 、清华大学人工智能国际治理研究院院长薛澜提出 ，人工智能治理直面数据 、算法、算力、场景等四大要素挑战，价值导向上要坚持人工智能技术安全可控的底线思维 、维护个人权益尊严与平等 的人本思维 、人工智能赋能经济社会发展 的发展思维和人工智能促进可持续发展的全球思维，遵循“和谐友好 、公平公正 、包容共享、尊重隐私 、安全可控 、共同责任、开放协作 、敏捷治理”的治理原则 ，着重从“包容 、共享 、审慎 、负责”价值原则来平衡人工智能治理中 的发展和安全需求，形成人工智能治理机制 的价值共识，推动实现全球协同治理 。
关于“审慎”价值原则 ，薛澜强调 ，要对人工智能治理给出明确的安全底线 ，既不能放任不管，任其野蛮生长，也不能出现“一管就死” ，避免矫枉过正 。
世界工程组织联合会主席、中国新一代人工智能发展战略研究院执行院长龚克表示，人工智能是第四次工业革命的代表性技术 ，人工智能治理旨在促进具有人类价值的人工智能创新发展 ，以造福人类和地球，因此 ，人工智能治理应遵循人工智能发展规律，具有开放 的多利益相关者共治 的结构 ，应综合运用技术、规则 、教育等多种工具 ，并有效植入到人工智能应用平台之中。他还特别强调，不仅要发展人工智能各式各样 的应用技术 ，还要发展一批保护隐私和公平、加强监管 的人工智能治理支撑技术。
联合国助理秘书长 、联合国开发计划署政策与方案支助局局长徐浩良指出，人工智能不是万能灵药 ，它 的好坏取决于使用人工智能 的人及数据基础 、治理标准 。“我们需要全面地看待人工智能 ，需要跨越国界 、跨行业和跨代际 的合作 ，来制定必要 的治理框架”。他说 ，国际机构和国家间的合作至关重要，联合国教科文组织最近通过有关人工智能伦理的提案，得到许多成员国的支持 ，这是积极的一步。联合国开发计划署已做好准备，为政府和其他利益攸关方构建人工智能治理框架提供支持，让人工智能成为推动可持续发展 的重要力量 。
“为什么我们需要一种新的、21世纪国际合作方式来治理人工智能 ？”卡内基理事会资深研究员、人工智能与平等倡议联席主任温德尔·瓦拉赫认为，首先 是以数字和生物革命为代表 的新兴技术正在重新定义人类的意义，并且重塑世界和未来前景；二 是技术速度远远快于道德和法律监督到位的速度 ，新 的人工智能部署的绝对普遍性和速度 ，颠覆了行业政府 、传统机构以及与人们生活息息相关的社会技术结构；三是人工智能和机器学习存在基本控制问题 ，作为关键系统组建部署时会构成潜在危险 。
他说 ，建立一个合作 的人工智能国际治理机制，应该是敏捷 的 、适应性的 、预见性的 、响应性的 、包容性的 ，“但 是我们应该很清楚 ，如果没有中国和美国 的参与 ，所有人工智能国际治理方案都只能 是幻想 。如果不大力转向国际合作，我们将无法成功度过未来几十年”。
“今天社会不仅仅是外卖小哥被困在算法里，我们每个人都被困在各式各样的算法里。”清华大学智库中心主任、智能社会治理研究院院长苏竣认为，人类即将从工业社会迈向以科技进步和智能技术为基础的智能社会，人工智能技术在颠覆性地重组人类社会 的同时 ，也给人类社会的法律隐私 、道德伦理、公共治理带来诸多严峻挑战。
他说 ，技术是中性 的，算法 是无辜 的 ，在这场人工智能掀起的人类社会巨变中，需要科学 的方法研究和应对科技发展带来 的种种风险 、问题和挑战。“开展人工智能社会实验、探索智能社会治理的中国道路”的倡议自2019年发起以来，经过两年多努力，已在全国有序展开，实现智能技术治理与智能社会治理齐头并举，将为构建有人文温度 的智能社会作贡献。
加拿大国际治理创新中心总裁罗欣顿·麦德拉指出，人工智能治理体系在数据领域，要有全球所有国家都接受的数据伦理方面的标准，包括如何搜集数据 、收集谁 的数据 、如何储存数据、如何整合数据 、如何分析数据 、如何加密、如何保证数据安全、如何使用数据等 ，“在全球层面共同创建普遍性 的标准 ，它需要很多很多的努力，这就是我们这个世纪的治理挑战” 。针对现在越来越多 的全球价值链当中 ，因为机器 的替代 ，很多工作机会被失去 的问题 ，他建议由来自不同社会 、不同文化或宗教背景 的哲学家组建一个全球性委员会，来思考应对和解决之策。
清华大学人工智能国际治理研究院副院长梁正表示，当前 ，中国人工智能发展水平已跻身世界第一梯队，也肩负着参与国际治理规则制定 的职责。因此 ，如何助力全球社会共同构建一个平衡包容 的人工智能治理体系，需要进行系统思考，开展国际对话。(完)
