欧盟委员会对 ChatGPT 的最新监管方向
撰文：Anna Felländer，anch.AI 的创始人、ETHICAL AI GOVERNANCE GROUP 委员会成员
2023 年 2 月，欧洲议会 AI 伦理领域的顾问 Anna Felländer 在欧盟委员会官网发表了《ChatGPT’s rapid entry – Urgent for the government to appoint an authority for responsible AI》，提出了关于为什么要对生成式 AI 进行监管的背景、原因和解释。笔者认为，这篇文章很有可能 代表了未来欧盟委员会对生成式人工智能的监管方向之一，我们看这篇，也主要是作为一个国际动向进行关注。
全文如下：
最近新发布的人工智能方案 ChatGPT，以一种全新的方式挑战着所有人。随着生成式 AI 系统创造的机会，我们同时也面临着具有历史意义的十字路口：
也就是，究竟是人工智能来控制人类，还是人类来控制人工智能。
瑞典的企业和当局（因为 Anna Felländer 在瑞典），需要对人工智能采取 Ethical approach ，也就是伦理学上的考量，但最重要的是，需要建立风险评估框架，来支撑这种发展，从而指导符合人类价值观的人工智能解决方案的发展。
此外，欧盟人工智能立法，对发展负责任的人工智能来说，指日可待，而政府迫切需要组建发展负责任的人工智能机构。
ChatGPT 和其他生成式人工智能系统
（1）首先，创造了人们内心期待已久的人工智能民主化，更多的人可以参与进来这次技术带来的迭代，自己去创造由算法在历史数据上生成的新内容。各个组织实现 AI 技术价值的门槛显著降低，新的创新商业模式也层出不穷，能够有效地加强客户和人们的关系。
（2）同时，所有个体和社会，每天都面临着由于不受监管的人工智能解决方案，从而导致的道德和法律问题。其中一个原因是，人工智能模型的学习是基于历史数据，而其中，很可能存在不必要的偏见，这种偏见，可能导致社会排斥和歧视，包括其他的违规行为。
比如说，当我们这些个体，批准自己数据在某种情况下被使用时，可能并不会意识到，当我们自己的数据与其他数据结合时，算法如何创造出侵犯个人隐私的见解。
注意：这对公司和各国政府来说，代价都很高，例如可能会撤回投资，或者导致声誉受到损失。 最近的案例表明，2021 年，由于人工智能解决方案错误地指责接受父母保险的父母是欺诈。此外，还有个基于 OpenAI 的 GPT-3 的医疗聊天机器人被发出测试，其结果是建议病人自杀。
参考资料：GPT-3 medical chatbot tells suicidal test patient to kill themselves | Boing Boing
生成式人工智能系统，比其他人工智能解决方案具备更高程度的道德风险暴露。其中一个原因是，生成式人工智能系统的使用往往是通过 API 进行的，这使得解决方案的透明度很低，并且，对它的发展难以控制。
同时，道德和法律方面的违规行为，通常发生得很微妙，也很突然，虽然这些违规行为可能会小到无法察觉，但是极有可能造成指数级的损失。
其中一个例子是深度造假，比如说，被用来操纵视频或照片中的面孔和声音。而要注意到的是，生成式人工智能模型通常以 API 的形式提供，这就可以使用户更容易获得和使用该技术，这可能会增加滥用的风险。
需要承认的是，基于 API 的生成性人工智能模型本身并没有风险，但它们的使用方式和训练的数据会使他们具备风险。
欧盟的人工智能立法，即《人工智能法案》，将于 2024 年正式生效。
《人工智能法案》的目标，是让公民和消费者感到信任，并维护欧盟包括人权在内的价值基础。欧盟委员会在《人工智能法》中提议，成员国必须任命或建立至少一个监督机构，负责确保「必要的程序得到遵循」。
随着生成式人工智能系统逐步出现的巨大潜力，尤其是在医疗保健方面，例如正确诊断和优化疾病的治疗，关键是，要有可用的风险评估框架，并任命一个负责任的机构。
人工智能的伦理框架，为所有部门创造了一个高度的创新环境。因此，有关机构迫切需要任命这一负责机构，并提供风险评估框架，以便瑞典企业和瑞典当局不会像 GDPR 那样对人工智能法案缺乏警惕性。
【参考文献】
Artificial intelligence: huge potential if ethical risks are addressed | News | European Parliament (europa.eu)
Welcome to anch.AI - AI and Equality in Public Administration- a report by anch.AI and the Swedish Gender Equality Authority.