创头条编译  拟议的欧盟人工智能（AI）法规将禁止使用面部识别技术进行监视，以及禁止使用操纵人类行为的算法。

欧委会将在下周正式提交这份内容涉及广泛的条例草案，目前草案已被泄漏出来。

草案建议禁止使用的AI系统包括：

• 设计来或者被用来操纵人类行为、观点或决定，让人做出有害于己的行为或形成有害于己的观点的系统。

• 被用来进行广泛的不加区别的监视的系统。

• 被用来进行社交评分的系统。

• 那些利用信息或预测以及一个人或一群人来确定他们的弱点的系统。

专家们表示，这些规定含糊不清，存在漏洞，并且不涉及军队对AI的使用和当局为维护公共安全而使用的AI系统。

欧洲政策分析师丹尼尔·勒弗（Daniel Leufer）在推文中表示，这些定义可以有很多种解释。“我们如何确定什么是‘有害于己’？谁将对此进行评估？”他写道。

草案也针对高风险AI制定了更严格的规定。针对被认为是高风险的AI，成员国将不得不进行更多监督，包括需要指定评估机构对这些AI系统进行测试、认证和检查。

高风险AI例子包括：

• 在紧急服务调度中建立优先级的系统。

• 招聘算法。

• 评估信用价值的系统。

• 评估个人风险的系统。

• 犯罪预测算法。

除了要求对新的AI系统进行人工监督之外，草案还建议高风险AI系统要设有“停止开关”，可以是一个停止按钮，也可以是其他一些必要步骤，以便在需要时立即关闭系统。

任何开发违禁服务或未能提供相关正确信息的公司都可能面临高达其全球收入4％的罚款，这与违反《通用数据保护条例》（GDPR）的罚款类似。

英国高伟绅律师事务所（Clifford Chance）律师赫伯特·斯瓦尼克（Herbert Swaniker）说：“这些提议将给AI的设计带来根本性的改变，AI供应商要密切关注这些提议。”

编译：邓桂华。创头条（Ctoutiao.com）独家稿件，转载请注明链接及出处。邮箱：dengguihua@ctoutiao.com

原文——Europe seeks to limit use of AI in society - BBC News