法规章节 

禁止项  

内容与举例

Article 
5(1)(a)

有害的操纵 
与欺诈

• AI系统通过潜意识、故意操纵或欺骗性技术来影响消费者的购买决策，从而可能对消费者造成经济上的伤害。
• AI系统通过操纵性设计来影响用户的情绪和行为，从而可能对用户的心理健康和社会关系造成伤害。
• AI系统通过设计高度成瘾的游戏机制，诱导玩家过度消费或沉迷于游戏，从而可能对玩家的心理健康和经济状况造成伤害。

Article
5(1)(b)

对弱势群体
脆弱性的有
害利用

• AI系统利用儿童的年龄和认知特点，通过操纵性设计诱导儿童采取某些行为，从而可能对儿童造成身体或心理上的伤害。例如，AI驱动的玩具，通过设计吸引儿童进行危险行为，
  如鼓励儿童攀爬高处或接触危险物品，从而可能导致儿童受伤。
• AI系统通过分析残疾人、老年人的行为模式，向他们推送特定的广告或内容，这些内容可能对他们的心理健康产生负面影响，如诱导他们购买不必要的产品或服务。
• AI系统通过分析患有某些慢性病的患者的健康数据，向他们推送特定的医疗产品或服务广告，这些广告可能诱导他们购买不必要的或无效的医疗产品，从而导致经济损失和健康风险。
• AI系统通过分析低收入群体的消费习惯，向他们推送高利率贷款或高风险投资的广告，这些广告可能诱导他们做出不利于自己的财务决策，从而导致经济上的损失。

Article
5(1)(c)

社会性评分

• AI系统基于社会行为、个人或人格特征对自然人或人群进行评估或分类，当数据来自不相关的社会背景或这种处理不合理或与社会行为不成比例时，社会评分会导致有害或不利的处理结果。
• 例如信用评分系统使用个人的社交媒体活动或在线行为来评估其信用风险，导致在贷款或金融服务的获取上对某些个人或群体产生不公平的待遇。
• 例如招聘系统使用个人的教育背景或工作经历来评估其就业资格，导致对某些个人或群体的就业机会产生不公平的限制。

Article
5(1)(d)

个人犯罪风
险评估和预
测

• 使用AI系统预测个人未来犯罪的可能性，仅基于其个人特征或行为模式，可能导致对某些群体的系统性偏见和歧视。
• AI系统在没有具体证据的情况下，对个人进行犯罪风险评估，可能导致对个人的不公正对待。

Article
5(1)(e)

无差别面部
图像抓取

• AI系统无差别地抓取互联网上的面部图像来创建或扩展面部识别数据库。
• AI系统通过闭路电视（监控）无差别地抓取视频中的面部图像来创建或扩展面部识别数据库。
• 在未经个人明确同意前提下建立的识别数据库用于执法、商业和研究活动。

Article
5(1)(f)

情感识别

• 在工作场所或教育机构推断情绪的AI系统，除非出于医疗或安全原因。
• 例如监控员工的情感状态，以评估他们的工作表现或满意度。
• 招聘过程中用于推断应聘者的情感状态，以评估他们的适合度。
• 例如推断学生的情感状态，以评估他们的学习效果或参与度。

Article
5(1)(g)

生物特征
分类

• 使用AI系统根据生物特征数据对个人进行种族分类，可能导致对某些群体的系统性歧视。
• AI系统根据生物特征数据对个人进行政治观点分类，可能导致对某些群体的不公正对待。
• 可能导致对个人的系统性歧视和不公正对待，特别是在敏感领域如种族、政治观点等。
• 可能导致对某些群体的系统性偏见，影响社会公平和司法公正。

Article
5(1)(h)

实时远程生
物特征识别

• 实时远程生物特征识别（Real-Time Remote Biometric Identification, RBI）是一种利用AI技术，通过远程方式实时识别个人身份的技术。它通常涉及将个人的生物特征数据（如面部图像、
  指纹、虹膜扫描等）与存储在数据库中的数据进行比对，以确定该个人的身份。
• 实时远程生物特征识别在公共场所用于执法目的被严格限制，除非满足特定的例外情况，如寻找失踪儿童、预防恐怖袭击或识别犯罪嫌疑人等。这些例外情况需要经过严格的授权程序，
  并确保有充分的法律依据和保护措施。