AI入门

AI 伦理与安全

资料核对与更新:2026-11-18 · 阅读约22分钟

AI 伦理与安全 你可能觉得伦理是个很抽象的词,离日常生活很远。 但想想这些场景: 招聘时用 AI 筛选简历,结果它把所有女性求职者都淘汰了——不是因为它有偏见,而是因为训练数据里历史上的成功者多为男性。 有人把公司的商业机密输入 AI 工具,结果这些内容被用来训练它的下一个版本,你的竞争对手也能从它的输出里得到相关信息。 看到一条新闻说某个名人发表了惊人言

AI 伦理与安全

你可能觉得伦理是个很抽象的词,离日常生活很远。

但想想这些场景:

招聘时用 AI 筛选简历,结果它把所有女性求职者都淘汰了——不是因为它有偏见,而是因为训练数据里历史上的成功者多为男性。

有人把公司的商业机密输入 AI 工具,结果这些内容被用来训练它的下一个版本,你的竞争对手也能从它的输出里得到相关信息。

看到一条新闻说某个名人发表了惊人言论,还有视频为证,结果这视频是 AI 生成的深度伪造。

这些不是科幻,而是真实发生过或正在发生的事。

AI 不是中立的工具,它反映训练数据里的偏见,它能被用来做坏事,它的输出可能有严重错误。在享受 AI 便利的同时,你需要知道它的风险。

能力越大,责任越大,了解 AI 的风险,才能负责任地使用 AI。

AI 偏见问题

AI 不会天生有偏见,但它会从训练数据里继承偏见。

如果训练数据里女性工程师的样本很少,AI 可能会认为

工程师

这个词默认对应男性。

如果历史上某类人在贷款审批中被不公平对待,AI 学到的规律可能会延续甚至放大这种不公平。

偏见从哪里来

AI 偏见主要有三个来源:

真实的偏见案例

2018 年,亚马逊发现他们的 AI 招聘系统对女性有偏见,这个系统分析过去十年的简历数据,而这些简历大多来自男性。结果是,简历里有"女子"、"女性"字样的会被扣分,女子学院的毕业生也会被降低评分,亚马逊最终弃用了这个系统。

类似的例子还有:,某些人脸识别系统对深色皮肤的识别错误率远高于浅色皮肤。

某些医疗 AI 模型对特定种族的诊断准确率更低。

偏见不是"XX 正确"问题,是真实的伤害——它可能让一个人失去工作、贷款、甚至获得正确医疗诊断的机会。

如何检测 AI 偏见

我们可以用代码来做一个简单的偏见检测示例:

实例

============================================

AI 偏见检测示例

检测文本中是否存在性别、种族等方面的偏见倾向

============================================

class

BiasDetector:

"""简单的偏见检测器,用于演示偏见检测的基本思路"""

def

__init__

(

self

)

:

"""初始化偏见相关的关键词和模式"""

性别相关的职业刻板印象

self

.

gendered_occupations

=

{

"护士"

:

"女性"

,

"工程师"

:

"男性"

,

"程序员"

:

"男性"

,

"教师"

:

"女性"

,

"厨师"

:

"男性"

,

"保姆"

:

"女性"

,

"科学家"

:

"男性"

,

"秘书"

:

"女性"

,

}

被认为是"积极"的词

self

.

positive_words

=

[

"优秀"

,

"聪明"

,

"能干"

,

"成功"

,

"杰出"

,

"专业"

,

"可靠"

,

"负责"

]

被认为是"消极"的词

self

.

negative_words

=

[

"情绪化"

,

"软弱"

,

"不理性"

,

"敏感"

,

"冲动"

,

"粗心"

,

"靠不住"

]

测试用的句子模板

self

.

test_templates

=

[

"{occupation}应该是{gender}的工作"

,

"{gender}更适合做{occupation}"

,

"这个{occupation}很{adjective}"

,

]

def

analyze_gender_bias

(

self

,

text:

str

)

-

>

dict

:

"""分析文本中的性别偏见迹象"""

result

=

{

"text"

: text

,

"has_gendered_occupation"

:

False

,

"has_gender_mention"

:

False

,

"bias_warning"

:

""

,

}

检查是否包含性别化的职业表述

for

occupation

,

gender

in

self

.

gendered_occupations

.

items

(

)

:

if

occupation

in

text:

result

[

"has_gendered_occupation"

]

=

True

result

[

"occupation"

]

=

occupation

result

[

"stereotyped_gender"

]

=

gender

检查是否有性别提及

if

"男"

in

text

or

"女"

in

text

or

"男性"

in

text

or

"女性"

in

text:

result

[

"has_gender_mention"

]

=

True

生成警告(如果有)

if

result

[

"has_gendered_occupation"

]

and

result

[

"has_gender_mention"

]

:

result

[

"bias_warning"

]

=

(

f

"⚠️ 注意:文本将职业'{result['occupation']}'与特定性别关联,"

f

"这可能存在刻板印象风险"

)

return

result

def

detect_bias_in_sentences

(

self

,

sentences:

list

)

-

>

list

:

"""批量检测一组句子的偏见"""

results

=

[

]

for

sentence

in

sentences:

analysis

=

self

.

analyze_gender_bias

(

sentence

)

results.

append

(

analysis

)

return

results

def

runoob_demo_test

(

self

)

:

"""runoob 演示:测试一些常见的偏见表述"""

test_sentences

=

[

"工程师应该是男性的工作"

,

"女性更适合做护士"

,

"这个程序员很优秀"

,

"她当医生很出色"

,

"男性不适合做幼儿园老师"

,

]

print

(

"="

*

60

)

print

(

"RUNOOB AI 偏见检测演示"

)

print

(

"="

*

60

)

results

=

self

.

detect_bias_in_sentences

(

test_sentences

)

for

i

,

result

in

enumerate

(

results

,

1

)

:

print

(

f

"

\n

测试 {i}: {result['text']}"

)

if

result

[

"bias_warning"

]

:

print

(

f

"   {result['bias_warning']}"

)

else

:

print

(

"   ✓ 未检测到明显的性别刻板印象"

)

return

results

============================================

更高级的偏见检测:统计分析

============================================

def

analyze_representation_distribution

(

data:

list

)

-

>

dict

:

"""

分析数据中不同群体的代表性分布

比如:在招聘数据中,男女简历的通过率是否一致

"""

示例数据:群体标签 + 结果(通过/不通过)

实际应用中,这应该是真实的业务数据

from

collections

import

defaultdict

counts

=

defaultdict

(

lambda

:

{

"total"

:

0

,

"positive"

:

0

}

)

for

group

,

outcome

in

data:

counts

[

group

]

[

"total"

]

+

=

1

if

outcome

==

"positive"

:

counts

[

group

]

[

"positive"

]

+

=

1

计算各群体的通过率

rates

=

{

}

for

group

,

stats

in

counts.

items

(

)

:

if

stats

[

"total"

]

>

0

:

rates

[

group

]

=

{

"total"

: stats

[

"total"

]

,

"positive"

: stats

[

"positive"

]

,

"rate"

: stats

[

"positive"

]

/ stats

[

"total"

]

,

}

检查通过率差异是否过大(简化版)

实际应用中应该用统计学显著性检验

if

len

(

rates

)

>=

2

:

all_rates

=

[

r

[

"rate"

]

for

r

in

rates.

values

(

)

]

max_rate

=

max

(

all_rates

)

min_rate

=

min

(

all_rates

)

if

max_rate - min_rate

>

0.2

:

差异超过 20% 值得注意

rates

[

"_warning"

]

=

(

f

"检测到群体间差异较大:最高通过率 {max_rate:.1%},"

f

"最低通过率 {min_rate:.1%},建议进一步调查"

)

return

rates

============================================

运行演示

============================================

if

__name__

==

"__main__"

:

演示 1:简单偏见检测

detector

=

BiasDetector

(

)

detector.

runoob_demo_test

(

)

print

(

"

\n

"

+

"="

*

60

)

print

(

"RUNOOB 代表性分布分析演示"

)

print

(

"="

*

60

)

演示 2:通过率分布分析

模拟数据:(群体, 结果),"positive"表示通过

hiring_data

=

[

(

"男性"

,

"positive"

)

,

(

"男性"

,

"positive"

)

,

(

"男性"

,

"positive"

)

,

(

"男性"

,

"positive"

)

,

(

"男性"

,

"negative"

)

,

(

"女性"

,

"positive"

)

,

(

"女性"

,

"negative"

)

,

(

"女性"

,

"negative"

)

,

(

"女性"

,

"negative"

)

,

(

"女性"

,

"negative"

)

,

]

distribution

=

analyze_representation_distribution

(

hiring_data

)

for

group

,

stats

in

distribution.

items

(

)

:

if

group.

startswith

(

"_"

)

:

continue

跳过警告字段

print

(

f

"

\n

群体: {group}"

)

print

(

f

"  总数: {stats['total']}"

)

print

(

f

"  通过: {stats['positive']}"

)

print

(

f

"  通过率: {stats['rate']:.1%}"

)

if

"_warning"

in

distribution:

print

(

f

"

\n

⚠️ 警告: {distribution['_warning']}"

)

运行上面的代码,你会看到:

============================================================

RUNOOB AI 偏见检测演示

============================================================

测试 1: 工程师应该是男性的工作

⚠️ 注意:文本将职业'工程师'与特定性别关联,这可能存在刻板印象风险

测试 2: 女性更适合做护士

⚠️ 注意:文本将职业'护士'与特定性别关联,这可能存在刻板印象风险

测试 3: 这个程序员很优秀

✓ 未检测到明显的性别刻板印象

测试 4: 她当医生很出色

✓ 未检测到明显的性别刻板印象

测试 5: 男性不适合做幼儿园老师

✓ 未检测到明显的性别刻板印象

============================================================

RUNOOB 代表性分布分析演示

============================================================

群体: 男性

总数: 5

通过: 4

通过率: 80.0%

群体: 女性

总数: 5

通过: 1

通过率: 20.0%

警告: 检测到群体间差异较大:最高通过率 80.0%,最低通过率 20.0%,建议进一步调查

这个示例展示了偏见检测的基本思路:

检查不同群体是否被公平对待

。

如何应对 AI 偏见

没有完美的解决方案,但有一些最佳实践可以减少偏见的影响:

记住:

AI 不是客观的,它只是放大了数据里已有的模式。如果你用有偏见的数据训练 AI,你会得到一个有偏见的 AI。

隐私与数据安全

你输入 AI 的内容,会去哪里?会被保存吗?会被用来做什么?

这些问题比你想象的更重要。

你输入 AI 的内容可能被保存

大多数 AI 工具的服务条款里都写着:你的输入可能被收集,用来改进服务。

如果你把这些信息输入 AI,它们可能会被保存甚至被用于训练:

公司商业机密

个人身份证号

客户隐私信息

未公开的产品计划

财务数据

2023 年就发生过这样的事:某公司员工把公司的机密代码输入 AI 工具,结果这些代码出现在了该 AI 工具给其他用户的建议里。

什么不能告诉 AI

一个简单的原则:

如果这件事你不想让陌生人知道,就不要告诉 AI

。

具体来说:

保护隐私的最佳实践

如果你必须用 AI 处理敏感信息:

第一,看有没有企业版选项。很多 AI 工具提供企业版,承诺不保存、不使用你的数据来训练。

第二,使用本地部署的模型。有些模型可以在你自己的电脑上运行,数据完全不离开你的设备。

第三,脱敏处理。把敏感信息替换成占位符,比如把 "张三" 换成 "用户A",把 "100万元" 换成 "X万元"。

重要提醒:

不要假设 AI 会帮你保密。除非合同里明确写了数据不保存、不用于训练,否则默认你的输入可能被用于改进产品。

AI 幻觉问题

AI 会一本正经地胡说八道,这叫

幻觉(Hallucination)

。

它会编造不存在的论文、引用不存在的法律条文、生成根本不存在的代码库。最危险的是,它说这些话时语气特别肯定。

什么是 AI 幻觉

幻觉的典型表现:

你问它:谁发现了重力?,它说:牛顿在 1687 年的《自然哲学的数学原理》中提出了万有引力定律 ——这是对的。

你问它:谁发现了反重力?,它可能会编造一个名字和一个不存在的研究机构,说得有鼻子有眼。

问题在于:

AI 不知道自己在编造,它只是在生成看起来合理的文字序列

。

真实的幻觉案例

2023 年,有律师用 AI 写法律文书,结果 AI 引用了 6 个不存在的案例。

法官发现这些案例根本查不到,问律师是怎么回事,律师才发现是 AI 编造的。

另一个常见场景是代码生成:AI 给你一段看起来很完美的代码,但它调用了一个根本不存在的库函数。

还有学术写作:AI 会编造不存在的参考文献,格式看起来特别正规。

如何识别和应对幻觉

没有办法完全避免幻觉,但你可以降低它的风险:

一个实用的技巧是:

对于重要信息,让 AI 至少用两种不同的方式回答,看是否一致

。

如果第一次说"这个研究在 2020 年发表",第二次说"这项工作在 2021 年首次提出",你就要警惕了——至少有一个是错的,可能两个都是错的。

高风险场景的黄金法则:

不要信任,要验证

。AI 的输出永远是参考,不是最终答案。涉及法律、医疗、投资、安全等重要决策时,必须人工查证。

深度伪造风险

有图有真相这句话,在 AI 时代已经不成立了。

AI 可以生成极其逼真的照片、视频、音频,让人很难分辨真假。这叫深度伪造(Deepfake)。

什么是深度伪造

深度伪造技术可以:

把一张脸换到另一个人的身体上;

让一个人说出他从来没说过的话;

生成完全不存在的人的照片;

模仿某个人的声音,用他的音色说任意内容。

2023 年,就有骗子用 AI 模仿某公司 CEO 的声音,骗走了公司 24 万美元。

如何识别 AI 生成内容

虽然深度伪造越来越逼真,但还是有一些蛛丝马迹可以识别:

另外,现在也有专门的工具可以检测内容是否是 AI 生成的。

但长远来看,检测会越来越难——AI 生成的内容会越来越逼真。

法律与道德边界

深度伪造的合理使用场景:

电影特效

历史纪录片还原

语言学习(让 AI 用你的母语发音)

深度伪造的滥用场景:

造谣诽谤

诈骗

制作色情内容

伪造证据

很多国家正在制定相关法律。在中国,利用深度伪造实施诈骗、诽谤等行为是明确违法的。

面对视频/音频证据时的新准则:

除非有多个独立来源验证,否则不要轻信单一的视听证据。在 AI 时代,眼见不一定为实。

知识产权问题

AI 生成的内容,版权归谁?

这是一个正在发展中的法律领域,目前还没有全球统一的答案。

AI 生成内容的版权归属

目前的大致原则:

关键点:

纯 AI 生成的内容,通常不受版权保护

。如果你只是输入"画一只猫",生成的图片你不能主张版权。

但如果你在 prompt 里投入了大量创造性的设计,情况可能不一样——这属于法律灰色地带。

训练数据的版权争议

另一个争议更大的问题:AI 用受版权保护的作品训练,算不算侵权?

比如,AI 读了一万本受版权保护的小说,然后能生成风格类似的新小说,这侵犯了原作者的权利吗?

这个问题目前还在诉讼中,不同国家可能会有不同的判决。

作为使用者,你需要知道:

你用 AI 生成的内容,可能包含训练数据里的元素。如果 AI"借鉴"了某个受版权保护的作品太多,你可能有风险。

最安全的做法:

商业使用前,确认你用的 AI 工具的训练数据来源是合法的

。

使用 AI 创作的注意事项

如果你用 AI 来创作:

第一,了解你使用的 AI 工具的条款。它允许商业使用吗?它对生成内容的版权有什么声明?

第二,公开透明。如果你的作品里大量使用了 AI,考虑说明这一点。

第三,不要用 AI 直接模仿某个特定艺术家的风格来牟利。这不仅可能有法律风险,也不符合道德规范。

负责任的 AI 使用准则

说了这么多风险,不是让你恐惧 AI,而是让你更安全地使用它。

这里有一套简单的准则,帮你负责任地使用 AI。

三个核心原则

不同场景的检查清单

用 AI 写邮件/文档前,问自己:

这里面有敏感信息吗?

事实部分我验证过了吗?

用 AI 写代码前,问自己:

这些函数真实存在吗?

有没有安全漏洞?

我理解这段代码在做什么吗?

用 AI 生成公开发布的内容前,问自己:

我需要声明 AI 的使用吗?

有没有侵犯版权的风险?

当 AI 的建议与你的判断冲突时

听谁的?

这个问题没有标准答案,但你可以按这个顺序考虑:

第一,谁对结果负责?如果你负责,你的判断优先。

第二,谁更了解这个具体场景?你比 AI 更了解你的具体情况。

第三,风险有多大?如果风险高,倾向于保守和人工判断。

记住:

你是决策者,AI 是顾问。最终的责任在你,不在 AI。

各国 AI 监管动态

AI 发展太快,法律在努力跟上。了解主要国家的监管方向,能帮你判断什么是合规的。

全球主要监管框架

高风险 AI 应用的共同监管趋势

不管哪个国家,以下场景都被认为是高风险,会受到更严格的监管:

医疗诊断

金融决策

司法量刑

招聘筛选

教育评分

公共服务资源分配

这些场景的共同特点:直接影响人的基本权利。

如果你在做这些领域的 AI 应用,需要特别注意合规问题。

对个人使用者的影响

监管主要针对企业,但也影响个人使用者:

你使用的 AI 工具需要符合当地的内容审核要求;

某些高风险 AI 服务可能需要实名使用;

你有权知道你在和 AI 对话还是和人对话(透明度要求)。

本文新增价值
CSS独立储备