当AI开始谋财害命：从骗钱到卖假药，人类该如何防范？

10929390

不是，现在AI造假都这么离谱了嘛？
0 Z  h! v8 b- t# f  ]8 l& g

. _% M" F, d0 K( `4 B前几天央视曝光了“苗古金贴”骗局，这款产品宣传的名头可不小，号称由传承“千年秘方”的非遗传承人制作，而且还有模有样晒出了“非遗传承人”证书跟“非遗传承人”照片，这下子销量猛涨，登上了电商畅销榜，总销量几十万，当真是恐怖。

: F3 e2 b) {2 C2 E7 n7 ]
. }5 D5 k8 S, W+ c

. ?% @; _% X2 z4 _8 o

图片来源：央视新闻

& A' S9 F8 p( h) S! N& h
2 U# J- Z2 j2 d' y
9 }) ]7 J$ `4 ?& |7 p结果媒体深挖下去，传承人的照片实际上是AI生成的，脸部表情僵硬、手掌有六指、光线美颜到离谱、一眼假。

+ L8 M8 d" D) T& W3 I+ e
而所谓的“非遗传承人”证书乃是机构非法制作，花两三千块钱就能够买到；“苗古金贴”则是由第三方代工厂贴牌生产，成本不到10块钱。“千年秘方”、“专治颈椎问题”只不过是借助AI来割韭菜的骗局。
0 M  H7 U3 h5 N( S

: s# ]* K9 \/ |+ ?

图片来源：央视新闻

! y+ W6 x+ _9 {! r  w/ P( N5 E
# H5 d& t! Z, Z, dAI生成的人物、伪造的品牌证书、贴牌生产的产品，整个事件就魔幻起来了。最后有关部门介入，对相关企业和涉案人立案调查，这波卖假药的就等着法律的审判吧。


) H: |) ~* t8 l: a6 L7 b

图片来源：央视新闻

( N* y# Y8 \2 S% S6 f% A9 M2 Z
这件事也让小雷想起以前电视上那位“做出违背祖宗决定”的“神医”，同样是各种光环加身，家族传承得到的药方，也是公然兜售假药。

; ?9 b+ t: C8 n- s) y6 `7 o
只不过以前的“神医”是出现在电视，还是真人，现在的“神医”是出现再互联网，还是AI生成的，真“查无此人”。
' d1 J9 k3 d8 H: H& L

但电视上的“神医”起码起码还有真人出镜扮演“神医”，这点“情绪价值”多多少少增加点可信度。

. s. ^9 r0 j( Y) X! b

图片来源：澎湃新闻

. p( e+ e& |1 j  q* M7 a! J5 I* `
) z% g3 ~0 e0 J2 C, U# m哪像“苗古金贴”这么离谱，直接AI生成人物图片就出来骗，偏偏还有这么多人上当，整个事件都让小雷觉得不可思议却又真实发生了，只能说世界就是个草台班子。
8 C) A/ {9 u: \0 `; ?

1 e, C! h: x6 B0 v" `“失控”的AI技术
1 D1 R0 B. r/ W

0 b1 v2 Q. a1 z/ ~! J
今年是AI技术蓬勃发展的年份，AI生成图片、AI生成视频、AI生成代码这样的功能也都被AI企业开发出来了，可以说现阶段的AI技术已经进入了一个新阶段，

4 P+ n0 G8 h5 ]4 D3 Z) K$ Y. E4 H
此前央视315晚会就曝光了AI诈骗的违法行为，目前比较常见的主要有AI声音合成与AI换脸两种，而且随着AI技术的不断进步，成本越来越低，只需花费几十元，就可定制AI深度合成名人音频视频。

图片来源：央视财经

6 y$ I; G" j* m/ Y3 g4 C8 d

而且围绕AI技术还形成了外呼产业链，外呼公司使用人工智能机器人拨打营销电话，机器人不知疲倦，不管白天黑夜都可以拨打营销电话；而且外呼公司事先用真人录音进行AI克隆复制成机器人的声音，这样一来使得接听者根本难以分辨电话那头的究竟是人，还是机器人。
2 J- n" I: F* ~9 D. f* F5 [$ H
) g( ?2 v8 ]" B+ z) c
3 c& ], J3 M# c5 j# I小雷就曾接到这样的外呼AI电话，两三分钟里确实很难听出来是真人还是AI，后面是发现对面没有换气声，所以才判断出来是AI，但足以迷惑他人了。
1 y) b# t! w; ~( l, k

此外据新京报报道，现今围绕AI技术也形成了一条完整的黑色产业链：上游技术负责兜售“AI换脸套餐”，中游则利用非法获取的个人信息来投放诈骗信息，下游则通过虚拟货币、跑分平台等渠道转移资金。技术、数据、资金”三位一体“，织了一张AI诈骗的大网，让许多用户深陷其中。

# C9 J! m7 k1 W# E
( @* `3 G* c1 \5 t5 S9 s这两年利用AI技术冒充名人实施不法行为事件时有发生，张文宏、靳东、雷军等名人都深受其害：骗子用“AI靳东”实施诈骗，许多女性消费者上当；张文宏医生“带货”冲上热搜，但这是AI换脸之后的“张文宏”，稍微懂点AI的小伙伴一眼就能看出来是假的，可还是有不少老年人上当，在“AI张文宏”处买了产品。
1 E& Y4 d3 L+ @' v

" F; F. @" {- O* B9 Q; H7 L此事也让张文宏医生无奈，他也曾向媒体透露自己投诉无门，不胜其扰。



$ x! l  Y6 ~; p

图片来源：央视新闻

" Y  a; S4 [5 i" ~4 L$ ]
7 X% {; ?7 j! e& Z, L
雷军的遭遇更离谱，2024年国庆节期间“雷军语音包”引热议，许多以“雷军”声音为配音的内容在社交平台迅速传播，“锐评”假期堵车、游戏等话题，这其中也出现了不少污言秽语。以至于出现了”国庆7天，被AI雷军骂了8天”的调侃。


9 J# E+ H$ a7 l" t. V雷军本人还专门为此发了个视频，呼吁大家不要再用自己的声音恶搞。
  R/ c4 p: H, a. G, w, k

( d) Z: R  [' B( o7 X& ]# ?4 ^- ^靳东、雷军等名人的遭遇也让我们看到了AI技术滥用的后果，以前讲究耳听为实、眼见为实，但在互联网AI时代，耳朵听到的有可能是假的，眼睛看到的也不一定是真实的。


9 {/ \/ ]% J% ~" o( y+ m+ ~& o3 Q$ l并且利用AI技术围猎的不仅仅是老年人，即便是年轻人也会掉进坑中。据东南早报报道，福建一公司老板郭某接到了“好友”的视频通话，对方向郭某借钱，不到十分钟的时间里郭某就被骗走430万元，事后才发现电话那头是好友的“数字替身”——脸是直接AI换的，声音也是用AI拟声技术合成的。问题是受害者对此一点警觉都没有，这就有点可怕了。

2 _% N9 b* P; ]  X' e5 }, r
难怪有人会担心，以前还可以通过观察眼睛、头发、手指等来辨别是否是AI生成，现在这些伎俩都不太好使了。若是AI再发现下去，怕是真可以达到以假乱真的效果。
) {/ A2 j1 \  w* t4 k
3 \+ N( ]& s6 |8 l* u
给AI技术戴上“紧箍咒”
3 c8 P! A1 f  S, N! a3 A2 Z
* [3 ^; q0 l8 L; c; Y% I
8 q- G4 @! b( g1 G& [9 L6 U
小雷很喜欢一句话，技术本无善恶之分，有善恶之分的是使用技术的人，这句话就是对AI最好、最准确的描述。AI用得好可以帮助人类提高效率、更好地处理复杂繁多的事务；而当AI技术被用于误导消费者、实施不法行为之时，平台与监管者就成为帮凶。

) R& e/ ]) Z5 y5 }" U
像前面提到的“苗古金贴”骗局，靠着AI生成的图片就可以堂而皇之出来卖假货，这其中暴露的正是电商平台审核制度的缺陷。像电商畅销榜等榜单，平台是否有审核过登上榜单的相关店铺的资质？是否有对店铺投放的广告进行排查？如果平台不重视起来，加强对内容的审核，像“苗古金贴”这种AI生成的假人都能过审的离谱事件，以后只怕会越来越多。
, m8 W6 N4 L6 p- N' f
2 W2 X- Y4 F" q  {* T3 o

1 A- t4 i# E/ H% X' n  ?: j  U$ M

图片来源：中国质量报

' T2 q3 `$ k$ U3 G; r, X* w

想要斩断“苗古金贴”、“AI雷军”等AI技术“恶之花”，还需要监管部门的介入，尽快制订AI技术行业的统一规范，明确AI生成技术、数字人使用的使用范围和条件，让技术能更好地为人类服务。


而对于消费者来说，要懂得保护自己的个人信息，像面部识别、指纹等个人生物信息，能不录就不录；身份证号码、银行卡号、手机验证码等敏感信息也不要随意泄露给他人，免得悔之晚矣。
3 a0 c; _+ Y0 z8 z1 J
& z6 V' I! G, g* U, P
8 h) M' Y4 y; G. j+ o) C" }4 o此外在涉及到资金、关键信息等方面的沟通，还是要留个心眼，通过多种方式来核实对方的真实身份。
; Q5 }3 T( o- d: {5 L8 j
: M* ~0 Z( X/ h, }1 ]1 r$ f1 V
9 [+ C  t' c' n毕竟这年头大家赚钱都不容易，要是被AI技术骗走了，那可真是得不偿失了。
: G+ U) X; k7 I6 \2 @( ^
0 d0 i+ a" ^# a$ d8 ^- J! r
总结

* [5 H6 d4 C! C" f
1 w2 Q6 H9 B3 Z. L. J& n
还记得几年前AI技术刚飞速发展的时候，有不少人视AI技术如洪水猛兽，觉得应该将AI扼杀在摇篮里。
$ ?; _$ O6 Z& ^& L" `6 @9 s' W! n
$ Q3 s- ]( d, t
小雷看来这种想法还是有失偏颇的，新事物的诞生往往都要经历一番曲折的发展，才能够逐渐为世人所接受。


AI也是如此，人类要做的就是引导AI健康发展，让AI真正为我们所用。而不是在技术泛滥的时代里，还要用AI给人类添堵。
, z% ^) y$ F( t! J  ^

像AI换脸诈骗、AI图片谋取不当收益等行为肯定是要制止的，除了严厉打击之外，还需要一套全面、完整的行业标准，将AI技术关进笼子里，才能让AI更好为人类服务。
7 V: j5 o6 v% u1 e
* A$ x$ K7 C9 ~7 j『本文转载自网络,版权归原作者所有,如有侵权请联系删除』