科技之家

科技之家,汇聚专业声音 解析IT潮流

首页 > 互联网 >

AI还没造福人类 就已经先作恶了?

来源:太平洋科技 时间:2023-07-20 19:16:22

  7月20日,人工智能技术,也就是大家常说的AI,一直都被塑造成有着美好想象空间,是未来世界不可或缺的重要技术领域。

  比如马云曾说,未来30年智能技术将深入到社会方方面面,彻底重塑传统制造业,不会用智能技术的企业都将失败。

  比尔盖茨也曾坦言,如果在今天寻找一个能对世界造成巨大影响的机会,他毫不犹豫地会选择人工智能。

  有几个节点也让大众明确感受到了AI的能量。

AI还没造福人类 就已经先作恶了?

  曾经全球瞩目的AlphaGo击败了围棋世界冠军,证明了AI算力可以轻松超越最顶尖的人类围棋高手;如今ChatGPT以及衍生应用生态的爆火,也让人们看到了AI大模型潜在的无限可能性。

  今年在资本市场,人工智能同样再度爆火了一轮。天眼查平台统计数据显示,2023上半年资本力捧人工智能市场,月均融资事件达48起,其中5月融资数量最多,有61起。

  2023全球数字经济大会人工智能高峰论坛、2023世界人工智能大会等上半年科技圈的重磅大会,都把人工智能中的大模型、AGI(通用人工智能)等作为标配的重磅话题。

  然而,在我们畅想并努力通往人工智能美好未来的同时,也不该忽略人工智能正在产生的“恶”。至少目前从现实来看,人工智能带来的东西,似乎并不如想象般美好。

  AI,早已在作恶

  你有没有想过,在热闹的社交舆论平台上活跃着的,或许根本不是人,而是一个个被人工智能训练出来的,有着人类语言风格的升级版“僵尸号”?

  早在2017年,这种操作就已经受到了学者、媒体的关注。彼时钛媒体在一篇报道中援引了芝加哥大学的一篇研究论文,称人工智能可以被用来生成虚假、复杂的内容信息,足以达到以假乱真的效果。

  如今这样的功能其实早已是AI最为基础的能力之一了。例如完全对普通用户开放的微软AI工具New Bing上,太平洋科技简单提出了生成文本的需求,给大众点评榜单上热度很高的餐厅写几条打卡点评,具体结果可以看下图。

AI还没造福人类 就已经先作恶了?

  无论正面还是负面评价,任何一个用户都可以使用New Bing来快速生成。从结果也可以看到,这些打卡点评内容,有着丰富的细节,语言风格和表达口吻也接近人类用户,可以说基本与真人写的打卡点评相差无几。

  当然这只是列举一个最基础的案例,要形成所谓的AI水军,必然还有更高级的玩法。雷锋网就曾报道称,经营AI水军产业的公司往往会使用循环神经网络、AI语言模型对海量的“僵尸账号”进行训练,以网上大量的评论素材做训练素材。

  这样生成的AI水军账号,可以按照雇主的需求,在网络平台中“指哪打哪”,比如引导舆论风向,抹黑带节奏,造谣中伤等等。这些AI账号输出的内容,不仅可以躲避软件检测,也让网络水军公司实现了“降本增效”。

  这类问题在全球互联网中都普遍存在。比如2019年末,Facebook关闭了大量的博主、用户账号,原因是平台发现有人使用了AI能力,将这些账号伪装成真实用户,有目的地发布大量虚假消息。

  还有一些有趣的事情或许可以从侧面印证这个问题。今年6月,歌手孟美岐发了一条宣传自己北京演唱会的微博,很快评论区就有数万“粉丝”涌进来留言,一条条“北京见”之类的留言,看起来就像一个个等待激动赴约,到演唱会应援偶像的粉丝。

AI还没造福人类 就已经先作恶了?

  然而尴尬的地方来了,孟美岐北京演唱会的场地只能容纳1000多名观众,临近演唱会开场日期了,这1000多张票还是没卖完。这也让舆论调侃孟美岐微博的评论区有着大量伪装成真人粉丝的AI水军,评论数据很好看,但演唱会门票却卖不完。

  “商业投流里面一直都有水分,有水军或者AI水军在滥竽充数。”有从事流量投放、运营工作的投手对太平洋科技表示,流量往往按照曝光数来计算费用,在真实流量中掺杂一些僵尸号是常见的情况,有了AI的加持,这种坑广告主的行为就更难被发现了。

  该投手也列举了案例,比如广告主在付费投放之后,直播间突然涌进大量的账号,看似人气涨了,但实际这些账号基本只会刷屏“大拇指”,或者清一色发“早上好”、“晚上好”这样的固定句式,完全没有任何订单转化。

  向平台客服投诉,得到的答复也基本是说这些都是真人用户的个人行为。广告主也无法分辨这究竟是AI水军来滥竽充数,还是投流失误导致的非精准流量。广告主钱花了,事一点没办成,相当于只能吃哑巴亏。

  AI,也在污染“当下”

  “我现在每天的创作,其实相当于AI洗了别人的稿,我再稍微洗一下AI的稿。”自媒体从业者阿波对太平洋科技坦言,有了类ChatGPT这样的AI工具之后,他的“创作效率”飙升。

  阿波表示,以前一篇文章从选题确立,到查找内容,再到构思组稿,往往需要花挺长时间,但现在有了AI之后模式就不一样了,只需要把话题和内容需求提交给AI,AI就会在网络上搜集信息并重新组成一篇新的文字内容,也就是俗称的“洗稿”,阿波只需要细节修改调整一下,一篇完整的自媒体文章很快就能成形。

  再加上现在市面上也有很多AI一键生成视频、AI配音等工具,将文章转为视频再进行分发也非常方便。

  但有一个很核心的问题,阿波也并没有否认,这就是信息来源的可靠性,信息本身的真实性,他作为内容创作者,全然交给了AI来处理,并不会花更多的时间去求证。“我们追求的只是流量,内容出错大不了删稿就好。”

AI还没造福人类 就已经先作恶了?

  试想一下,如果舆论场每天为大众提供内容的,是无数个只求流量不管质量的创作者“阿波”,会出现怎样的后果?最直接的就是会出现无数个现代版的“三人成虎”案例,严重的话会导致整个互联网空间充斥着谣言、虚假新闻、错误信息等不可信内容。

  量子位就曾在一篇相关报道中,将这样的现象称为“AI正在污染中文互联网”。

  简单来说,AI生成的内容并不是凭空而来的,而是需要一定的信息素材作为基础。当AI因为各种原因生成了错误、虚假信息后,这些信息又可能成为另一个AI生成内容时的素材。

  当互联网空间充斥着AI制造的垃圾信息后,这种无限套娃式的AI信息传递,就会变成一个输入和输出都是垃圾信息的死循环,这是一个十分可怕的糟糕局面。

  AI技术,还有一些更直接的“恶”。今年5月,包头警方公布了一起利用AI实施诈骗的案例。福州一位企业主,接到了生意好友的微信视频电话,说需要430万元急用,由于对方在视频连线中的样貌、声音都与好友一模一样,该企业主便没有疑虑将钱转了过去。结果没想到这是骗子通过AI换脸和拟声技术,假冒了“好友”进行的诈骗。

  可见通过AI技术的加持,骗子甚至能在实时的视频通话中完整还原一个人的样貌和声音,类似这样的诈骗案例层出不穷,光明网、环球网更是在相关报道中表示AI诈骗的成功率接近100%。

  另一方面,无论是拥有百万粉丝的网红大V,还是按部就班工作生活的普通人,都有可能被AI换脸,乃至更离谱的AI脱衣盯上。

  比如据多家媒体的报道,网络中有大量的不法分子通过AI技术,将一些头部网红或者女性用户的样貌,融合嫁接到一些裸露、色情内容中,再有偿贩卖给其他用户,这其中有的不法分子甚至能月入20万。

  再比如今年3月,有人在广州地铁上拍下一女子照片后,用所谓的AI一键脱衣工具生成了裸露图并在网络上传播,这一事件冲上热搜后,也引发了大众对于AI工具侵害问题的关注。

  此前5月份,在业界有“人工智能教父”之称的计算机科学家杰弗里·辛顿宣布从谷歌离职,理由是这样能更加不受限制地呼吁人们关注AI的潜在风险。

AI还没造福人类 就已经先作恶了?

  杰弗里·辛顿可以说是AI领域的顶级大牛,他凭借在AI领域的研究贡献,与另外两名科学家共同获得了2018年的图灵奖,OpenAI的创始人兼首席科学家便是杰弗里·辛顿的学生。

  “现在似乎还很难看到如何能够防止坏人利用人工智能来做坏事。”研究AI数十年后,辛顿如今已经成为了AI的“末日预言者”,极力向公众表达他对人工智能的担忧。

  当然,行业中自然会有不同的声音。“人工智能的风险都是可控的。”比尔盖茨表示,AI的深度伪造、错误信息、胡编乱造等问题,的确会引发诸多风险,但他仍然乐观的认为,这些风险都是可控的。

  诚然,AI的未来或许是光明的,值得期待的,但这并不能掩盖AI在当下所制造出来的种种乱象问题,AI所作的“恶”,都亟需得到控制和净化,这也是AI迈向未来的必要前提。

  后记

  最后再用一段科幻故事来阐述一下AI这个宏大叙事中不可忽视的黑暗面。

  科幻剧集《黑镜》中,有一集的故事是这样的。未来世界,环境改变,蜜蜂灭绝,但大自然不能失去蜜蜂,于是人类发明了机械人造蜂来替代蜜蜂在大自然中的作用。

  人造蜂利用太阳能和各种高精度的识别技术,由分布在各地的数千个高度智能化的人工智能蜂巢来管理运行,无需人类控制便可自主完成飞行、传粉等任务。

  这个发明挽救了因失去蜜蜂而濒临崩溃的自然生态,当然,这只是故事中美好的一面。

  故事的另外一面,是有人黑进了人工智能系统,取得了数百万遍布各地的人造蜂的控制权,将海量的用户人脸、身份信息上传到人工智能系统后,这些本该造福人类、自然的人造蜂,突然就成了最恐怖的武器,在AI的操控下有目的地夺走了数十万人的生命。

  与科幻世界里想象的灾难相比,前文提到的现实中已出现的AI作恶案例或许显得微不足道,但“勿以恶小而为之”,再微小的阴暗面都不容忽视,或许科幻片中描绘的后世灾难,正是由当下一点一点的“恶”所积累而成。

  区块链、元宇宙、ARVR......科技领域有过太多高开低走的烂尾故事,热闹过后一地鸡毛。但实际上,这些代表未来的科技领域,或许并不该过早地被打造成噱头,被利用来敛财。

  人工智能更是如此,毕竟这项技术离现实更近,也存在着更大的失控风险。尽可能地考虑到所有可能性,用“做好最坏打算”的态度来审慎发展人工智能,是实现“风险可控”目标必不可少的思路和策略。

相关文章