人工智能技术,这一科技进步的标志,却不幸成为不法分子恶意操控的对象,转而成为侵害老年人权益的不法手段。这种情况不仅令人深感痛心,而且迫切需要采取切实有效的措施加以整治。
AI主播骗钱新花样
当前,短视频平台涌现出众多AI数字人账户。这些账户运用AI换脸与语音合成技术,制作了众多内容。其中包括身着西装的“精英”形象、举止文雅的“养生顾问”以及心怀孝道的“病床孝子”等多样化的角色。以“王建国弟弟”账号为例,该账号虚构了一个输液场景,并采用模糊的言辞,向公众展示了一橱窗内高价蜂胶和磁疗枕,其目的是诱导老年消费者进行购买。
盯上银发族需求
由于子女们因忙碌的996工作制而无法提供陪伴,导致空巢中的父母和丧偶独居老人在现实生活中缺乏情感支持。他们在深夜时分观看“病床孝子”的视频,试图在虚拟的网络空间中寻求慰藉。部分账号管理者借助算法手段,对老年人对健康和陪伴的担忧程度进行精准评估,将孝道观念转化为商品销售的成功率,冷酷地抢夺老年人的注意力。
形成灰色产业链
尽管该平台已经对虚拟形象直播带货活动实施了禁令记者卧底:养生直播“围猎”老人钱包,然而,由人工智能制作的长寿秘诀和情感慰藉视频仍在持续对老年人群产生影响。这一现象催生了“开设账号、培养粉丝、推广商品、账号被封”的灰色产业链。即便账号管理者可能面临账号被封的风险,他们仍然能够通过更换身份的方式重新启动账号,持续进行欺诈活动。
技术沦为骗钱工具
技术本身并无问题,然而有人却将其应用于不道德的领域。他们教会AI称呼“姐姐”,算法开始识别“父母”,甚至利用AI的泪水来吸引公众关注记者卧底:养生直播“围猎”老人钱包,诱使老年人购买高价保健品和理财产品。在虚拟的网络世界中,人性的贪婪发生了扭曲。
平台整治效果不佳
腾讯等平台已经实施了一系列整治行动,然而,其成效并未达到预期。AI生成的健康建议往往能够轻松通过审查,然而,针对实际用户的投诉,处理结果往往不尽如人意。这一现象凸显了技术防御机制的双重性质,迫切需要平台加大监管力度。
关注老年群体权益
老年群体因数字技能的不足而遭受孤立,成为技术欺诈的受害者。不应只是让分子借助人工智能伪装成孝顺的子女,而应当指导父母学会使用防骗软件,并在银发内容领域打造“数字守护者”,切实维护老年人的合法权益。
关于如何更有效地防范AI虚拟人可能引发的欺诈风险,以及老年人可能受到的伤害,社会各界有哪些看法?我们期待在评论区看到您的见解。同时,不妨为这篇文章点赞并转发,以此吸引更多关注,共同维护老年人的合法权益。