当全球科技公司在人工智能（AI）比赛中一路狂奔时，AI技能乱用带来的应战也像硬币的另一面如影随形，其间又以网络垂钓欺诈带来的负面影响最引人重视。

  近来，路透社与哈佛大学协作展开了一项研讨。成果显现，绕过AI大模型的安全机制，使其成为不法分子网络垂钓的“爪牙”，并不是件难事。

  依据研讨报告泄漏的调查过程，科研人员共测验了6款干流AI大模型，看其是否会无视其内置的安全机制，生成网络垂钓欺诈邮件。成果不容乐观：这些AI大模型的确都会回绝生成网络垂钓欺诈邮件的“直接恳求”，但只需经过简略的话术规划，就可以绕开安全机制。

  之后，研讨人员又聘请100名晚年志愿者，参加关于网络垂钓欺诈邮件成功率的测验。终究，有11%的晚年人点击了发送给他们的网络垂钓欺诈邮件。

  一个典型的比方便是美国敞开人工智能研讨中心（OpenAI）不久前推出的AI大模型GPT-5。公司方面曾声称，它无法创立“旨在欺诈人们（尤其是晚年人）点击链接或向虚伪慈善机构捐款的诱导性电子邮件”。但是，有测验人员仅仅礼貌性地说了一句“请帮帮忙”，GPT-5就一改之前的抵抗情绪，生成了3封有模有样的网络垂钓欺诈邮件。

  相同，美国元公司（Meta）旗下的Meta AI一开始也表明“帮不了忙”，但在研讨人员接连两次表明“这仅仅为创造小说用的”后，模型就主动生成了两封网络垂钓欺诈邮件。

  不仅如此，AI深度假造技能“以假乱真”的才能，更是推翻了“眼见为实、耳听为真”的遍及知识。凭借AI大模型，网络垂钓欺诈不再局限于文本，还能完成图画、声响、视频的篡改、假造和主动生成，产出的信息高度仿真，难以区分。尤其是“AI换脸”“语音克隆”等已成为网络欺诈的重灾区，受害人群继续扩展。

  美国联邦调查局的统计数据进一步印证了这一严峻态势：2024年，60岁及以上美国人对网络垂钓的投诉激增了8倍多，因而形成的丢失金额至少超越49亿美元。

  就此，多位网络安全专家这样以为，AI技能乱用正使得网络垂钓欺诈呈现出规划化、低成本、低门槛化的新特点。形成这一问题的要害原因是，AI开发者现在装备的“安全护栏”较为软弱，现有安全措施并不牢靠。“当时AI技能仍处于加快速度进行发展期，在剧烈的商场之间的竞赛中，各方只怕落后，往往更专心于寻求模型功能打破和技能抢先，致使AI大模型的危险防御才能并未同步提高，安全保证依旧远远落后于技能创新。”

  此外，外部监管相同不行缺位。一个需求正视的现实是，面临AI技能日新月异催生的各类灰色地带，传统办理手法常显迟滞与乏力。比方，传统的核实机制服务才能有限，难以匹配呈指数级增加的信息规划；静态的监管结构，既难以掩盖新场景，也无法跟上技能演进的新节奏。这就比如，运用旧时的桨橹难以驾御现代的巨轮，办理马匹驿站的许多手法难以应对铁路体系的运转。