马来亚大学一名即将毕业的学生开发了一款网络应用程序,旨在帮助用户识别潜在的网络诈骗以及人工智能(AI)生成的内容。

打开网易新闻 查看精彩图片

有意思的是,这名学生本人曾经就是一起AI诈骗案件的受害者,这也促使他萌生了开发这款工具的想法。

这名学生名叫 Min Han,就读于马来亚大学计算机科学与信息技术学院,主修计算机系统与网络专业。目前,他正在开发一个名为 TruthLens 的平台,希望帮助公众及早发现诈骗迹象,尤其是那些利用人工智能技术实施的诈骗。

“尽管我学的是网络安全,但我自己还是上当受骗了。”

“这让我开始思考:我该如何帮助那些没有任何网络安全知识的人,避免落入这些陷阱,以及由此造成的经济损失?”

Min Han还对马来西亚AI诈骗造成的经济损失表示担忧。他引用的一项估算数据显示,2025年,此类诈骗在马来西亚造成的损失达到27亿林吉特。不过,这一数字在他的演示中并未得到独立核实。

结合AI检测与反诈骗知识普及

TruthLens的主要功能是分析图片,识别其中可能存在的AI生成痕迹,并向用户提供相关信息,帮助他们判断图片内容是否可疑。

该应用结合了多种检测技术,包括AI内容检测模型、像素级图像分析,以及SynthID水印检测技术。SynthID是谷歌用于识别部分AI生成内容的一项技术。

打开网易新闻 查看精彩图片

在现场演示中,Min Han向平台上传了一张图片,展示系统如何分析图像内容并生成检测结果。

为了让不具备网络安全专业知识的普通用户也能看懂检测结果,该应用还使用了谷歌的Gemini人工智能模型,将复杂的技术分析转化为更容易理解的解释。

Gemini还可以协助识别图片中其他可能暗示诈骗的风险信号。

不过,AI检测工具本身也存在局限性。检测结果并不能直接证明一张图片是真实的,也无法单凭图片判断它是否被用于诈骗活动。

Min Han表示,TruthLens的目标不仅仅是识别可能经过篡改的内容。他更希望通过这一平台,帮助用户掌握相关知识,逐渐培养独立识别可疑网络信息的能力。

他还表示,在开发过程中,获得使用谷歌Gemini和Google Cloud技术的机会,让他能够尝试不同的AI检测方法,同时提升自己的技术能力。

“这也帮助我更加清楚地认识到,未来职业发展需要具备哪些技能。”

TruthLens的开发正值外界对AI生成图片及其他合成内容被用于网络诈骗的担忧不断增加之际。

随着AI技术的发展,网络诈骗者越来越容易制造以假乱真的图片和内容,使普通网民更难分辨信息的真实性。

Min Han的项目希望让普通公众也能使用原本较为专业的技术检测手段,同时鼓励人们对网络信息保持批判性判断。

目前,这款应用尚未公布正式向公众开放的时间,也没有提供经过独立测试的检测准确率数据。

尽管如此,这个项目展示了大学生如何利用人工智能技术应对网络安全问题,同时也提醒公众:除了依靠技术工具,提高自身防骗意识同样重要。