小学生画了撇胡子骗过AI年龄验证,硅谷工程师沉默了

魔法打败魔法的「骚操作」,属实把我看乐了。

今年年初,社交平台 Discord 为响应全球监管压力,搞了个「teen-by-default」,默认把大家都当未成年人,部分功能直接锁死。要想解锁成人模式,就得过年龄验证这一关。

验证方式主要有两种:要么对着摄像头自拍一段小视频,让 AI 在我们手机本地估算年龄;要么老老实实上传身份证。

结果互联网老哥们开始各种极限测试,有人拿游戏截图糊弄,有人用 3D 模型,最离谱的是用手指简笔画。

有人在大拇指上画了俩眼睛一张嘴,举到摄像头前,按照系统提示居中、对准、左转头、右转头……AI 分析完了,给出的结论是:年龄在 13-15 岁之间,验证通过!

文章配图-2

视频来源:https://www.instagram.com/reels/DUqrCoWDRI0/

互联网在「钻空子」这块从来不缺想象力,还有 12 岁男孩用眉笔画了撇胡子,被系统判定为 15 岁,顺利过审。

为啥会这样?

这些平台为了应对监管,同时尽量减少隐私争议,选了一套设备端面部年龄估算方案,也就是用户对着摄像头录一段视频,AI 模型完全在本地手机或电脑上运行,只把最终的年龄区间判断结果发回服务器,不会上传完整视频或人脸数据。

这听起来隐私风险小,验证过程也相对轻便,但代价是可用的计算资源有限,模型不能太复杂,更没法依赖服务器端的重型分析。

这些模型主要靠眼睛、嘴巴、脸部轮廓、皮肤纹理等视觉特征来推断年龄,一个简单画了两个点和一条线的拇指,在特定光线、角度和低分辨率下,意外符合了「年轻光滑脸部」的抽象特征模式。

系统要求「脸」居中并左右转动时,手指的自然轻微抖动和跟随动作,又提供了基本的运动信号,足以让相对轻量的活体检测认为这是「活的」物体,直接放行。

AI 年龄估算模型主要是用海量真实人脸数据训练出来的,对这种高度非标准、抽象化的输入本来就缺乏足够鲁棒性。

rollout 初期,平台为了不让正常用户因为光线不好、角度不对或长相特殊而频繁失败,不得不把阈值设得相对宽松,也就给了这种低技术含量邪修方法可乘之机。

Roblox 等平台也出现过类似情况。由此可见,当前的面部年龄技术,在面对精心设计的欺骗手段时,还远没到滴水不漏的程度。

平台们也没坐以待毙。

前段时间,Meta 宣布要用 AI 主动扫描用户上传的照片和视频,通过身高、骨骼结构等通用视觉线索,判断账号主人是否未满 13 岁,进而直接移除。

Meta 特意强调:「这不是人脸识别」,它只做大概的年龄区间判断。」

文章配图-1

而且 Meta 不只看图片,还会结合整个账号的文本内容和互动行为全方位画像,比如发生日蛋糕、提到学校年级等,这些都会被纳入判断。

一旦 AI 觉得疑似未成年,就会先把账号干掉,想找回来得走官方验证流程。目前这套系统已在部分国家上线,后续会逐步推向更多地区,还计划扩展到 Instagram Live、Facebook 群组等场景。

平台在用 AI 堵漏洞,用户想方设法钻漏洞。

这场猫鼠游戏,大概率还会持续下去。

参考链接:

Meta will use AI to analyze height and bone structure to identify if users are underage

https://www.instagram.com/reels/DUqrCoWDRI0

本文来自转载机器之心 ,观点仅代表作者本人,发现AI平台仅提供信息存储空间服务。
如若转载,请联系原作者;如有侵权,请联系编辑删除。

(0)
资讯组小编的头像资讯组小编
MiMo-V2.5 系列推理全链路优化:将 Hybrid SWA 效率推向极致
上一篇 3小时前
AI帮我写网站代码,我以为要起飞了,结果被黑到怀疑人生
下一篇 19分钟前



扫码关注我们,了解最新AI资讯~

相关推荐

发表回复

登录后才能评论