仅靠AI还不足以保护社交媒体社区免受AI侵害

生成式AI的兴起为社交媒体内容审核带来新挑战。Reddit的AI审核工具曾误删r/AskHistorians社区大量有价值的历史帖子，却被计入"执法效率"指标。与此同时，LLM驱动的垃圾机器人大量涌入，营销机构也在利用A...

Discord AI审核漏洞误封超8000用户，错误将无害图片判定为违禁内容

Discord近日承认，其AI内容审核系统存在漏洞，在过去两个月内错误封禁了超过8000名用户。被误判的图片包括电子表格、棋盘、游戏纹理及白灰透明背景等无害内容。该漏洞自5月起持续影响用户账号，仅一个周末便新增200名受...