眼跳测吉凶Clubhouse以兴趣为引子,旨在打破圈层,为用户创造平等对话和交流机会。名人效应、邀请制、兴趣圈、仅支持语音对话、陌生人社交等与众不同之处让其快速出圈。
过去一个月,语音社交产品在中国陆续“滑铁卢”。继Clubhouse被封之后,映客推出的“中国版Clubhouse也因技术调整而紧急下架。从这些风险事件来看,内容监管、数据安全和隐私是摆在Clubhouse面前最大的难题,也是所有入场语音社交的团队必须解决的问题。
针对上述痛点,网易易盾推出面向语音社交平台的一站式融合解决方案,打通内容安全和移动安全能力,助力语音社交产品轻松化解各类数字内容风险。
在Clubhouse中,用户可以认识陌生人,随意游走在各类聊天室之间。在陌生人社交场景下,用户发言难以控制,让内容风险无遗。近年来,我国在互联网内容治理方面取得一系列突破,与文本、图像相似,语音内容同样面临《网络安全法》、《网络安全审查办法》、《互联网信息服务管理办法》等法规的监管。
·在语音聊天室内出现涉黄、涉暴、涉政、违禁等内容,将会危及语言社交产品的持续运营。一旦出现上述越过监管红线的行为,风险将不可估量,轻则下线整顿,重则彻底关停。
·导流广告、、错误价值观导向等内容,也是不可忽视的内容监管动作。这些内容可能为更深层次的危机,地将用户导向其他平台进行招嫖、网络诈骗、“杀猪盘”等违法活动。
·除硬性之外,社交语音产品的内容需求也可能源于自身平台的运营调性。借助内容风控技术,平台设置内容监管的选择动作,及时发现不符合平台运营价值的言论。
以声音作为媒介,这让语音社交产品面临在内容治理上更困难的现实,音频给内容控制带来了一系列截然不同的挑战。首先,有别于文本、图像识别所面对的挑战,小语种、方言、语音、语调、语速、背景音都会导致语音识别准确率下降。其次,在陌生人社交场景下,语音社交产品还面临检测时效性挑战。语音内容被短暂保留,用于检验用户是否违规发布。开发者必须快速检测一条条实时聊天音频,而整个过程过于琐碎、费时。
当前,网易易盾技术研发组让实时、精准的语音检测技术成为可能。一条语音的检测依次经过语音处理、语义识别、文本安全、声纹检测等流程,即可审查:第一类,带语义的问题语音,检测对话是否涉及、、、广告等语义,一次性掌控若干种类型的内容风险;第二类,无语义的问题语音,例如范畴下的娇喘、ASMR,类别下的重要领导人的声纹、禁歌的音调。
基于上述技术实力,易盾推出了基础语音识别、智能声纹识别、用户维度识别和社交场景识别,为语音社交平台提供四重数字内容风控防护。
网易易盾的基础语音识别技术集语音处理、语义模型、文本安全于一体。先将接收后的语音进行预处理,下一步通过先进的人工智能技术将语音为文本,突破高度狡猾的语音变种内容,例如方言、小语种、同音词、变速、背景音等,在调用文本检测技术,负责监测语音文本中是否存在违规内容。
无语义的问题语音监测借力于智能声纹识别得以实现。当发现违规的语音内容时,网易易盾会提取违规语音的声纹特征,给每一种违规语音分门别类,根据性别、人物身份、违规类型打上标签,建立声纹库。当前,易盾支持多种声纹监测,区分male与female的人声性别检测、重点领导人声纹监测、涉及黄、暴、政违规的声纹。
内容维度对语音本身进行检测,用户维度则是从用户关系、用户行为、用户画像入手进行风险预知。结合易盾的业务安全实力,对问题语音的发出者进行定位,将问题内容与衍生风险在摇篮中。
从社交关联图谱的视角,整合社交行为(例如,加好友、互粉、私聊、群组/聊天室)以及账号基础属性(例如,头像、昵称、签名)数据构建用户亲密度网络:一方面,应用Fast-Unfolding、GraphCut等图聚类算法从中挖掘出潜在的团伙子图;另一方面,应用动态DeepWalk、Struct2Vec算法实现用户节点的向量化表达,聚类发现黑灰产账号(例如,水军、机器人、账号或者营销账号)明显区别于正常用户的社交行为模式。
从业务风控治理的视角,黑产用户以获利为最终目的,在每一个业务节点上的行为大都是异常的。基于此,易盾在用户注册、登录、业务行为、UGC内容发布等关键业务环节引入验证码、设备指纹、反作弊策略,努力将每一个业务节点的问题率控制在最低。此外,每个业务节点的数据、结论相互辅助,从而确保内容风控整体效果。
主打语音+社交的clubhouse们,在语音内容检测之外,也必须关注社交场景下的检测字段,包括头像、签名、昵称在内的用户资料、聊天室的房间标题,等等。在服务大中型UGC平台的多年实践中,网易易盾沉淀了一套针对社交的监测经验和方,从内容纬度和用户纬度出发建立联合监测算法,适用于IM私信、多人聊天室、用户资料、弹幕、留言、评论等大部分社交场景。
目前,易盾语音检测在通用领域的识别准确率达到90%以上,小语种ASR在实验室下平均识别准确率约达90%,尤其在电商、电话客服等领域,经过针对性定制优化,识别性能达到行业领先水平。
一位身份不明的用户将来自Clubhouse多个房间的音频传送到自己的第三方网站上。这起音频窃取事件引发了用户信任危机,了语音社交爆发背后的隐忧,也给同类产品设计带来警示。
针对此类问题,网易易盾提供多重“安全措施”来防止此类事件再次发生,集合数据加密、应用加固、用户隐私政策合规于一体的移动安全解决方案,从音频数据到应用代码安全,让产品更。
用户创造的音频是语音社交产品的重要通讯数据,也是黑产觊觎的“肥肉”,在储存和传输中伴随着显著风险。如果客户端应用与服务端之间采用传输,者可以轻易获得通信内容,从而伪造通信报文、核心数据。
如何让音频数据带有高强度的自防护能力?开发商可以对通信中的语音数据加密后再发送,并结合度的校验机制,防范、劫持、重放等行为,网络数据传输的安全性。
数据传输安全:通信数据加密SDK融合了传统的对称、非对称加密和哈希加密的思想,任何时候移动终端只存有加密的公钥,服务器端只存有解密的私钥。当客户端和服务端完成密钥交换之后,数据得以传输。重要通讯数据也可重点适配“一次一密”模式,即在密钥生成中添加时间随机数,每次加密都使用新的密钥体系完成,有效防止了语音信息被窃取。
数据储存安全:安全存储SDK用于用户隐私信息、应用配置文件、本地重要信息的加密,支持AES、DES、3DES、SM4等标准的加解密算法,本地隐私文件免受、窃取。
便捷的集成方式助力客户快速接入,自动实现关键数据加密。语音社交产品通过加载SO文件,在需要进行数据的环节直接调用易盾安全存储SDK的Java函数。加密后的音频数据即便被第三方“黑产”恶意拦截、也无须担心。
在用户数据与隐私战中,移动应用本身是防御重镇。移动端仿佛一座数据的仓库,率先成为黑产窃取的目标。
大量诸如账号、密码、手机号码、信用卡号、银行卡号、身份证件号码、家庭住址信息、公司地址信息、家庭信息、个人私密信息、商业信息等数据被保存移动设备中。社交产品中以文本、图片、音频为载体的聊天记录也是不可忽视的重要信息资产。
者利用“逆向工程”原理,对没有加固的应用进行逆向分析及研究,得知代码逻辑,找到接口或程序中的漏洞,进而编制恶意程序,入侵和窃取用户信息。网易易盾提供专业“函数级”代码加固服务,助力开发商可以对应用加壳、加密,从而降低应用代码被第三方逆向出来的可能性,应用程序被二次打包、破解或。
代码破解:对APP代码逻辑进行形式转换,包括隐藏,混淆,加密等操作,基于Android与iOS系统特性进行区别,将兼容性、适配性、安全性风险降到最低。
避免接口被刷:对重要通信接口参数的加密,有效防止接口被分析后重要参数泄漏,导致者通过接口模拟方式进一步破解程序。
防止截屏录屏:对所有录屏软件“”模式,第三方恶意程序截屏、录屏功能,有效信息泄露。同时,支持追踪录屏功能的用户身份,主要是通过预制策略、用户设备信息、用户行为识别风险用户。
声名鹊起的Clubhouse深受用户隐私问题困扰,其用户隐私协议中的多项条款被指违反《一般数据条例》(PR),也不符合中国多部门近年来陆续出台的个人隐私保规:未经用户同意,调用用户手机中的联系方式,分析联系人数据吸引新用户加入;用户隐私协议只有英文版,非英语母语用户理解困难;针对录音取证和账号删除等个人数据处理情况,未能建立明确的规则。
根据《关于开展App违法违规收集使用个人信息专项治理的公告》,App运营者要遵循、正当、必要的原则,不收集与所提供服务无关的个人信息;收集个人信息时要以通俗易懂、简单明了的方式展示个人信息收集使用规则,并经个人信息主体自主选择同意;不以默认、、停止安装使用等手段变相用户授权,不得违反法律法规和与用户的约定收集使用个人信息。
可以看到,Clubhouse违反了上述多项条款。易盾,用户隐私是大势所趋,考虑进入语音社交领域的开发商应该深入政策规划,既是为了避免损害使用者权益,也能够品牌商誉和商业运营,在用户隐私政策合规处理上多加注意。
“APP隐私合规检测”是易盾全新启动的一项自动化代码排查服务,精准定位到涉及违规获取隐私权限的代码,提供一对一用户隐私合规专家,通过安全测评报告向APP开发者提供专业整改,助力APP通过监管机构的评估。
新社交形态的出现,扩展了网络安全的探讨空间。在政策法规的下,内容监管、数据安全和个人隐私是语音社交绕不开的安全重点。后续,主打陌生人语音社交的开发商需要兼顾各类安全问题,排除内容安全与移动安全隐患,确保产品安全上线与平稳运营。
网易易盾高效赋能基于不同场景,切入声音赛道的社交产品搭建“安全基础设施,灵活输出多层次、强有力的数字内容风控与数据隐私技术,让开发者专注形式创新与用户体验,助力产品取得成功。
网友评论 ()条 查看