从技术创新到安全治理:宜人智科以行动推动AI可靠可控发展

2025/6/19 15:50:39     

2025中国网络文明大会近日在合肥成功举办。在中央网信办网络法治局、网络管理技术局和网络数据管理局的联合指导下,中国网络空间安全协会在大会期间发布了两项重要行业倡议:《推动人工智能安全可靠可控发展行业倡议》和《人脸识别技术应用合规倡议》,这两项倡议直指当前数字技术安全治理的核心议题。作为主要发起单位之一,宜人智科联合多家行业平台积极响应,庄严承诺将切实履行企业责任,通过具体实践推动人工智能技术的安全可控发展,并确保人脸识别技术应用的合规性。

《推动人工智能安全可靠可控发展行业倡议》聚焦AI技术的安全、可靠、可控发展,从法治、技术、数据和伦理等维度提出规范路径,引导技术向善。《人脸识别技术应用合规倡议》则针对人脸识别应用中的核心问题,围绕数据采集、存储、使用和责任落实等环节,倡导建立全流程个人信息保护机制,推动技术合规应用。

image.png

宜人智科在合规建设方面,严格遵循《网络安全法》《数据安全法》《个人信息保护法》等法律法规,将国家及行业标准深度融入业务流程的各个环节,建立了覆盖全生命周期的个人信息治理机制,确保业务开展的每一个环节都符合合规要求。

image.png

公司基于人工智能与大数据技术,自主研发了“Hawkeye反欺诈管理系统”,已建立600万条黑名单数据库,累计拦截欺诈借款50万次,识别黑产攻击者近4.2万人,排查高风险客户申请4125次,锁定黑产代理43家。同时,针对网络安全威胁,公司构建了终端-应用-网络的多层防护体系,实现高级威胁检测与响应,保障数据安全合规流转。

2024年11月,宜人智科CEO唐宁出席世界互联网大会,倡导智能向善的人工智能创新。从理论研究到商业运用,人工智能通过技术创新与应用创新发挥了众多积极作用。

在价值导向方面,宜人智科采集多源数据融入模型,运用人类反馈强化学习(RLHF)技术和具有辩证观点的数据,强化训练的客观性。在业务场景中采用检索增强生成(rag)技术,通过知识召回来提升信源可靠性。在算法透明性方面,宜人智科确保模型运行机制透明且输出逻辑可解释,对模型的各个环节制定统一规范,并通过自主研发模型工厂使训练过程透明化。

在数据安全方面,生成式AI可能伪造或者生成错误信息从而扰乱市场,极易产生有害或误导性内容,进一步威胁市场稳定和资产安全。宜人智科始终严格执行数据清洗和脱密流程,保护个人隐私不受侵犯。

在风险控制方面,宜人智科构建了全面的风控体系,涵盖AI质检、情绪识别、内容审核、AI反识别等内容。一旦发现违规情况,能够及时屏蔽制止,例如在客服场景中,情绪识别可提醒客服调整策略,内容审核设有多层拦截,在风控方面AI反识别能够拦截伪造行为。

作为数字经济发展的践行者,宜人智科将持续深化技术创新与安全治理的融合发展,以"技术向善"为核心理念,携手行业伙伴共建安全、可信、可控的数字生态。未来,公司将继续发挥科技企业的示范作用,在推动人工智能安全发展、保障用户数据权益的道路上迈出更坚实的步伐,为构建清朗网络空间贡献智慧与力量。