在数字化、智能化时代,AI 大模型的发展已经成为推动社会进步的重要力量。
11 月 14 日,数据猿与上海大数据联盟联合推出《2023 中国数据智能产业 AI 大模型先锋企业》榜单,知道创宇凭借 CDAI 认知域 AI 大模型卓越的技术实力和出色的市场表现,成功荣登榜单,这一荣誉充分肯定了知道创宇在业务安全领域的突出贡献和成就。
内容治理环境复杂
AIGC 内容风险野蛮生长
随着网络和社交媒体的交织日益复杂,国外逐步转向认知域风险作战,其中不乏有外部势力通过煽动、虚构和散布虚假信息,操纵公众的认知和观念。AIGC(人工智能生成内容)的盛行,以及 AI 大模型的快速发展,也为不法分子提供了可趁之机,他们将 AIGC 应用转化为制造内容风险的工具,导致 AIGC 内容风险野蛮生长。
为了保护公共利益和用户权益,监管单位正在针对 AIGC 技术的发展制定新的法律法规和监管措施;内容安全公司也在积极创新和提升技术能力,通过新产品和解决方案来应对 AIGC 带来的内容安全风险,确保用户和社会能够在可信赖的信息环境中获得安全、可靠的内容。
知道创宇 CDAI
推动 AIGC 内容治理产业向前发展
基于上述背景,知道创宇业务安全产品线融合多年业务审核实践经验,联合众多内容安全审核领域专家智囊,使用数十种前沿数据科学算法作为能力核心,研发了 CDAI(Cognitive Domain Artificial Intelligence)认知域 AI 引擎系统,助力 AIGC 治理。
CDAI 认知域 AI 引擎系统通过先进的机器学习和深度学习算法,能够提供高度准确的结果和预测,其具备良好的可扩展性,能够处理大规模的数据和复杂的任务,在实时或近实时的情况下能够快速响应,提供对结果和决策的可解释性。
同时,CDAI 认知域 AI 引擎系统也具备灵活性,能够适应不同的任务和领域,最终为各种应用场景提供强大的 AI 能力和支持,为 AIGC 治理注入新力量。
4 种先进范式,提供高度准确预测
CDAI 认知域 AI 引擎系统蕴含四种先进范式,通过先进的机器学习和深度学习算法,能够提供高度准确的结果和预测。
01数据优先范式
为了更好的理解数据、处理数据、管理数据,构建了全面的、覆盖整个训练周期的的数据分析及可视化手段。秉持“data-driven”为信念的开发实践,在该范式的加持下,对数据的清晰认知、精准把控,算法迭代效率较传统方式提升400%。
02持续迭代范式
采用介入式模型迭代、在线权重学习迭代两种迭代算法,在此种流程范式的加持下,算法团队,AI引擎,大数据标注师能始终保持“高内聚低耦合”的配合原则。系统生产力极大增强,沟通力得到400%提升。
03算法可解释性范式
根据AIGC内容风控要点,可解释性范式带来五项成果:满足监管标准、政策或行业要求;增强系统客户对机器学习算法的信心,消除顾虑;帮助数据科学家理解和验证AI系统的输出,推动系统设计改进;防止数据集偏见,促进算法公平;协助评估风险,同时增强模型鲁棒性。
04灵活部署范式
使用微服务方式部署模型集群,最大化释放数据科学家的创造力;自研模型推理专用微服务框架,在统一的原子引擎API之内,支持多种开发语言;设计了先进的模型集成决策权重算法,统合数十个原子引擎,既支持人工权重配置,又支持在线学习反馈优化算法。以三个中心点为核心的部署范式,迭代效率提升400%。
AI 核心技术搭建,全方位守护各行各业内容安全
知道创宇 AI 核心技术以文本数据、图像数据、视频数据、音频数据以及资质数据为全能基座,数据经产品线多年经验积累进行脱敏标注,自研并工程化多种成熟的深度学习模型,辅之以功能完善的数据科学平台及久经考验的模型开发流程,开发出算法微服务集群,为知道创宇诸多应用提供 AI 能力。目前已赋能 ScanA 5 个版本、互联网认证平台、内容审核平台、数据精标平台等多项产品。
1. ScanA 监管版
为监管单位提供属地网站群、自媒体帐号群的内容治理工作。
2.ScanA 舆情版
为监管单位提供属地舆情风险的全网排查工作,并及时预警。
3.ScanA 政企版
为企事业单位提供网站、自媒体帐号的内容风险自查工作。
4.ScanA 企业版
为互联网平台提供多种方式的内容安全审查工作。
5.ScanA AIGC 内容风控服务
为 AIGC 服务提供者提供训练标注服务、智能审核定制、合规基线评测等服务。
6. 智能互联网认证服务
为互联网平台提供资质等认证体系的搭建咨询和实施服务。
7.电商平台大数据风控服务
提供覆盖资质认证、内容审核等全维度的电商风控方案。
ScanA AIGC 版 3 套解决方案,助力 AIGC 内容风控
AIGC 在国内的广泛应用,逐步引发一系列问题,如虚假信息和不良内容传播、AI 换脸诈骗等,造成不同程度的社会负面影响。
依托于深度算法引擎系统,知道创宇 ScanA 全栈式内容风控体系拥有高效识别和精准过滤的机审能力,审核的内容包括图文音视文档等,覆盖 AI 对话、AI 绘画、AI 办公、AI 搜索、AI 视频、AI 音频等多种 AIGC 应用场景。
无论是输入词还是内容生成,平台通过 API 调用或离线的方式进行违规内容拦截。内容无异常,平台则正常对外展示;内容若违规,会打上相应标签返回给平台方。
结合以上产品能力,知道创宇针对“AIGC 服务提供者”提供 3 套内容安全风控方案。
01AIGC 训练标注服务
充分发挥人审专家优势,为各大厂商提供专业、高质量的 RLHF 服务,助力客户厂商的 GPT 类模型训练。
02AIGC 智能审核定制
使用 Instruction GPT 类模型强大的指令执行特性,极速指定审核模版,分钟级上线定制化机审能力。
03AIGC 合规基线评测
提供内容安全领域专业的测试人员对 AIGC 基线开展测试和评估,最终评测结果将为人工智能系统的开发和应用提供参考和指导。
作为一家基于 AI 和大数据的下一代网络安全企业,知道创宇始终致力于为客户提供前沿、高效的网络安全解决方案。本次获奖,不仅代表着知道创宇 CDAI 认知域 AI 引擎系统获得了业界的广泛认可,更是知道创宇在 AIGC 内容合规领域持续探索的重要动力。
未来,知道创宇将继续关注 AIGC 内容风险,与业界各方携手,致力于规避 AIGC 内容风险,帮助人们更好的享受 AIGC 带来的高效与便利,构建安全、健康、繁荣的信息环境。
发表评论
您还未登录,请先登录。
登录