最新要闻
- 可以连皮吃的是什么橘子?
- 北京地铁10号线二期开通(北京地铁十号线二期都有哪些站)
- 中国人寿大学生保险可靠吗?查询方式是什么?
- 全国发布108个高温红色预警,其中河北占了71?个
- 波音将为韩国和西班牙生产CH-47F直升机
- 【总榜发布】
- 蔡若莲:大学若推动国民教育不善须负责
- 中国海关禁止进口日本福岛等十个县(都)食品
- 浙江绍兴91家博士创新站,促进中小企业技术革新
- 华为云CEO张平安:现在谈AI大模型收益为时过早
- 中石油北京项目管理公司通报“胡继勇及员工董某某相关视频"事件
- 7月7日西南地区乙醇市场行情弱稳运行
- Mozilla宣布放弃AI Help工具:生成信息真假掺半、难以使用
- 河北启动干旱防御Ⅳ级应急响应 多措并举保障农业生产
- 《弗拉特西去哪儿?》已经落幕,国米是赢家,罗马忙着数800万欧
- 李玟因抑郁症离世,半年前与富豪老公分居,婚后十二年男方频出轨
手机
中国证监会同意碳酸锂期货及期权注册
西陇科学拟收120万元罚单,律师征集受损股民维权
- 中国证监会同意碳酸锂期货及期权注册
- 西陇科学拟收120万元罚单,律师征集受损股民维权
- 花中四君子中竹的象征意义(竹的象征意义)
- 腾讯:央行的罚款决定对集团整体的经营和财务状况没有任何重大不利影响
- 《巅峰坦克》2023星路联赛年中四强赛即将开启
- 【平安护航】“炸街车”夜晚行驶街头,抚顺交警铁腕整治!
家电
蚂蚁集团发布AI安全检测平台“蚁鉴2.0” 可实现用生成式能力检测生成式模型
7月7日,2023世界人工智能大会(WAIC)“聚焦·大模型时代AIGC新浪潮—可信AI”论坛举行,蚂蚁集团联合清华大学发布AI安全检测平台“蚁鉴2.0”。蚁鉴2.0可实现用生成式AI能力检测生成式AI模型,可识别数据安全、内容安全、科技伦理三大类的数百种风险,覆盖表格、文本、图像等多种数据和任务类型,是业内首个实现产业级应用的全数据类型AI安全检测平台。据了解,该产品还入选了本届大会的“镇馆之宝”。
AIGC安全成为当前人工智能研究发展的重要议题。中国科学院院士何积丰发表《可信人工智能展望》主题演讲。他认为,不能再将人工智能视为简单的技术工作,而是成为整个组织的变革引擎。可信人工智能要致力于保障数据安全可信、系统行为可追责、算法模型可解释、网络环境可信、法律伦理可信等问题。
(资料图片)
在该论坛上,蚂蚁集团同时宣布,“蚁鉴2.0”全面开放,面向全球开发者免费提供AIGC安全性、AI可解释性、AI鲁棒性三项检测工具,可服务于数字金融、教育、文化、医疗、电商等领域的大规模复杂业务场景。
据了解,“蚁鉴2.0”的两项硬核能力,一是实现了用生成式能力检测生成式模型。检测标准覆盖内容安全、数据安全、伦理安全三大类,可对大模型生成式内容完成包含个人隐私、意识形态、违法犯罪、偏见与歧视等数百个维度的风险对抗检测,并会生成检测报告,帮助大模型更加有针对性地持续优化。
蚂蚁集团大安全事业群技术部总裁李俊奎表示:“生成式大模型是一种‘深黑盒’技术,‘蚁鉴2.0’通过智能博弈对抗技术,模拟黑产以及自动化生成海量测试集,可实现‘生成式机器人’对‘AIGC生成式模型’的诱导式检测计算,很像一个24小时不眠不休的‘安全黑客’在找茬大模型,从而找到大模型存在的弱点和安全问题所在。这种AI对AI的评测,也是教学相长。好比生成式考官考核生成式运动员,在对抗中双方能力互相提升,进一步提高整个行业的AI安全水位。”
另一项硬核能力是,“蚁鉴2.0”融入了可解释性检测工具。综合AI技术和专家先验知识,通过可视化、逻辑推理、因果推断等技术,从完整性、准确性、稳定性等7个维度及20余项评估指标,对AI系统的解释质量量化分析,帮助用户更清晰验证与优化可解释方案。
据了解,“蚁鉴2.0”集成了蚂蚁近10年可信AI实践、1000余项可信AI专利,支持零编码测评。开发者通过API接口,将AI模型接入蚁鉴,就可以一键识别和挖掘模型漏洞。
蚂蚁集团认为,人工智能的深度应用,不仅对数据、算法、算力提出了更高要求,也对安全、隐私、伦理提出更多挑战。在确保数据安全和隐私保护、健全人工智能伦理与安全的前提下,才能让AI技术真正地释放应用价值。
此次论坛上,中国信通院、上海人工智能实验室、武汉大学、蚂蚁集团等多家单位共同发起的《AIGC可信倡议》。该倡议得到数十家单位参与,围绕人工智可能引发的经济、安全、隐私和数据治理等问题,提出构建AIGC可信发展的全球治理合作框架,采用安全可信的数据资源、技术框架、计算方法和软件平台等全面提升AIGC可信工程化能力,最大限度确保生成式AI安全、透明、可释。
论坛现场还发布了由中国信通院、清华大学、蚂蚁集团联合编纂的《可信AI技术和应用进展白皮书(2023)》。该报告基于统一的可信AI认知维度,梳理总结可信AI发展现状,提练了面向新阶段大模型和AIGC引发的新需求,形成以技术为保障的可信AI评估体系和工具,探索新一代可信人工智能发展。
公开资料显示,蚂蚁从2015年开启可信AI的实践和探索,是蚂蚁集团在人工智能领域的重点布局之一。通过可信AI技术的突破,蚂蚁集团建设了一套世界领先的智能风控解决方案;蚁鉴AI安全检测平台先后获得2022年上海金融科技中心建设三周年优秀成果、信通院可信人工智能实践标杆案例等认可。
(文章来源:上海证券报·中国证券网)
关键词:
蚂蚁集团发布AI安全检测平台“蚁鉴2.0” 可实现用生成式能力检测生成式模型
招商蛇口上半年销售约1664亿元 近期新增6宗土地
九江市(6月28日-7月4日)生活必需品市场监测分析
中国证监会同意碳酸锂期货及期权注册
蚂蚁集团回应被罚:诚恳接受、坚决服从
为预制菜产业发展把好脉开良方 梁平区与江南大学签署校地协同创新战略合作框架协议
西陇科学拟收120万元罚单,律师征集受损股民维权
可以连皮吃的是什么橘子?
周国平对话俞敏洪:放过自己,才会活得轻松
杭州阿拉丁(关于杭州阿拉丁的基本详情介绍)
花中四君子中竹的象征意义(竹的象征意义)
腾讯:央行的罚款决定对集团整体的经营和财务状况没有任何重大不利影响
报喜鸟:二季度终端零售合计同比增速快于一季度 哈吉斯品牌目前未有赞助运动赛事计划
《巅峰坦克》2023星路联赛年中四强赛即将开启
OpenAI全面推出GPT-4!API付费用户可以即刻访问
【平安护航】“炸街车”夜晚行驶街头,抚顺交警铁腕整治!
速看!南宁市市区2023年普通高中招生计划
“夏日经济”火热 怪味雪糕激发消费新活力
洪江区生态环境分局开展危险废物规范化管理专题培训
新化首例不动产登记“带押过户”业务成功办理
共同保护熊猫的家,川陕甘三省协同立法成果有望10月出台
罗美钢琴独奏音乐会在京上演 集中呈现浪漫主义作品
专访:美国应向尼加拉瓜偿还“历史欠债”——访尼加拉瓜外长蒙卡达
终极斗罗:让唐舞麟和古月娜变成串串的黄金龙枪去哪了?三种可能
男子被限制购买高铁一等座,竟冒用前妻身份证?罚款!
终极斗罗15:新书预告,蓝轩宇后悔把古月娜介绍给唐舞麟
北京地铁10号线二期开通(北京地铁十号线二期都有哪些站)
21年笔记本电脑有什么推荐(21年笔记本电脑推荐)
铸牢共同体意识,书法征集活动
洗碗机可以用洗洁精吗(洗碗机能用洗洁精吗)
京东五星电器第二届“储鲜节”清凉上线!带动冰箱销售火爆
行业首例!太平洋保险与OceanBase完成全险种核心迁至国产数据库
《子夜外卖》看广州石牌村“单王”破解找路难题
中国石化:氢能重卡往返半径可从200公里增加到400公里
盛文兵:非农数据来袭,金价触及一周低点
贝瑞基因:宏瓴并购拟减持不超6%股份
公司研究室·每周回顾:2023年上半年A股IPO市场大盘点
选读SQL经典实例笔记02_多表查询
FDL发布2023年H1全球食品饮料趋势,解析4大创新机会点
入不敷出!房企三季度仍有债务到期高峰
ins超火英文网名 英文id干净高冷)
大满贯10连胜!世界第一横扫跻身温网16强,追平个人赛会最佳战绩
azubu(关于azubu的介绍)
中国人寿大学生保险可靠吗?查询方式是什么?
阿尔巴接近加盟迈阿密 梅西或重逢老队友
全国发布108个高温红色预警,其中河北占了71?个
严查日输华食品
《马里奥赛车8豪华版》第五弹DLC赛道12日上线
保卫萝卜4波仔很忙第二十四关过关方法一览
【真相|微评】美国“经济胁迫”要钱更要命
波音将为韩国和西班牙生产CH-47F直升机
仓储龙头股一览表,3只龙头股名单(7/7)
群众转移、房屋清淤、重建选址……重庆强降雨后做了这些事
老公那方面不行可以离婚吗(老公那方面不行)
江西推进“交所融合”改革:“110+122”织牢农村道路安全网
【总榜发布】
渭南市临渭区召开省级知识产权保护规范化市场创建工作推动会
蔡若莲:大学若推动国民教育不善须负责
地牢逃脱挑战无尽迷宫,破解难题逃出生天
IAEA总干事回应专家分歧传言,并称不为核污水排海背书
天津市养老金上调方案2023最新进展 2023退休人员养老金能涨多少钱?
宁夏人社厅养老金2023年最新消息公布!首个养老金上涨方案公布了,涨幅3.8%
微软:全球大部分地区XGP订阅价格调整
宝可梦:睡眠手游已开放预注册 可追踪睡眠情况
今日这些个股异动 主力加仓零售股、抛售计算机股
张志丹:市场不缺机会!跨周盯紧这类股
中国海关禁止进口日本福岛等十个县(都)食品
高温考验下城市保障再优化
痰的颜色代表什么图解(痰的颜色)
魔术师约翰逊的艾滋病好了吗(魔术师约翰逊艾滋病)
美国枪支暴力幸存者:我们的“隐形伤口”永远无法愈合却被永远忽视
浙江绍兴91家博士创新站,促进中小企业技术革新
《食全食美》诠释“民以食为天” 刘依恩首演稽查队队员
意大利一养老院发生火灾已致6人死亡81人受伤
中国石油驻渝油气销售企业迅速行动 守牢防汛保供双重防线
卓越医疗丨永州市中心医院:你来我往 充分发挥柔性引才附加值
佳禾智能:公司声学解决方案和产品应用较广泛
生态环境部就《温室气体自愿减排交易管理办法(试行)》公开征求意见
终极斗罗19:实体书上时间将近,让人期待的看点有哪些
华为云CEO张平安:现在谈AI大模型收益为时过早
川投能源(600674.SH):1-6月累计完成发电量17.01亿千瓦时,同比上年增长5.39%
刚刚!央行重要发布
小暑节气话养生:运动有门道 养心、防湿健脾胃很重要
内蒙古启动防汛三级应急响应
中石油北京项目管理公司通报“胡继勇及员工董某某相关视频"事件
长沙这是“诗圣”最后居所,有江畔美景,日落夜景都美,地铁直达
AI 浪潮下一个“ 3 万亿美元俱乐部”成员是谁?大摩给出答案:微软
期货市场原理与实务(对于期货市场原理与实务简单介绍)
2023全球数字经济大会闭幕 发布百余项成果
注册用户超5000万!扎克伯格推出“Meta版推特”偷袭马斯克
2023年佛罗伦萨小镇销售业绩及客流量强势增长
《消失的她》里的女性角色分析:倪妮飒,文咏珊妩媚,黄子琪清纯
BB肥是什么肥料?有什么特点?
蚂蚁集团发布AI安全检测平台“蚁鉴2.0” 可实现用生成式能力检测生成式模型
洗碗机入华30年,为何没像洗衣机一样普及?
7月7日西南地区乙醇市场行情弱稳运行
我国首艘数字智能科研试验船“海豚1”轮返回母港青岛
蚂蚁集团联合清华大学发布AI安全检测平台“蚁鉴2.0”
中方县检察院开展涉企案件质量评查研讨会
吉林高温补贴标准2023年是多少钱 2023年吉林省高温补贴标准来了~