最新要闻
- 7月7日西南地区乙醇市场行情弱稳运行
- Mozilla宣布放弃AI Help工具:生成信息真假掺半、难以使用
- 河北启动干旱防御Ⅳ级应急响应 多措并举保障农业生产
- 《弗拉特西去哪儿?》已经落幕,国米是赢家,罗马忙着数800万欧
- 李玟因抑郁症离世,半年前与富豪老公分居,婚后十二年男方频出轨
- 大放光彩!迈贝特8MW彩钢瓦项目撑起一片光明!
- 国际原子能机构扩大扎波罗热核电站检查范围
- 开发区184项高频政务服务实现“跨省通办”只进“一扇门”办好“两地事”
- 最难相处的星座
- 视频|上海南京路“快乐倒计时”的交管小哥火了!本人回应:想给大家活跃活跃气氛
- 李家超来贵阳夜市喝奶茶吃鸡蛋仔,说要买贵州非遗产品送太太
- 美新型毒品泛滥吸食者如丧尸围城,仿若现实版“生化危机”
- 佳禾食品(605300.SH):目前咖啡豆和咖啡粉毛利率差别不大
- 陆家嘴10亿元中票拟于7月20日付息 利率2.90%
- “趁热”来贴!金山区“冬病夏治”门诊安排来了
- 持续小阴,还需耐心
手机
山东1531家危化企业逐一“过筛子”,安全生产专项整治形成强力震慑
聚焦人工智能安全测试 永信至诚与商汤科技展开战略合作
- 山东1531家危化企业逐一“过筛子”,安全生产专项整治形成强力震慑
- 聚焦人工智能安全测试 永信至诚与商汤科技展开战略合作
- 前海开源公用事业:百亿基金经理崔宸龙掌舵,近一年浮亏17.18%,去年管理费净赚2.93亿元
- 山东首个空港综保区通过验收
- 手机处理器 5G 蜂窝耗电排名,骁龙 8Gen2 表现最佳
- 江苏出台举措深入推进智慧社区建设
家电
蚂蚁集团发布AI安全检测平台“蚁鉴2.0” 可实现用生成式能力检测生成式模型
7月7日,2023世界人工智能大会(WAIC)“聚焦·大模型时代AIGC新浪潮—可信AI”论坛举行,蚂蚁集团联合清华大学发布AI安全检测平台“蚁鉴2.0”。蚁鉴2.0可实现用生成式AI能力检测生成式AI模型,可识别数据安全、内容安全、科技伦理三大类的数百种风险,覆盖表格、文本、图像等多种数据和任务类型,是业内首个实现产业级应用的全数据类型AI安全检测平台。据了解,该产品还入选了本届大会的“镇馆之宝”。
(资料图)
AIGC安全成为当前人工智能研究发展的重要议题。中国科学院院士何积丰发表《可信人工智能展望》主题演讲。他认为,不能再将人工智能视为简单的技术工作,而是成为整个组织的变革引擎。可信人工智能要致力于保障数据安全可信、系统行为可追责、算法模型可解释、网络环境可信、法律伦理可信等问题。
在该论坛上,蚂蚁集团同时宣布,“蚁鉴2.0”全面开放,面向全球开发者免费提供AIGC安全性、AI可解释性、AI鲁棒性三项检测工具,可服务于数字金融、教育、文化、医疗、电商等领域的大规模复杂业务场景。
据了解,“蚁鉴2.0”的两项硬核能力,一是实现了用生成式能力检测生成式模型。检测标准覆盖内容安全、数据安全、伦理安全三大类,可对大模型生成式内容完成包含个人隐私、意识形态、违法犯罪、偏见与歧视等数百个维度的风险对抗检测,并会生成检测报告,帮助大模型更加有针对性地持续优化。
蚂蚁集团大安全事业群技术部总裁李俊奎表示:“生成式大模型是一种‘深黑盒’技术,‘蚁鉴2.0’通过智能博弈对抗技术,模拟黑产以及自动化生成海量测试集,可实现‘生成式机器人’对‘AIGC生成式模型’的诱导式检测计算,很像一个24小时不眠不休的‘安全黑客’在找茬大模型,从而找到大模型存在的弱点和安全问题所在。这种AI对AI的评测,也是教学相长。好比生成式考官考核生成式运动员,在对抗中双方能力互相提升,进一步提高整个行业的AI安全水位。”
另一项硬核能力是,“蚁鉴2.0”融入了可解释性检测工具。综合AI技术和专家先验知识,通过可视化、逻辑推理、因果推断等技术,从完整性、准确性、稳定性等7个维度及20余项评估指标,对AI系统的解释质量量化分析,帮助用户更清晰验证与优化可解释方案。
据了解,“蚁鉴2.0”集成了蚂蚁近10年可信AI实践、1000余项可信AI专利,支持零编码测评。开发者通过API接口,将AI模型接入蚁鉴,就可以一键识别和挖掘模型漏洞。
蚂蚁集团认为,人工智能的深度应用,不仅对数据、算法、算力提出了更高要求,也对安全、隐私、伦理提出更多挑战。在确保数据安全和隐私保护、健全人工智能伦理与安全的前提下,才能让AI技术真正地释放应用价值。
此次论坛上,中国信通院、上海人工智能实验室、武汉大学、蚂蚁集团等多家单位共同发起的《AIGC可信倡议》。该倡议得到数十家单位参与,围绕人工智可能引发的经济、安全、隐私和数据治理等问题,提出构建AIGC可信发展的全球治理合作框架,采用安全可信的数据资源、技术框架、计算方法和软件平台等全面提升AIGC可信工程化能力,最大限度确保生成式AI安全、透明、可释。
论坛现场还发布了由中国信通院、清华大学、蚂蚁集团联合编纂的《可信AI技术和应用进展白皮书(2023)》。该报告基于统一的可信AI认知维度,梳理总结可信AI发展现状,提练了面向新阶段大模型和AIGC引发的新需求,形成以技术为保障的可信AI评估体系和工具,探索新一代可信人工智能发展。
公开资料显示,蚂蚁从2015年开启可信AI的实践和探索,是蚂蚁集团在人工智能领域的重点布局之一。通过可信AI技术的突破,蚂蚁集团建设了一套世界领先的智能风控解决方案;蚁鉴AI安全检测平台先后获得2022年上海金融科技中心建设三周年优秀成果、信通院可信人工智能实践标杆案例等认可。
(文章来源:上海证券报·中国证券网)
关键词:
蚂蚁集团发布AI安全检测平台“蚁鉴2.0” 可实现用生成式能力检测生成式模型
洗碗机入华30年,为何没像洗衣机一样普及?
7月7日西南地区乙醇市场行情弱稳运行
我国首艘数字智能科研试验船“海豚1”轮返回母港青岛
蚂蚁集团联合清华大学发布AI安全检测平台“蚁鉴2.0”
中方县检察院开展涉企案件质量评查研讨会
吉林高温补贴标准2023年是多少钱 2023年吉林省高温补贴标准来了~
绝平升班马保持半程不败 津门虎是时候露出獠牙了
记者蹲点丨大樱桃玩转直播电商
Mozilla宣布放弃AI Help工具:生成信息真假掺半、难以使用
山东1531家危化企业逐一“过筛子”,安全生产专项整治形成强力震慑
京东物流助平谷大桃政企合作首单抵达
揭幕战,今晚打响!
12家常德茶企亮相2023中国(深圳)国际春季茶产业博览会
聚焦人工智能安全测试 永信至诚与商汤科技展开战略合作
前海开源公用事业:百亿基金经理崔宸龙掌舵,近一年浮亏17.18%,去年管理费净赚2.93亿元
科普服务乡村振兴 中国计算机学会组织吕梁教师赴皖研学
河北启动干旱防御Ⅳ级应急响应 多措并举保障农业生产
近百名香港青年在浙江龙泉“当匠人” 深度体验剑瓷文化
宝龙地产上半年合约销售额176.10亿元,同比下降24.23%
中国海关禁止进口日本福岛等十个县(都)食品
山东首个空港综保区通过验收
《弗拉特西去哪儿?》已经落幕,国米是赢家,罗马忙着数800万欧
上海有人天天划船上下班?单程6公里,耗时一小时;网友:到公司先洗澡?
职业教育概念股一览_A股职业教育概念股名单详解(7/7)
“伟大工程——抗战时期中国共产党的建设”专题展览在京举办
牵手门处罚结果来了! 中国石油北京项目管理公司:给予胡继勇开除党籍、开除公职处分 与董某某解除劳动合同
微广播剧为古画“上新”
二十年老友一朝决裂,石榴集团创始股东“内讧”何因?
李玟因抑郁症离世,半年前与富豪老公分居,婚后十二年男方频出轨
中裕司因内幕交易案被判处两年零六个月监禁、缓刑四年
手机处理器 5G 蜂窝耗电排名,骁龙 8Gen2 表现最佳
水羊股份(300740)公司首次覆盖报告:双轮驱动的领先美妆集团 品牌升级迎经营拐点
江苏出台举措深入推进智慧社区建设
老旧市场变身电子信息产业园 昌平北七家为村集体经济提供活水
投贷联动试点合作机制今天启动
新疆兵团:科技让棉花田间管理更精准 助力节本增效
新沟桥街道打造花园夜市
大放光彩!迈贝特8MW彩钢瓦项目撑起一片光明!
Rivian(RIVN.US)涨势未止! 有机构喊出30美元目标价
乌加特6000万欧加盟巴黎成葡萄牙体育队史第二高,仅次于B费
何小冰:黄金1905多头防守,失守放量再看探底回升
(230707觉悟)养成习惯 学会总结
支付宝、财付通收央行巨额罚单,分别被罚没超30亿和近30亿
胡锡进呼吁:股市理应成为老百姓手中钱接下来的重要去向
支付宝、财付通收央行巨额罚单,分别被罚没超30亿和近30亿
科技成果跨区域转移转化 宁夏这个大会干货多
从加价到优惠16万,日本“神车”神坛跌落!
福建福州台江:多措并举 筑牢辖区安全法治防线
万彩动画大师重置镜头的方法
明亚价值长青混合增聘基金经理毛瑞翔
《全境2》玩家卡BUG遭育碧封号 外媒抨击惩罚不合理
石家庄停工留薪期内工资应当如何发放?
燕郊人速看!个人不动产登记信息查询指南
苹果返校优惠或在 7 月 9 日开启,电商平台活动已上线
cad中测量面积的方法(cad测量面积方法)
浙江义乌联合村镇银行被罚80万元:因违规发放借名贷款等
纽元/美元汇率走势分析:攀升接近100日均线 非农前关注三角形阻力位
开心果保存方法小窍门(开心果怎么保鲜)
Flutter 地图在携程的最佳实践
歌手李玟因抑郁症离世引发关注 首个国产抗抑郁创新药已获批
卡戴珊参加名人派对,和姆巴佩合影,狂秀腹肌和钻石,大出风头
国际原子能机构扩大扎波罗热核电站检查范围
规范实习行为 保障医疗安全 信阳市人民医院举办2023年实习生岗前培训
“马路办公 马上办理”封丘县持续开展“万人进万企”工作
河南镇平:“15分钟政务服务办事圈”增加民生温度
开发区184项高频政务服务实现“跨省通办”只进“一扇门”办好“两地事”
高考志愿填报,别让骗子钻了空子
曲江新区2021年后备人才“星火训练营”行动学习论文评审会暨结训仪式圆满举办!
河北滦平农商银行被罚40万元:因贷款风险分类不准确
襄阳市举办首届集体协商技能竞赛决赛
有人的财物被盗了,旁人总是“出于好心”说,你怎么这么不小心
“数智安全 内生为本”2023北京网络安全大会在京举办
杭州:爱心凉茶摊 夏日送清凉
深圳国际(00152.HK):7月7日南向资金增持64.65万股
越秀地产(00123.HK):7月7日南向资金减持11.7万股
中国人民银行发布《中央银行存款账户管理办法》
太阳雨空气能采暖机成功入驻珠峰大本营 为登顶活动提供清洁采暖保障
厦门国际会展中心D馆竣工投用
广州消防通报荔湾区新基路火灾事件
腾讯会议限制免费会议数 调整跨App加入会议功能
央行发布办法 规范中央银行存款账户服务和管理
河北省住房城乡建设厅通报2023年第六批11起典型违法案件
IAEA总干事回应专家分歧传言,并称不为核污水排海背书
罗马诺:热刺仍有意勒沃库森后卫塔普索巴,同时推进范德文交易
江西九江:不再延长阶段性购房补贴、交易契税财政补贴政策
最难相处的星座
青海海东警方破获特大电诈案 涉案金额高达5540余万元
央行发布《中央银行存款账户管理办法》 加强关键环节风险管控
惠而浦:预计上半年净利润3000万元-4500万元
江西省统计局发布声明:防范假冒省统计局名义征订书籍
支持文生图 阿里云推出通义万相AI绘画大模型
茅台网易合资公司新增百货销售业务 茅台网易合资公司新增票务代理服务
鸿海将为日本机器人公司Telexistence代工新一代机器人
视频|上海南京路“快乐倒计时”的交管小哥火了!本人回应:想给大家活跃活跃气氛
@所有人!崇左花山日游花山仅需9.9元,还能免费领取...
V观财报|业绩快报相关信披不准确 东方生物及董事长等被警示
刚刚!兰州9所省级示范高中统招预估录取线公布
张玉霞你是我的眼下载(你是我的眼 张玉霞)
西安市雁塔区人力资源和社会保障局在哪个位置(西安市雁塔区人力资源和社会保障局在哪)