最新要闻
- 计划2030年前实现中国人登月 马斯克:中国航天比多数人想象得要强大
- 女子骨折做手术后左腿变长2.3厘米:鉴定十级伤残 医院拒赔
- 产油大国起内讧:俄罗斯低价供应大量石油 沙特都顶不住了|独家焦点
- 5月29日基金净值:信诚量化阿尔法股票A最新净值1.4838,跌0.3% 全球通讯
- 找狗(关于找狗的基本详情介绍) 当前最新
- 有这么个神人:被毒蛇咬173次 长期注射蛇毒 活了101岁
- Flash死了!但小时候玩过的游戏 还不想死
- 地铁上 女子充电宝突然爆炸!现场烟雾弥漫
- 今晚油价或迎年内第四涨!加满一箱多花3.5元
- 3300秒!我国未来载人登月火箭主力发动机单台试车时长创新纪录 焦点滚动
- 【环球热闻】111完美邮箱_1163 com邮箱
- 【港股通】国泰航空(00293)据报接近订购波音777-8F货机-环球时快讯
- 土耳其总统埃尔多安再次赢得大选,将再度连任,外交部回应
- 5月29日基金净值:南方荣光A最新净值1.523,涨0.07% 当前观点
- 里程碑博士_里程碑的意思_今日看点
- 速看:武汉洪山融创智谷举办首届菁英联谊会,青年男女开启甜蜜之旅
广告
手机
iphone11大小尺寸是多少?苹果iPhone11和iPhone13的区别是什么?
警方通报辅警执法直播中被撞飞:犯罪嫌疑人已投案
- iphone11大小尺寸是多少?苹果iPhone11和iPhone13的区别是什么?
- 警方通报辅警执法直播中被撞飞:犯罪嫌疑人已投案
- 男子被关545天申国赔:获赔18万多 驳回精神抚慰金
- 3天内26名本土感染者,辽宁确诊人数已超安徽
- 广西柳州一男子因纠纷杀害三人后自首
- 洱海坠机4名机组人员被批准为烈士 数千干部群众悼念
家电
读数据压缩入门笔记02_二进制和熵
(相关资料图)
1.十进制
1.1.现代数学建立在十进制计数系统之上
2.二进制
2.1.二进制计数系统的工作原理与十进制计数系统一样,唯一的区别是前者的基数为2,而后者的基数为10
2.2.数据压缩所做的就是尽可能减少表示特定数据集时所需的二进制位数量
2.3.给定任意一个整数,我们都能将它转换为二进制形式
3.十六进制
3.1.用字母A来表示10,用B表示11,以此类推,用F表示15
4.信息论
4.1.一个数值所包含的信息内容等于,为了在一个集合中唯一地确定这个数值,需要做出的二选一(是/否)决定的次数
5.二分查找
5.1.首先将数组中的数据集分成两半,然后判断要找的数值10比处于中间位置的枢轴值是大还是小
5.2.如果一个数组包含偶数个元素,那么真正处于中间的元素是不存在的,可以根据喜好冲中间偏左或者偏右选择一个
6.熵
6.1.物理学中的解释
6.1.1.一个热力学量,表示的是一个系统中无法转换为机械功的热能的量,通常被解释为该系统的无序度或随机度
6.2.信息论中的解释
6.2.1.对在特定的消息或语言中信息传输速度的一种对数度量
6.3.表示一个数所需要的最少二进制位数
6.4.一个数所需要的二进制位数lb(x)=(log(x)/log(2))
6.4.1.二进制位已经是数据的最小单位,能使用的最小的二进制位数就是1
6.4.2.必须对这个值向上取整,也就是使用向上取整函数,即ceil(或ceiling)函数
6.5.LOG2(x)=ceil(log(x+1)/log(2))
6.6.一个集合的熵
6.6.1.H(S)=-∑pi×lb(pi)
6.7.为了使表示某个数据集所需的二进制位数最少,数据集中的每个符号平均所需的最小二进制位数就是熵
6.8.以一种倒排序的方式建立在数据流中每个符号出现概率的估算之上的
6.8.1.一个符号出现得越频繁,它对整个数据集包含的信息内容的贡献就会越少
6.8.2.很长的时间里没有什么有用的信息,真正有用的信息偶尔才会出现
7.数据压缩算法的艺术
7.1.真正试图去突破熵的限定
7.2.将数据转换成一种熵值更小的、新的表现形式
8.突破熵
8.1.按照香农对熵的定义,他只考虑了符号出现的概率,完全没有考虑符号之间的排序
8.1.1.对真实数据集来说,排序是一项基本的信息,符号之间的关系同样如此
8.2.通过利用数据集的结构信息将其转换为一种新的表示形式,而这种新表示形式的熵比源信息的熵小
8.2.1.[Q,U,A,R,K] 和[K,R,U,Q,A] 这两个集合有相同的熵
8.2.2.[Q,U,A,R,K] 这个集合表示的是英语中一个有意义的单词
8.3.增量编码(delta coding)
8.3.1.如果相邻的值之间高度相关,那么用增量编码的方法可以转换数据,使其熵变得更小
8.3.2.顺序很重要
8.4.符号分组
8.4.1.用单词作为符号,得到的熵值会更小
8.4.2.如果数据集中存在连续值组合出现多次的情况,就可以利用这种情况来减小熵
8.4.3.通过最佳符号分组预处理数据,会得到一个较小的熵值
8.5.排列
8.5.1.一个排列就是原来的集合打乱顺序后的一个版本
8.5.2.对数直接进行编码时,共需要24个二进制位,而对下标编码时,只需要18个二进制位,也就是节省了大约25% 的空间
9.标准的数字长度
9.1.用最少的二进制位数来表示一个数,在解码相应的二进制字符串时会产生混乱(因为我们并不知道该数对应的LOG2长度),会与硬件的执行性能相冲突,两者不能兼顾
9.2.折中的方案
9.2.1.用固定长度的二进制位数来表示大小不同的整数
9.2.2.最基本的存储单元是一个字节,由8个二进制位组成
9.3.信息论与实际实现层面的差别
9.3.1.绝大多数算法使用预先设定好的固定的二进制位长度,而不是通过LOG2函数计算出的二进制位长度
10.柯尔莫哥洛夫复杂性
10.1.Kolmogorov complexity
10.2.以数学家安德雷•柯尔莫哥洛夫(Andrey Kolmogorov)的名字命名,以纪念他在1963年发表了这方面的第一篇论文
10.3.度量的是确定一个对象所需要的计算资源
10.3.1.为了准确地生成数据,所需要的生成程序的大小
10.4.任何字符串的柯尔莫哥洛夫复杂性顶多比字符串本身的长度大几个字节(基本上,也就是一个程序输出字符串的每个元素)
10.5.逻辑综合(logic synthesis)或者程序综合(program synthesis)进行数据压缩的时候,柯尔莫哥洛夫复杂性就开始真正起作用了
10.5.1.本质上它取的是数据集以及反向生成产生字符串的程序的二进制位流
关键词:
-
读数据压缩入门笔记02_二进制和熵
![](https: img2023 cnblogs com blog 3076680 202305 3076680-20230529164021272-2028393854 png) 1 & 16
来源: 读数据压缩入门笔记02_二进制和熵
计划2030年前实现中国人登月 马斯克:中国航天比多数人想象得要强大
女子骨折做手术后左腿变长2.3厘米:鉴定十级伤残 医院拒赔
产油大国起内讧:俄罗斯低价供应大量石油 沙特都顶不住了|独家焦点
5月29日基金净值:信诚量化阿尔法股票A最新净值1.4838,跌0.3% 全球通讯
找狗(关于找狗的基本详情介绍) 当前最新
有这么个神人:被毒蛇咬173次 长期注射蛇毒 活了101岁
Flash死了!但小时候玩过的游戏 还不想死
地铁上 女子充电宝突然爆炸!现场烟雾弥漫
今晚油价或迎年内第四涨!加满一箱多花3.5元
3300秒!我国未来载人登月火箭主力发动机单台试车时长创新纪录 焦点滚动
【环球热闻】111完美邮箱_1163 com邮箱
【港股通】国泰航空(00293)据报接近订购波音777-8F货机-环球时快讯
土耳其总统埃尔多安再次赢得大选,将再度连任,外交部回应
5月29日基金净值:南方荣光A最新净值1.523,涨0.07% 当前观点
里程碑博士_里程碑的意思_今日看点
速看:武汉洪山融创智谷举办首届菁英联谊会,青年男女开启甜蜜之旅
黄果树天星洞景区小孩敲断钟乳石 工作人员称会尽快处理进行追责
国产动漫《斗罗大陆》终于迎来大结局 堪称“电影级”观影体验
德国一模特通过断骨增高将自己的身高从163增加至180厘米 手术风险极大
阿根廷国家队公布最新一期球队大名单 将由梅西与迪玛利亚领衔
东航全球首架交付国产大飞机C919顺利抵达 全球首次商业载客飞行成功
天天观点:淘宝账号登陆失败怎么回事_我的淘宝账户登录
2023.5.29Linux系统压缩打包|今日看点
环球看点!蚕豆迎丰收 “公司+专业合作社+农户”模式助农增收
蒙牛乳业宁夏工厂正式落成投产 为全球首座乳业全数智化工厂-天天快报
华硕发布49英寸QD-OLED带鱼屏显示器:5K分辨率 1000nits亮度
热点评!童年回忆满满 《王者荣耀》三款电玩新皮肤来了
全球今亮点!能玩破解游戏!任天堂回应下架《海豚模拟器》
全球快看点丨红蜘蛛新一代校色仪Spyder X2/X2 Ultra发布:最高支持2000nit亮度
今日看点:12)自定义函数
文心一言 VS 讯飞星火 VS chatgpt (25)-- 算法导论4.2 7题 天天实时
【时快讯】100克黄焖鸡调料可以做几斤鸡肉?
Intel底层技术加持、腾讯应用宝登陆电脑:安卓应用完美移植PC 更有神器辅助 世界通讯
重回线下!2023 ChinaJoy官宣:7月28日上海见
全球快讯:让利16亿卖爆!小米618天猫预售战报出炉:订单金额超6亿拿下冠军
手机意外跌落损坏 小米工程师力保数据 女米粉写信感谢:还买小米 即时
全球要闻:SpringBoot集成Swagger3.0(详细)
世界速读:对话丨财通基金朱海东:市场情绪影响沪深300近期走势,仍看好A股
全球观点:19岁MIT辍学,26岁的他干出个500亿独角兽
Win11 23H2更新确认秋季推出!功能更新数量少了
世界微速讯:你会买么?调查显示超76%玩家不看好索尼新掌机
世界聚焦:Doris(三) -- Rollup和物化视图
《小美人鱼》在多国遭遇集体刷差评 女主假发造价15万美元
不是手游、不抽角色!国产大作《影之刃零》官宣为买断单机游戏|快播报
天天微动态丨日版任天堂Switch OLED版618抄底价:到手1817元
时讯:余承东放出豪言:问界年产上千万 做世界第一
快看:充满80%仅需30分钟!7座理想4C超级充电站上线
天天热点评!【一步步开发AI运动小程序】九、姿态辅助调试桌面工具折使用
刷爆的“信用卡”——起底美国债务危机_全球最资讯
每日聚焦:深交所:调整深证成指、创业板指、深证100等指数样本股
打造全国一流职教发展共同体,深职院与深圳二职签约合作办学
有梦想就了不起!高考307分女孩考研逆袭211:还将继续攻读博士
累计被扣78分 男子酒驾被查:自述“我平时是个老实人”
全球时讯:血糖健康开拓者!华为WATCH4 Pro评测:全面的腕上守护专家
女性出现这7个症状要小心尿路感染:再忙也要去医院看看!-世界速递
全球头条:山东一公司要求员工签自愿放弃社保承诺书 同事:不签担心被挤兑
2023天津和平四平东道小学转学通知
11)MySQL编程基础
【Oracle impdp/expdp】Big lesson from failure with impdp/expdp in 12c 焦点要闻
交易商协会:一季度债市信评调整次数下降 负面调整占七成-今日热讯
LCD小金刚!Redmi Note 12T Pro配备12GB大内存、5080mAh电池
iPhone 16 Pro机型屏幕为6.3和6.9英寸 为啥手机屏越来越大? 今日热讯
世界今日报丨2999元起 魅族20斩获京东预售销量TOP4:三年质保行业罕见
苹果WWDC 2023来了!iOS 17把短板都消灭干净了
618会员抄底:百度/腾讯/QQ/京东/B站/爱奇艺等大促合集-环球头条
东莞景湖装饰,家居装修达人_世界报道
Angular Highcharts教程_编程入门自学教程_菜鸟教程-免费教程分享
2、AS400 开发环境
每天一个Linux命令-gunzip. 每日看点
当前聚焦:揭秘“AI换脸”诈骗背后,黑灰产使用的手段
第二单元 常用快捷键,注释,变量
环球动态:香港金管局6月7日拟重启10年期政府债券机构增发
三星GalaxyChromebook2预购价格为$550美元
299元 荣耀Earbuds X5耳机发布:13.4mm超大动圈、27小时续航-世界快看
当前关注:超越朋友圈 微信视频号大升级
每日速递:想入职特斯拉?官方发声明提醒谨防诈骗:未与第三方人力资源合作
比日系品牌识时务!别克大五座中型纯电SUV交付:20.89万起香爆
【全球播资讯】NVIDIA黄仁勋“挑战”CPU:GPU训练AI大模型可降低96%成本
环球观热点:花了亿点点时间,写了一个赶海和茶艺小程序:探索多重功能,开启精彩互动之旅!
环球快消息!不推荐使用Date日期和Calendar日期
10)索引、视图 热讯
章子怡坐廉价航空被偶遇,空姐频打扰身份暴露,穿7000块一条裤子 焦点讯息
天天亮点!收评:创指跌1.14%创逾1年新低 脑机接口概念整体走强
GPT现状终于有人讲清楚了!还得是马斯克钦点的天才-环球视点
全球速读:零风险调光护眼屏 荣耀90系列全球首发3840Hz超高频屏幕技术
江西多地加入“高温群聊” 体感平均温度超40℃
比亚迪和特斯拉的“对垒” 正在进入一个新阶段
环球资讯:荣耀90系列搭载创新动脉仿生VC:首发航天级导热凝胶
实验作文300字_小实验作文300字
当前消息!vue列表逐个进入过渡动画
【世界时快讯】数字化转型,低代码开发真的靠谱?
世界播报:VST实例(3)绘制VST
【快播报】一图胜千言,气泡图引领数据时代的视觉革命
环球视讯!Unity的Console的控制类LogEntries:深入解析与实用案例
天天热资讯!金观平:唱响新时代“黄河大合唱”
专项债券不能“一拨了之”
广告弹窗太多!小米应用商店出手严管WiFi、清理类App
环球快播:100%自研!印度本土4G/5G网络来了:设备将投入大规模部署 还要推广全球
国产大飞机C919商用首飞成功!全机供应链揭秘_环球热讯