最新要闻
- 印尼16月大男婴重达27公斤:比8岁男童还重
- 焦点日报:最后一天赶紧换!苹果iPhone等设备全系电池明天涨价:最贵519元
- 关注:茶颜悦色回应满杯奶茶放久了变半杯:奶沫放久了会自己消掉
- 每日看点!小米Wi-Fi 7路由器BE7000亮相:4个2.5G口 定价千元买吗?
- 当前视点!3名《炉石传说》电竞运动员注册成功:然而暴雪禁止中国玩家参加炉石赛事
- 环球聚焦:东川区开展校园周边环境专项集中整治行动
- 资讯推荐:冒险岛辅助2023_冒险岛多趣辅助
- 天天热议:轻松超越i9-13900KS!AMD锐龙9 7950X3D首发评测:一半功耗、价格更低
- 【天天报资讯】电池容量最大的旗舰手机!荣耀Magic5 Pro图赏
- 天天速递!女生奶茶中喝出3个标签后细菌感染:商家赔付1000元及检查费用
- 每日动态!闻着臭、吃着香?游客热衷打包柳州螺蛳粉 机场火车站回应
- 天天热点评!番茄涨价太狠 英国餐馆推出白披萨:网友吐槽太苦了
- 每日热文:荣耀Magic5 Pro全球首发硅碳负极电池:5450mAh超大容量
- 天天最资讯丨有信免费电话使用攻略_有信怎么使用 免费
- 七夕 我们分手
- 微资讯!自带散热泵!一加推出45W液冷散热背夹:最高可降20℃
手机
iphone11大小尺寸是多少?苹果iPhone11和iPhone13的区别是什么?
警方通报辅警执法直播中被撞飞:犯罪嫌疑人已投案
- iphone11大小尺寸是多少?苹果iPhone11和iPhone13的区别是什么?
- 警方通报辅警执法直播中被撞飞:犯罪嫌疑人已投案
- 男子被关545天申国赔:获赔18万多 驳回精神抚慰金
- 3天内26名本土感染者,辽宁确诊人数已超安徽
- 广西柳州一男子因纠纷杀害三人后自首
- 洱海坠机4名机组人员被批准为烈士 数千干部群众悼念
家电
全球报道:k8s中的PV和PVC
前言
容器磁盘上的文件的生命周期是短暂的,这就使得在容器中运行重要应用时会出现一些问题。首先,当容器崩溃时,kubelet 会重启它,但是容器中的文件将丢失——容器以干净的状态(镜像最初的状态)重新启动。其次,在Pod中同时运行多个容器时,这些容器之间通常需要共享文件。Kubernetes 中的Volume抽象就很好的解决了这些问题。Pod中的容器通过Pause容器共享Volume。
【资料图】
一、存储卷方式
1.1emptyDir存储卷
当Pod被分配给节点时,首先创建emptyDir卷,并且只要该Pod在该节点上运行,该卷就会存在。正如卷的名字所述,它最初是空的。Pod 中的容器可以读取和写入emptyDir卷中的相同文件,尽管该卷可以挂载到每个容器中的相同或不同路径上。当出于任何原因从节点中删除 Pod 时,emptyDir中的数据将被永久删除。
mkdir /opt/volumescd /opt/volumesvim pod-emptydir.yaml apiVersion: v1kind: Podmetadata: name: pod-emptydir namespace: default labels: app: myapp tier: frontendspec: containers: - name: myapp image: ikubernetes/myapp:v1 imagePullPolicy: IfNotPresent ports: - name: http containerPort: 80 #定义容器挂载内容 volumeMounts: #使用的存储卷名称,如果跟下面volume字段name值相同,则表示使用volume的这个存储卷 - name: html #挂载至容器中哪个目录 mountPath: /usr/share/nginx/html/ - name: busybox image: busybox:latest imagePullPolicy: IfNotPresent volumeMounts: - name: html #在容器内定义挂载存储名称和挂载路径 mountPath: /data/ command: ["/bin/sh","-c","while true;do echo $(date) >> /data/index.html;sleep 2;done"] #定义存储卷 volumes: #定义存储卷名称 - name: html #定义存储卷类型 emptyDir: {} kubectl apply -f pod-emptydir.yamlkubectl get pods -o wideNAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE READINESS GATESpod-emptydir 2/2 Running 0 36s 10.244.2.19 node02
在上面定义了2个容器,其中一个容器是输入日期到index.html中,然后验证访问nginx的html是否可以获取日期。以验证两个容器之间挂载的emptyDir实现共享。
curl 10.244.2.19SUN Feb 26 15:44:59 UTC 2023SUN Feb 26 15:44:59 UTC 2023SUN Feb 26 15:45:00 UTC 2023SUN Feb 26 15:45:00 UTC 2023SUN Feb 26 15:45:01 UTC 2023SUN Feb 26 15:45:01 UTC 2023SUN Feb 26 15:45:02 UTC 2023
1.2hostPath存储卷
hostPath卷将 node 节点的文件系统中的文件或目录挂载到集群中。hostPath可以实现持久存储,但是在node节点故障时,也会导致数据的丢失。
//在 node01 节点上创建挂载目录mkdir -p /data/pod/volume1echo "node01.kgc.com" > /data/pod/volume1/index.html//在 node02 节点上创建挂载目录mkdir -p /data/pod/volume1echo "node02.kgc.com" > /data/pod/volume1/index.html//创建 Pod 资源vim pod-hostpath.yamlapiVersion: v1kind: Podmetadata: name: pod-hostpath namespace: defaultspec: containers: - name: myapp image: ikubernetes/myapp:v1 #定义容器挂载内容 volumeMounts: #使用的存储卷名称,如果跟下面volume字段name值相同,则表示使用volume的这个存储卷 - name: html #挂载至容器中哪个目录 mountPath: /usr/share/nginx/html #读写挂载方式,默认为读写模式false readOnly: false #volumes字段定义了paues容器关联的宿主机或分布式文件系统存储卷 volumes: #存储卷名称 - name: html #路径,为宿主机存储路径 hostPath: #在宿主机上目录的路径 path: /data/pod/volume1 #定义类型,这表示如果宿主机没有此目录则会自动创建 type: DirectoryOrCreatekubectl apply -f pod-hostpath.yaml//访问测试kubectl get pods -o wideNAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE READINESS GATESpod-hostpath 2/2 Running 0 37s 10.244.2.35 node02curl 10.244.2.35node02.kgc.com//删除pod,再重建,验证是否依旧可以访问原来的内容kubectl delete -f pod-hostpath.yaml kubectl apply -f pod-hostpath.yaml kubectl get pods -o wideNAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE READINESS GATESpod-hostpath 2/2 Running 0 36s 10.244.2.37 node02 curl 10.244.2.37 node02.kgc.com
1.3nfs共享存储卷
//在stor01节点上安装nfs,并配置nfs服务mkdir /data/volumes -pchmod 777 /data/volumesvim /etc/exports/data/volumes 192.168.80.0/24(rw,no_root_squash)systemctl start rpcbindsystemctl start nfsshowmount -eExport list for stor01:/data/volumes 192.168.80.0/24//master节点操作vim pod-nfs-vol.yamlapiVersion: v1kind: Podmetadata: name: pod-vol-nfs namespace: defaultspec: containers: - name: myapp image: ikubernetes/myapp:v1 volumeMounts: - name: html mountPath: /usr/share/nginx/html volumes: - name: html nfs: path: /data/volumes server: stor01kubectl apply -f pod-nfs-vol.yamlkubectl get pods -o wideNAME READY STATUS RESTARTS AGE IP NODEpod-vol-nfs 1/1 Running 0 21s 10.244.2.38 node02//在nfs服务器上创建index.htmlcd /data/volumesvim index.htmlnfs stor01
//master节点操作curl 10.244.2.38nfs stor01
kubectl delete -f pod-nfs-vol.yaml #删除nfs相关pod,再重新创建,可以得到数据的持久化存储kubectl apply -f pod-nfs-vol.yaml
二、PVC 和 PV
PV 全称叫做 Persistent Volume,持久化存储卷。它是用来描述或者说用来定义一个存储卷的,这个通常都是由运维工程师来定义。
PVC 的全称是 Persistent Volume Claim,是持久化存储的请求。它是用来描述希望使用什么样的或者说是满足什么条件的 PV 存储。
PVC 的使用逻辑:在 Pod 中定义一个存储卷(该存储卷类型为 PVC),定义的时候直接指定大小,PVC 必须与对应的 PV 建立关系,PVC 会根据配置的定义去 PV 申请,而 PV 是由存储空间创建出来的。PV 和 PVC 是 Kubernetes 抽象出来的一种存储资源。
上面介绍的PV和PVC模式是需要运维人员先创建好PV,然后开发人员定义好PVC进行一对一的Bond,但是如果PVC请求成千上万,那么就需要创建成千上万的PV,对于运维人员来说维护成本很高,Kubernetes提供一种自动创建PV的机制,叫StorageClass,它的作用就是创建PV的模板。
创建 StorageClass 需要定义 PV 的属性,比如存储类型、大小等;另外创建这种 PV 需要用到的存储插件,比如 Ceph 等。 有了这两部分信息,Kubernetes 就能够根据用户提交的 PVC,找到对应的 StorageClass,然后 Kubernetes 就会调用 StorageClass 声明的存储插件,自动创建需要的 PV 并进行绑定。
PV是集群中的资源。 PVC是对这些资源的请求,也是对资源的索引检查。
PV和PVC之间的相互作用遵循这个生命周期:Provisioning(配置)---> Binding(绑定)---> Using(使用)---> Releasing(释放) ---> Recycling(回收)
●Provisioning,即 PV 的创建,可以直接创建 PV(静态方式),也可以使用 StorageClass 动态创建●Binding,将 PV 分配给 PVC●Using,Pod 通过 PVC 使用该 Volume,并可以通过准入控制StorageProtection(1.9及以前版本为PVCProtection) 阻止删除正在使用的 PVC●Releasing,Pod 释放 Volume 并删除 PVC●Reclaiming,回收 PV,可以保留 PV 以便下次使用,也可以直接从云存储中删除
根据这 5 个阶段,PV 的状态有以下 4 种:●Available(可用):表示可用状态,还未被任何 PVC 绑定●Bound(已绑定):表示 PV 已经绑定到 PVC●Released(已释放):表示 PVC 被删掉,但是资源尚未被集群回收●Failed(失败):表示该 PV 的自动回收失败
//一个PV从创建到销毁的具体流程如下:1、一个PV创建完后状态会变成Available,等待被PVC绑定。2、一旦被PVC邦定,PV的状态会变成Bound,就可以被定义了相应PVC的Pod使用。3、Pod使用完后会释放PV,PV的状态变成Released。4、变成Released的PV会根据定义的回收策略做相应的回收工作。有三种回收策略,Retain、Delete和Recycle。Retain就是保留现场,K8S集群什么也不做,等待用户手动去处理PV里的数据,处理完后,再手动删除PV。Delete策略,K8S会自动删除该PV及里面的数据。Recycle方式,K8S会将PV里的数据删除,然后把PV的状态变成Available,又可以被新的PVC绑定使用。
kubectl explain pv #查看pv的定义方式FIELDS: apiVersion: v1 kind: PersistentVolume metadata: #由于 PV 是集群级别的资源,即 PV 可以跨 namespace 使用,所以 PV 的 metadata 中不用配置 namespace name: spec kubectl explain pv.spec #查看pv定义的规格spec: nfs:(定义存储类型) path:(定义挂载卷路径) server:(定义服务器名称) accessModes:(定义访问模型,有以下三种访问模型,以列表的方式存在,也就是说可以定义多个访问模式) - ReadWriteOnce #(RWO)存储可读可写,但只支持被单个 Pod 挂载 - ReadOnlyMany #(ROX)存储可以以只读的方式被多个 Pod 挂载 - ReadWriteMany #(RWX)存储可以以读写的方式被多个 Pod 共享#nfs 支持全部三种;iSCSI 不支持 ReadWriteMany(iSCSI 就是在 IP 网络上运行 SCSI 协议的一种网络存储技术);HostPath 不支持 ReadOnlyMany 和 ReadWriteMany。 capacity:(定义存储能力,一般用于设置存储空间) storage: 2Gi (指定大小) storageClassName: (自定义存储类名称,此配置用于绑定具有相同类别的PVC和PV) persistentVolumeReclaimPolicy: Retain #回收策略(Retain/Delete/Recycle)#Retain(保留):当删除与之绑定的PVC时候,这个PV被标记为released(PVC与PV解绑但还没有执行回收策略)且之前的数据依然保存在该PV上,但是该PV不可用,需要手动来处理这些数据并删除该PV。#Delete(删除):删除与PV相连的后端存储资源(只有 AWS EBS, GCE PD, Azure Disk 和 Cinder 支持)#Recycle(回收):删除数据,效果相当于执行了 rm -rf /thevolume/* (只有 NFS 和 HostPath 支持)kubectl explain pvc #查看PVC的定义方式KIND: PersistentVolumeClaimVERSION: v1FIELDS: apiVersionkind metadata
2.1NFS使用PV和PVC
2.1.1 配置nfs存储1、配置nfs存储
mkdir v{1,2,3,4,5}vim /etc/exports/data/volumes/v1 192.168.80.0/24(rw,no_root_squash)/data/volumes/v2 192.168.80.0/24(rw,no_root_squash)/data/volumes/v3 192.168.80.0/24(rw,no_root_squash)/data/volumes/v4 192.168.80.0/24(rw,no_root_squash)/data/volumes/v5 192.168.80.0/24(rw,no_root_squash)exportfs -arvshowmount -e (指定IP)
2.1.2 定义PV
这里定义5个PV,并且定义挂载的路径以及访问模式,还有PV划分的大小。
vim pv-demo.yamlapiVersion: v1kind: PersistentVolumemetadata: name: pv001 labels: name: pv001spec: nfs: path: /data/volumes/v1 server: stor01 accessModes: ["ReadWriteMany","ReadWriteOnce"] capacity: storage: 1Gi---apiVersion: v1kind: PersistentVolumemetadata: name: pv002 labels: name: pv002spec: nfs: path: /data/volumes/v2 server: stor01 accessModes: ["ReadWriteOnce"] capacity: storage: 2Gi---apiVersion: v1kind: PersistentVolumemetadata: name: pv003 labels: name: pv003spec: nfs: path: /data/volumes/v3 server: stor01 accessModes: ["ReadWriteMany","ReadWriteOnce"] capacity: storage: 2Gi---apiVersion: v1kind: PersistentVolumemetadata: name: pv004 labels: name: pv004spec: nfs: path: /data/volumes/v4 server: stor01 accessModes: ["ReadWriteMany","ReadWriteOnce"] capacity: storage: 4Gi---apiVersion: v1kind: PersistentVolumemetadata: name: pv005 labels: name: pv005spec: nfs: path: /data/volumes/v5 server: stor01 accessModes: ["ReadWriteMany","ReadWriteOnce"] capacity: storage: 5Gikubectl apply -f pv-demo.yamlkubectl get pvNAME CAPACITY ACCESS MODES RECLAIM POLICY STATUS CLAIM STORAGECLASS REASON AGEpv001 1Gi RWO,RWX Retain Available 7spv002 2Gi RWO Retain Available 7spv003 2Gi RWO,RWX Retain Available 7spv004 4Gi RWO,RWX Retain Available 7spv005 5Gi RWO,RWX Retain Available 7s
2.1.3 定义PVC
这里定义了pvc的访问模式为多路读写,该访问模式必须在前面pv定义的访问模式之中。定义PVC申请的大小为2Gi,此时PVC会自动去匹配多路读写且大小为2Gi的PV,匹配成功获取PVC的状态即为Bound
vim pod-vol-pvc.yamlapiVersion: v1kind: PersistentVolumeClaimmetadata: name: mypvc namespace: defaultspec: accessModes: ["ReadWriteMany"] resources: requests: storage: 2Gi---apiVersion: v1kind: Podmetadata: name: pod-vol-pvc namespace: defaultspec: containers: - name: myapp image: ikubernetes/myapp:v1 volumeMounts: - name: html mountPath: /usr/share/nginx/html volumes: - name: html persistentVolumeClaim: claimName: mypvckubectl apply -f pod-vol-pvc.yamlkubectl get pvNAME CAPACITY ACCESS MODES RECLAIM POLICY STATUS CLAIM STORAGECLASS REASON AGEpv001 1Gi RWO,RWX Retain Available 19mpv002 2Gi RWO Retain Available 19mpv003 2Gi RWO,RWX Retain Bound default/mypvc 19mpv004 4Gi RWO,RWX Retain Available 19mpv005 5Gi RWO,RWX Retain Available 19mkubectl get pvcNAME STATUS VOLUME CAPACITY ACCESS MODES STORAGECLASS AGEmypvc Bound pv003 2Gi RWO,RWX 22s
2.1.4 测试访问
在存储服务器上创建index.html,并写入数据,通过访问Pod进行查看,可以获取到相应的页面。
cd /data/volumes/v3/echo "welcome to use pv3" > index.htmlkubectl get pods -o widepod-vol-pvc 1/1 Running 0 3m 10.244.2.39 k8s-node02curl 10.244.2.39welcome to use pv3
2.2搭建 StorageClass + NFS,实现 NFS 的动态 PV 创建
Kubernetes 本身支持的动态 PV 创建不包括 NFS,所以需要使用外部存储卷插件分配PV。
详见:https://kubernetes.io/zh/docs/concepts/storage/storage-classes/
卷插件称为 Provisioner(存储分配器),NFS 使用的是 nfs-client,这个外部卷插件会使用已经配置好的 NFS 服务器自动创建 PV。Provisioner:用于指定 Volume 插件的类型,包括内置插件(如 kubernetes.io/aws-ebs)和外部插件(如 external-storage 提供的 ceph.com/cephfs)。
2.2.1 在stor01节点上安装nfs,并配置nfs服务
mkdir /opt/k8schmod 777 /opt/k8s/vim /etc/exports/opt/k8s 192.168.80.0/24(rw,no_root_squash,sync)systemctl restart nfs
2.2.2 创建 Service Account
用来管理 NFS Provisioner 在 k8s 集群中运行的权限,设置 nfs-client 对 PV,PVC,StorageClass 等的规则
vim nfs-client-rbac.yaml#创建 Service Account 账户,用来管理 NFS Provisioner 在 k8s 集群中运行的权限---apiVersion: v1kind: ServiceAccountmetadata: name: nfs-client-provisioner---#创建集群角色apiVersion: rbac.authorization.k8s.io/v1kind: ClusterRolemetadata: name: nfs-client-provisioner-clusterrolerules: - apiGroups: [""] resources: ["persistentvolumes"] verbs: ["get", "list", "watch", "create", "delete"] - apiGroups: [""] resources: ["persistentvolumeclaims"] verbs: ["get", "list", "watch", "update"] - apiGroups: ["storage.k8s.io"] resources: ["storageclasses"] verbs: ["get", "list", "watch"] - apiGroups: [""] resources: ["events"] verbs: ["list", "watch", "create", "update", "patch"] - apiGroups: [""] resources: ["endpoints"] verbs: ["create", "delete", "get", "list", "watch", "patch", "update"]---#集群角色绑定apiVersion: rbac.authorization.k8s.io/v1kind: ClusterRoleBindingmetadata: name: nfs-client-provisioner-clusterrolebindingsubjects:- kind: ServiceAccount name: nfs-client-provisioner namespace: defaultroleRef: kind: ClusterRole name: nfs-client-provisioner-clusterrole apiGroup: rbac.authorization.k8s.iokubectl apply -f nfs-client-rbac.yaml
2.2.3 使用 Deployment 来创建 NFS Provisioner
NFS Provisione(即 nfs-client),有两个功能:一个是在 NFS 共享目录下创建挂载点(volume),另一个则是将 PV 与 NFS 的挂载点建立关联。
#由于 1.20 版本启用了 selfLink,所以 k8s 1.20+ 版本通过 nfs provisioner 动态生成pv会报错,解决方法如下:
vim /etc/kubernetes/manifests/kube-apiserver.yamlspec: containers: - command: - kube-apiserver - --feature-gates=RemoveSelfLink=false #添加这一行 - --advertise-address=192.168.80.20......kubectl apply -f /etc/kubernetes/manifests/kube-apiserver.yamlkubectl delete pods kube-apiserver -n kube-system kubectl get pods -n kube-system | grep apiserver#创建 NFS Provisionervim nfs-client-provisioner.yamlkind: DeploymentapiVersion: apps/v1metadata: name: nfs-client-provisionerspec: replicas: 1 selector: matchLabels: app: nfs-client-provisioner strategy: type: Recreate template: metadata: labels: app: nfs-client-provisioner spec: serviceAccountName: nfs-client-provisioner #指定Service Account账户 containers: - name: nfs-client-provisioner image: quay.io/external_storage/nfs-client-provisioner:latest imagePullPolicy: IfNotPresent volumeMounts: - name: nfs-client-root mountPath: /persistentvolumes env: - name: PROVISIONER_NAME value: nfs-storage #配置provisioner的Name,确保该名称与StorageClass资源中的provisioner名称保持一致 - name: NFS_SERVER value: stor01 #配置绑定的nfs服务器 - name: NFS_PATH value: /opt/k8s #配置绑定的nfs服务器目录 volumes: #申明nfs数据卷 - name: nfs-client-root nfs: server: stor01 path: /opt/k8s kubectl apply -f nfs-client-provisioner.yaml kubectl get podNAME READY STATUS RESTARTS AGEnfs-client-provisioner-cd6ff67-sp8qd 1/1 Running 0 14s
2.2.4 创建 StorageClass
负责建立 PVC 并调用 NFS provisioner 进行预定的工作,并让 PV 与 PVC 建立关联
vim nfs-client-storageclass.yamlapiVersion: storage.k8s.io/v1kind: StorageClassmetadata: name: nfs-client-storageclassprovisioner: nfs-storage #这里的名称要和provisioner配置文件中的环境变量PROVISIONER_NAME保持一致parameters: archiveOnDelete: "false" #false表示在删除PVC时不会对数据进行存档,即删除数据 kubectl apply -f nfs-client-storageclass.yamlkubectl get storageclassNAME PROVISIONER RECLAIMPOLICY VOLUMEBINDINGMODE ALLOWVOLUMEEXPANSION AGEnfs-client-storageclass nfs-storage Delete Immediate false 43s
2.2.5 创建 PVC 和 Pod 测试
vim test-pvc-pod.yamlapiVersion: v1kind: PersistentVolumeClaimmetadata: name: test-nfs-pvcspec: accessModes: - ReadWriteMany storageClassName: nfs-client-storageclass #关联StorageClass对象 resources: requests: storage: 1Gi---apiVersion: v1kind: Podmetadata: name: test-storageclass-podspec: containers: - name: busybox image: busybox:latest imagePullPolicy: IfNotPresent command: - "/bin/sh" - "-c" args: - "sleep 3600" volumeMounts: - name: nfs-pvc mountPath: /mnt restartPolicy: Never volumes: - name: nfs-pvc persistentVolumeClaim: claimName: test-nfs-pvc #与PVC名称保持一致 kubectl apply -f test-pvc-pod.yaml//PVC 通过 StorageClass 自动申请到空间kubectl get pvcNAME STATUS VOLUME CAPACITY ACCESS MODES STORAGECLASS AGEtest-nfs-pvc Bound pvc-11670f39-782d-41b8-a842-eabe1859a456 1Gi RWX nfs-client-storageclass 2s//查看 NFS 服务器上是否生成对应的目录,自动创建的 PV 会以 ${namespace}-${pvcName}-${pvName} 的目录格式放到 NFS 服务器上ls /opt/k8s/default-test-nfs-pvc-pvc-11670f39-782d-41b8-a842-eabe1859a456//进入 Pod 在挂载目录 /mnt 下写一个文件,然后查看 NFS 服务器上是否存在该文件kubectl exec -it test-storageclass-pod sh/ # cd /mnt//mnt # echo "this is test file" > test.txt//发现 NFS 服务器上存在,说明验证成功cat /opt/k8s/test.txt
全球报道:k8s中的PV和PVC
观察:Canvas画布
印尼16月大男婴重达27公斤:比8岁男童还重
焦点日报:最后一天赶紧换!苹果iPhone等设备全系电池明天涨价:最贵519元
关注:茶颜悦色回应满杯奶茶放久了变半杯:奶沫放久了会自己消掉
每日看点!小米Wi-Fi 7路由器BE7000亮相:4个2.5G口 定价千元买吗?
当前视点!3名《炉石传说》电竞运动员注册成功:然而暴雪禁止中国玩家参加炉石赛事
环球聚焦:东川区开展校园周边环境专项集中整治行动
资讯推荐:冒险岛辅助2023_冒险岛多趣辅助
记录写了6年代码的心得
今亮点!Django uwsgi问题解析
全球新消息丨不坑盒子:word/wps最强辅助工具2023最新版
天天热议:轻松超越i9-13900KS!AMD锐龙9 7950X3D首发评测:一半功耗、价格更低
【天天报资讯】电池容量最大的旗舰手机!荣耀Magic5 Pro图赏
天天速递!女生奶茶中喝出3个标签后细菌感染:商家赔付1000元及检查费用
天天视讯!做一个右键菜单 Vue 组件
天天热文:设计模式(十二)----结构型模式之代理模式和装饰者模式的区别
每日动态!闻着臭、吃着香?游客热衷打包柳州螺蛳粉 机场火车站回应
天天热点评!番茄涨价太狠 英国餐馆推出白披萨:网友吐槽太苦了
每日热文:荣耀Magic5 Pro全球首发硅碳负极电池:5450mAh超大容量
焦点观察:IDEA2022.3永久激活破解 最新激活 一键激活 亲测可用!
浅谈: sizeof()与指针
今亮点!0x07_自制操作系统My-OS实现键盘输出字符到屏幕
当前热议!Python中logging模块用法
世界滚动:C语言程序设计
天天最资讯丨有信免费电话使用攻略_有信怎么使用 免费
七夕 我们分手
微资讯!自带散热泵!一加推出45W液冷散热背夹:最高可降20℃
倒计时两分钟!SpaceX载人火箭发射最后关头被紧急叫停
世界资讯:七彩虹战戟CN700 1TB SSD评测:国产方案7.1GB/s读取、499元最香
GTX 750 Ti挑战大热单机:画面不忍直视
【热闻】“狗”气越来越足!第二代哈弗大狗正式上市:13.58万元起
【天天新视野】关于Ajax
路飞项目封装logger、response以及全局异常
最新消息:不怕被坑了!工信部出手:自动续费前5日应以显著方式提醒
1999元 极米Play 2投影仪上架:120寸大屏、Type-C供电
【世界时快讯】3D大颗粒 杰士邦特惠装30支:19.9元秒杀
异形方向盘有隐患吗?汽车博主:既不方便也不安全
从银行数字化转型来聊一聊,火山引擎 VeDI 旗下 ByteHouse 的应用场景
今日热讯:第123篇: JS函数属性与方法
Prometheus配置Alertmanager(钉钉告警)
全球微头条丨照坏了手机的激光雷达:会照瞎你的眼吗?
全球第一大癌!39岁女儿与67岁父亲先后确诊乳腺癌
世界微速讯:电动自行车电池容量正常但里程不足?5招教你解决
环球讯息:延迟骤降50%:魅族20系列首发游戏模式6.0
热文:秒独显的3GHz高频缩水 AMD锐龙7000HS上市前又挨一刀
房贷60万20年和30年利息差多少?两种还款方式利息对比
当前视点!WHAT IS PPM Encoder ?
焦点速递!记录--关于无感刷新Token,我是这样子做的
热点!如何使用appuploader制作apple证书
世界热资讯!JMeter的基础认识
【环球热闻】3月1日广东男篮主场见 威姆斯晒登机照:回家
【天天报资讯】Redis 缓存过期策略和内存淘汰策略
环球热头条丨【复盘】搭建日志平台的复盘与思考
天天微动态丨sed命令的使用(替换)
环球实时:软件工程阅读笔记
Android ADB 备忘清单_开发速查表分享
焦点资讯:美国高中地下发现加密货币矿场 7个月耗电费12万元
直屏手机为何越来越多了?原因有三个
新资讯:近250家公司用ChatGPT取代员工:过半考核优秀 能省10万美元
环球滚动:诺基亚60年首次更换Logo后:手机品牌继续沿用经典蓝底Logo
环球快报:比老司机还稳!特斯拉主动安全压线避让变道前车:车主惊叹
天天头条:三睾拟双身虫
Prometheus插件安装(mysql_exporter)
消息!河南农信社数字化转型实践方案
今日讯!剑指 Offer 55 - I. 二叉树的深度(java解题)
世界新动态:八代将军吉宗下载_八代将军吉宗
女子驾奇瑞小蚂蚁 高速上油门到底车速为0!4S店:退款退车
世界速看:暴雪联合时尚品牌推出《暗黑4》主题女装:这画风太诡异了
焦点播报:董明珠:格力员工一人一套房承诺不变
个人私生活被恶搞辣眼?董明珠:有些自媒体为了赚钱不择手段 低级下流无聊
一文看懂小米无线AR眼镜探索版:自研微手势 隔空就能刷抖音
数据结构刷题2023.02.27小记
天天即时看!Ubuntu-深度学习环境搭建(yolov3)
焦点滚动:学习swoole之前,你需要知道的几件事
世界看热讯:流氓APP再见!26条新规严管移动应用:不得欺骗误导用户
Win11 22H2“Moment 2”更新快了:将在未来几周推送
每日讯息!男子醉驾被查也不让新手妻子开车:为了不要出现更大的事故
【全球新要闻】为迎接中国游客!韩国旅游业也是拼了:推中文菜单、背汉语、招募中文职员
手一抖被迫看广告!工信部通知:禁止高灵敏度“摇一摇”
当前资讯!宜兴购房补贴本科生可以申请吗?
焦点关注:ChatGPT的隐私安全问题及隐私保护技术
无关风月是什么意思?无关风月我题序等你回是什么歌?
小盆友是什么意思?小盆友生日祝福成语有哪些?
这款MOD可以让《原子之心》双子舞伶露脸:好看吗?
天天播报:中兴发布小方糖路由器:双千兆设计 首发99元
考验信仰、财力的时候到了!丰田加价神车新一代埃尔法曝光
13代酷睿CPU热卖 Intel承诺员工薪酬会涨回来:基本工资100%满血
每日消息!形似比亚迪仰望U8 奇瑞捷途旅行者官图发布:保时捷前总监操刀
电视剧红狐荣乡君是什么人?红狐电视剧演员表介绍
刻在我心底的名字是哪部电影的主题曲?刻在我心底的名字歌词是什么?
win7快速启动栏在哪里?win7快速启动栏怎么使用?
东芝ac100怎样刷系统?东芝ac100安卓笔记本多少钱?
超长待机智能手机有哪些?超长待机智能手机排行榜
三星GALAXY i5700什么时候上市的?三星GALAXY i5700怎么关机?
世界热头条丨谷歌邮箱注册
环球观察:Prometheus插件安装(NodeExporter)
焦点热讯:Redis高频面试题总结
速读:财政部:截至1月末,全国地方政府债务余额357018亿元
聚焦:威马员工在线讨薪 吉利副总裁:我这里缺人、可以考虑下