首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

爬取微博图片数据存到Mysql中遇到的

前言   由于硬件等各种原因需要把大概170多万2t左右的微博图片数据存到Mysql中.之前存微博数据一直用的非关系型数据库mongodb,由于对Mysql的各种不熟悉,踩了无数坑,来来回回改了3天才完成...因为本地是MAC,我要连接到远程的一台Windows上才能通过那个Windows连接到群晖的Mysql上...本地配置改了也白改。 存图片   然后这就是一个大坑!!!...最后没有办法使用base64 对二进制进行加密转化成字符串,存到数据库中,然后要用时的时候再解密。...pic_bin = str(base64.b64encode(pic_bin))[2:-1] 改配置文件   由于使用Python多进程,一个小时8G数据量,图片数据比较大,发包的时候回超过mysql的默认限制...db_host = cf.get("mysql", "db_host") db_port = cf.getint("mysql", "db_port") db_user = cf.get("mysql

1.8K30
您找到你想要的搜索结果了吗?
是的
没有找到

MySQL 连接怎么活?

解决这个问题的办法比较简单,程序只要定期给 MySQL 发送请求,表示自己还活着,MySQL 就不会触发断开连接的操作了,这就是数据库连接活的应用场景。 今天我们来聊聊数据库连接活的原理和方式。...本文内容基于 MySQL 8.0.29 源码。 目录 1. 概述 2. wait_timeout 超时逻辑 3. ping 4. select 5. 两种活方式对比 6. 总结 正文 1....如果我们的业务系统不那么闲,能隔三差五的给 MySQL 发送一些请求,数据库连接会一直处于活跃状态,也就不需要专门活了。...对 MySQL 服务端主动断开连接过程大概介绍之后,接下来看看 2 种连接活方式。 3. ping 站在客户端的视角看,使用 ping 命令是为了判断 MySQL 服务端是否还活着。...在业务低峰期,客户端定时给 MySQL 服务端发送 ping 命令,就能给连接活了。

4.8K10

MySQL存到底消耗在哪里?

MySQL存到底消耗在哪里? 一说起MySQL使用的内存,你可能会想到各种buffer,最著名的莫过于innodb buffer pool了,它是内存使用的大户,还有sort buffer等等。...首先是各种类型的buffer和cache,利用SQL可以查到: mysql 22:57:49> show variables like '%buffer%size%'; +---------------...innodb_additional_mem_pool_size: 额外缓存池,MySQL8.0已经废弃 key_buffer_size: MyISAM缓存索引块的内存大小。...从公式中不难看出,当基础配置不变情况下,连接数很多的时候,MySQL占用的内存数据,就会上涨的比较快。...02 performance_schema维度分析 Performance_schema特性可以监控MySQL的运行指标,通常情况下,默认是开启的,开启时候,会带来10%左右的MySQL性能损耗

2.8K30

python爬取微博图片数据存到Mysq

前言   由于硬件等各种原因需要把大概170多万2t左右的微博图片数据存到Mysql中.之前存微博数据一直用的非关系型数据库mongodb,由于对Mysql的各种不熟悉,踩了无数坑,来来回回改了3天才完成...因为本地是MAC,我要连接到远程的一台Windows上才能通过那个Windows连接到群晖的Mysql上...本地配置改了也白改。 存图片   然后这就是一个大坑!!!...最后没有办法使用base64 对二进制进行加密转化成字符串,存到数据库中,然后要用时的时候再解密。...pic_bin = str(base64.b64encode(pic_bin))[2:-1] 改配置文件   由于使用Python多进程,一个小时8G数据量,图片数据比较大,发包的时候回超过mysql的默认限制...db_host = cf.get("mysql", "db_host") db_port = cf.getint("mysql", "db_port") db_user = cf.get("mysql

1.1K30

怎么把图片存到cdn 这样做有什么优势?

如果总是一味的节约资金,那么极有可能会影响到人们的使用体验,如果信号确实不好,网速很慢,这时候该怎么把图片存到cdn? 怎么把图片存到cdn? 怎么把图片存到cdn?...这样做的最大优势就是可以进一步提升上网的速度,缓解外来图片所带来的流量消耗,让整个的上网空间得到净化。...与此同时还可以减轻服务器的存储压力,如果把自己所需要的图片全部都上传到服务器的话,确实会影响到它的寿命,甚至会变得格外卡,而这种方法就可以有针对性的改变这种问题的出现。...以上就是对怎么把图片存到cdn的相关介绍,整个操作的过程并没有太高的难度,只需要按照规定来选择适合自己的专业平台就行,选择平台的过程真的很关键。

2.9K30
领券