博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
python读excel写入mysql小工具
阅读量:5734 次
发布时间:2019-06-18

本文共 1962 字,大约阅读时间需要 6 分钟。

背景

需要导入全国高校名录到数据库,从教委网站下到了最新的数据,是excel格式,需要做一个工具进行导入,想试用一下python,说干就干。

  • xlrd : excel读写库

  • pymysql : mysql数据库驱动库,纯python打造

  • re : 正则表达式库,核心库

前两个用pip轻松完成安装,本人是在mac pro是进行的,过程很顺利,以前在mac上装mysqlclient一直安装不上,所以一度放弃使用python,但我在linux下安装mysqlclient却没有任何问题。

源代码

很简单的小脚本,留存纪念。值得注意的一点,数据库连接字段串中要设定字符编码,不然默认是lanti-1,写入会出错。

import xlrdimport pymysqlimport reconn = pymysql.connect(host='database connect address', port=1234, user='root',                       passwd='****', db='database name', charset='utf8mb4')p = re.compile(r'\s')data = xlrd.open_workbook('./W020170616379651135432.xls')table = data.sheets()[0]t = table.col_values(1)nrows = table.nrowsfor i in range(nrows):    r1 = table.row_values(i)    if len(r1[2]) == 10:        cur = conn.cursor()        cur.execute('insert into `university` (`id`, `name`, `ministry`, `city`, `level`, `memo`) \                    values (%s, %s, %s, %s, %s, %s)',                    (r1[2], p.sub('', r1[1]), p.sub('', r1[3]), p.sub('', r1[4]), r1[5], r1[6]))        conn.commit()        cur.close()conn.close()

心得

写惯了类C的语言,不太习惯python,想同时掌握两种风格的编程语言,好痛苦啊。python编程效率的确不错,这是我第一次用python写实用小程序,连查带写带调试,一共也就花了一个来小时。python库与资料丰富,不愁找不到合适的^_^

数据库写入优化

早上闲来无事,用批量写入优化了一下,任务秒完成,比一条条写入快了很多, 比我预想的差别还要大。看来,没有不好的工具,只是我们没有用好啊!

import xlrdimport pymysqlimport reconn = pymysql.connect(host='database connect address', port=1234, user='root',                       passwd='****', db='database name', charset='utf8mb4')p = re.compile(r'\s')data = xlrd.open_workbook('./W020170616379651135432.xls')table = data.sheets()[0]t = table.col_values(1)nrows = table.nrowsops = []for i in range(nrows):    r1 = table.row_values(i)    if len(r1[2]) == 10:        ops.append((r1[2], p.sub('', r1[1]), p.sub('', r1[3]), p.sub('', r1[4]), r1[5], r1[6]))cur = conn.cursor()cur.executemany('insert into `university_copy` (`id`, `name`, `ministry`, `city`, `level`, `memo`) \                 values (%s, %s, %s, %s, %s, %s)', ops)conn.commit()cur.close()conn.close()

转载地址:http://kggwx.baihongyu.com/

你可能感兴趣的文章
阿里云全面支持IPv6!一文揽尽4位大咖精彩演讲
查看>>
【跃迁之路】【460天】程序员高效学习方法论探索系列(实验阶段217-2018.05.11)...
查看>>
C++入门读物推荐
查看>>
TiDB 源码阅读系列文章(七)基于规则的优化
查看>>
面试中会遇到的正则题
查看>>
Spring之旅第八站:Spring MVC Spittr舞台的搭建、基本的控制器、请求的输入、表单验证、测试(重点)...
查看>>
数据结构与算法——常用排序算法及其Java实现
查看>>
你所不知的Webpack-多种配置方法
查看>>
React.js 集成 Kotlin Spring Boot 开发 Web 应用实例详解
查看>>
《图解HTTP》学习笔记(四):返回结果的HTTP状态码
查看>>
翻译连载 | 附录 B: 谦虚的 Monad-《JavaScript轻量级函数式编程》 |《你不知道的JS》姊妹篇...
查看>>
Spring 学习笔记(一)Spring核心容器
查看>>
webpack+typescript+threejs+vscode开发
查看>>
python读excel写入mysql小工具
查看>>
如何学习区块链
查看>>
搜索问题的办法
查看>>
微信分销系统商城营销5大重点
查看>>
求职准备 - 收藏集 - 掘金
查看>>
htm5新特性(转)
查看>>
Linux-Centos启动流程
查看>>