资讯专栏INFORMATION COLUMN

python:pymsql插入优化

未东兴 / 256人阅读

摘要:如星期三为月份的简写。如月份为月份的全写。如月份为日期时间的字符串表示。

摘要

刚接触scrapy时候,需要把item经过pipelines处理后插入到mysql,写插入语句教程是将item数据一个个枚举出来,在字段特别多的时候还是蛮麻烦的,而且可扩展性比较差,其实只要稍作封装就能很好的解决这种尴尬

import pymysql
from datetime import datetime


class MyPyMysql(object):
    def __init__(self, user, passwd, db, host="localhost", port=3306, use_unicode=True):
        self.host = host
        self.port = port
        self.user = user
        self.passwd = passwd
        self.db = db
        self.connect = pymysql.connect(host=self.host, port=self.port, db=self.db, user=self.user, passwd=self.passwd,
                                       use_unicode=True)
        self.cursor = self.connect.cursor()
    
    def insert(self, table_name, kwargs):
        sql = "insert into {} ({}) VALUES  {};".format(table_name, ",".join(list(kwargs.keys())),
                                                       tuple(kwargs.values()))
        self.query(sql)
        """
        success excute insert into student (id,name,age,birthData) VALUES  (12, "dalex", 20, "2018-03-15 14:32:35.271451");
        success excute insert into student (id,name,age,birthData) VALUES  (23, "balex", 20, "2018-03-15 14:32:35.271451");
        """
        print("success excute {}".format(sql))
    
    def query(self, sql):
        self.cursor.execute(sql)
        self.connect.commit()
    
    def close(self):
        self.cursor.close()
        self.connect.close()


if __name__ == "__main__":
    me = MyPyMysql("root", "root", "blog")
    birthData = str(datetime.now())
    me.insert("student", {"id": 12, "name": "dalex", "age": 20, "birthData": birthData})
    me.insert("student", {"id": 23, "name": "balex", "age": 20, "birthData": birthData})
    me.close()
日期格式化

由于对日期函数不是很熟悉,插入日期格式不对导致插入失败,后来查了下相关文档,清楚了很多

1、由日期格式转化为字符串格式的函数为: datetime.datetime.strftime()
2、由字符串格式转化为日期格式的函数为: datetime.datetime.strptime()

    from datetime import datetime
    print(datetime.now().strftime("%Y-%m-%d"))
    print(datetime.strptime("2018-03-15 15:32:24", "%Y-%m-%d %H:%M:%S"))
    """
    输出结果为:
    2018-03-15
    2018-03-15 15:32:24
    """
    #格式化时间相操作
    # %a 星期的简写。如 星期三为Web  
    # %A 星期的全写。如 星期三为Wednesday  
    # %b 月份的简写。如4月份为Apr  
    # %B月份的全写。如4月份为April   
    # %c:  日期时间的字符串表示。(如: 04/07/10 10:43:39)  
    # %d:  日在这个月中的天数(是这个月的第几天)  
    # %f:  微秒(范围[0,999999])  
    # %H:  小时(24小时制,[0, 23])  
    # %I:  小时(12小时制,[0, 11])  
    # %j:  日在年中的天数 [001,366](是当年的第几天)  
    # %m:  月份([01,12])  
    # %M:  分钟([00,59])  
    # %p:  AM或者PM  
    # %S:  秒(范围为[00,61],为什么不是[00, 59],参考python手册~_~)  
    # %U:  周在当年的周数当年的第几周),星期天作为周的第一天  
    # %w:  今天在这周的天数,范围为[0, 6],6表示星期天  
    # %W:  周在当年的周数(是当年的第几周),星期一作为周的第一天  
    # %x:  日期字符串(如:04/07/10)  
    # %X:  时间字符串(如:10:43:39)  
    # %y:  2个数字表示的年份  
    # %Y:  4个数字表示的年份  
    # %z:  与utc时间的间隔 (如果是本地时间,返回空字符串)  
    # %Z:  时区名称(如果是本地时间,返回空字符串)  
    # %%:  %% => %  
引用

1,python中datetime模块中strftime/strptime函数
2,pymsql github 源码

文章版权归作者所有,未经允许请勿转载,若此文章存在违规行为,您可以联系管理员删除。

转载请注明本文地址:https://www.ucloud.cn/yun/44620.html

相关文章

  • MySQL批量SQL插入性能优化

    摘要:一条语句插入多条数据常用的插入语句如修改成修改后的插入操作能够提高程序的插入效率。在事务中进行插入处理。性能综合测试这里提供了同时使用上面三种方法进行效率优化的测试。参考文档批量插入性能优化 对于一些数据量较大的系统,数据库面临的问题除了查询效率低下,还有就是数据入库时间长。特别像报表系统,每天花费在数据导入上的时间可能会长达几个小时或十几个小时之久。因此,优化数据库插入性能是很有意义...

    klivitamJ 评论0 收藏0
  • 性能优化3--数据库优化

    摘要:索引虽然索引的目的在于提高数据库的性能,但这里有几个情况需要避免使用索引。原子性的执行操作为数据的整体性执行带来的可靠安全性。如果我们手动创建了事务,则执行流程为创建事务执行条数据操作提交事务。1> 索引 虽然索引的目的在于提高数据库的性能,但这里有几个情况需要避免使用索引。使用索引时,应重新考虑下列准则: 索引不应该使用在较小的表上。 索引不应该使用在有频繁的大批量的更新或插入操作的表上...

    Anchorer 评论0 收藏0
  • JavaScript 数据结构与算法之美 - 冒泡排序、插入排序、选择排序

    摘要:之所以把冒泡排序选择排序插入排序放在一起比较,是因为它们的平均时间复杂度都为。其中,冒泡排序就是原地排序算法。所以冒泡排序是稳定的排序算法。选择排序思路选择排序算法的实现思路有点类似插入排序,也分已排序区间和未排序区间。 showImg(https://segmentfault.com/img/bVbuvnj?w=900&h=250); 1. 前言 算法为王。 想学好前端,先练好内功,...

    canger 评论0 收藏0
  • Spring/Hibernate 应用性能优化的7种方法

    摘要:对于大多数典型的企业应用而言,其性能表现几乎完全依赖于持久层的性能。速成法使用批处理对于批处理程序,驱动程序提供了旨在减少网络来回传输的优化方法。速成法检查错误的提交间隔如果你使用批处理程序,提交间隔会对性能造成十倍甚至百倍的影响。 对于大多数典型的 Spring/Hibernate 企业应用而言,其性能表现几乎完全依赖于持久层的性能。此篇文章中将介绍如何确认应用是否受数据库约束,同时...

    lavor 评论0 收藏0
  • 糊涂算法之「八大排序」总结——用两万字,8张动图,450行代码跨过排序这道坎(建议收藏)

    摘要:今天,一条就带大家彻底跨过排序算法这道坎,保姆级教程建议收藏。利用递归算法,对分治后的子数组进行排序。基本思想堆排序是利用堆这种数据结构而设计的一种排序算法,堆排序是一种选择排序,它的最坏,最好,平均时间复杂度均为,它也是不稳定排序。 ...

    greatwhole 评论0 收藏0

发表评论

0条评论

最新活动
阅读需要支付1元查看
<