1. python爬虫爬下来的数据怎么导入到MySQL
下载mysql.connector库
然后把爬虫爬到的数据通过mysql里面的insert语句查到数据库,当然也可以建表,一般我没用python建表 是先建好再写数据的
import mysql.connectorconn = mysql.connector.connect( user='root', password='root', host='127.0.0.1', port='3306', database='test_demo')cursor = conn.cursor()cursor.execute("INSERT INTO test_user(`uuid`,`user_name`,`user_level`) VALUES (%s,%s,%s)",[id, user_name, user_level])cursor.execute("INSERT INTO tieba_user_detail(`user_name`,`user_exp`,`user_sex`,`tieba_age`,`tieba_note`,`user_favorites`,`user_fans`) VALUES (%s,%s,%s,%s,%s,%s,%s)",[user_name,user_exp,user_sex, tieba_age,tieba_note, user_favorites, user_fans])print('************** %s %s 数据保存成功 **************'%(user_rank,user_name))conn.commit()cursor.close()
插进入就这样的
2. python3爬取的数据怎么导入mysql
import pymysql #导入pymsql模块 #链接数据库,注意port是int型,不是str,所以不要用引号conn = pymysql.connect( user='root', password='root', host='127.0.0.1', port=3306, database='test_demo', use_unicode=True, charset="utf8" )#获取游标cursor = conn.cursor()#插入数据,注意看有变量的时候格式cursor.execute("INSERT INTO tieba_user(`uuid`,`user_name`,`user_rank`,`user_level`,`level_status`,`tieba_name`) VALUES (%s,%s,%s,%s,%s,%s)", (user_id, user_name, user_rank, user_level, level_statu, tieba_name))#提交conn.commit()#关闭连接cursor.close()
3. python爬取到的json数据怎么存入到MySQL数据库中
python爬取到的json数据怎么存入到MySQL数据库中
json的数据json.loads进来以后会变成一个json的对象,你需要自己把python对象中的字段值取出来,拼成sql语句
4. python如何把txt中的文本数据导入mysql中
import pymysql
db = pymysql.connect('server_address', 'username', 'password', 'database_name')
cursor = db.cursor()
with open('data.txt', 'r') as f:
for line in f:
value_list = list(map(lambda x: "'%s'" % x, line.split()))
cursor.execute('INSERT INTO table_name VALUES(%s)' % ','.join(value_list))
db.commit()
db.close()
5. python爬好文件储存到mysql然后在给前端一个接口 怎么操作 初学小白希望可以看到代码及讲解
你这问题太宽泛了没法回答,推荐你去看requests、lxml、selenium、mysql-connector的文档,自然就会写了
6. python爬虫将数据导入到mysql数据库时,报错_mysql_exceptions.programmingerror 1146
那肯定是因为你的insert语句里面的values有问题,这些值都为空,所以你返回结果行为None,你可以试着输出一下self.insertSql这个变量,看看输出来的结果是什么就知道了。
或者是你把values的值换成字符串,成功插入后再修改成变量,慢慢调试。
这种数据库操作的问题,最好是要好好检查下自己的sql语句。
7. python中,怎么将大量数据一次性导入数据库中。 补充:数据库是Mysql数据库
我估计你是问怎么从文件导入到数据库。一般每个数据库都有一个从文件直接load数据到数据库的命令或者工具。
比如SQLServer 有个bcp。 MySql 就是 load。
给你搜了详细的帮助。看看链接吧。以下是精简的使用方法:
基本用法:
mysql> USE db1;
mysql> LOAD DATA INFILE "./data.txt" INTO TABLE db2.my_table;
指定行,字段的分隔符:
mysql> LOAD DATA INFILE 'data.txt' INTO TABLE tbl_name
FIELDS TERMINATED BY ',' ENCLOSED BY '"'
LINES TERMINATED BY '\n';
8. python 怎么实现从csv文件中读取数据 插入到mysql数据库中
你好,csv格式的和Excel格式的都是差不多的,
下面是读取Excel的一些函数,希望帮到你:
# -*- coding: cp936 -*-import xlrd3 def getAllRowsBySheetIndex(sheetIndex, xlsFilePath): workBook = xlrd3.open_workbook(xlsFilePath) table = workBook.sheets()[sheetIndex] rows = [] rowNum = table.nrows # 总共行数 rowList = table.row_values for i in range(rowNum): rows.append(rowList(i)) # 等价于rows.append(i, rowLists(i)) return rows def getRow(sheetIndex, rowIndex, xlsFilePath): rows = getAllRowsBySheetIndex(sheetIndex, xlsFilePath) return rows[rowIndex] def getAllColsBySheetIndex(sheetIndex, xlsFilePath): workBook = xlrd3.open_workbook(xlsFilePath) table = workBook.sheets()[sheetIndex] cols = [] colNum = table.ncols # 总共列数 colList = table.col_values for i in range(colNum): cols.append(colList(i)) return cols def getCol(sheetIndex, colIndex, xlsFilePath): cols = getAllColsBySheetIndex(sheetIndex, xlsFilePath) return cols[colIndex]def getCellValue(sheetIndex, rowIndex, colIndex, xlsFilePath): workBook = xlrd3.open_workbook(xlsFilePath) table = workBook.sheets()[sheetIndex] return table.cell(rowIndex, colIndex).value # 或者table.row(0)[0].value或者table.col(0)[0].value if __name__=='__main__': rowsInFirstSheet = getAllRowsBySheetIndex(0, './产品.xls') print(rowsInFirstSheet) colsInFirstSheet = getAllColsBySheetIndex(0, './产品.xls') print(colsInFirstSheet) print(getRow(0, 0, './产品.xls')) # 获取第一个sheet第一行的数据 print(getCol(0, 0, './产品.xls')) # 获取第一个sheet第一列的数据 print(getCellValue(0, 3, 2, './产品.xls')) # 获取第一个sheet第四行第二列的单元格的值