python爬虫爬下来的数据怎么导入到MySQL

2024-04-29 12:52

1. python爬虫爬下来的数据怎么导入到MySQL

下载mysql.connector库
然后把爬虫爬到的数据通过mysql里面的insert语句查到数据库,当然也可以建表,一般我没用python建表 是先建好再写数据的
import mysql.connectorconn = mysql.connector.connect(    user='root',    password='root',    host='127.0.0.1',    port='3306',    database='test_demo')cursor = conn.cursor()cursor.execute("INSERT INTO test_user(`uuid`,`user_name`,`user_level`) VALUES (%s,%s,%s)",[id, user_name, user_level])cursor.execute("INSERT INTO tieba_user_detail(`user_name`,`user_exp`,`user_sex`,`tieba_age`,`tieba_note`,`user_favorites`,`user_fans`) VALUES (%s,%s,%s,%s,%s,%s,%s)",[user_name,user_exp,user_sex, tieba_age,tieba_note, user_favorites, user_fans])print('************** %s  %s 数据保存成功 **************'%(user_rank,user_name))conn.commit()cursor.close()
插进入就这样的

python爬虫爬下来的数据怎么导入到MySQL

2. python3爬取的数据怎么导入mysql

import pymysql  #导入pymsql模块 #链接数据库,注意port是int型,不是str,所以不要用引号conn = pymysql.connect(                user='root',                password='root',                host='127.0.0.1',                port=3306,                database='test_demo',                use_unicode=True,                charset="utf8"            )#获取游标cursor = conn.cursor()#插入数据,注意看有变量的时候格式cursor.execute("INSERT INTO tieba_user(`uuid`,`user_name`,`user_rank`,`user_level`,`level_status`,`tieba_name`) VALUES (%s,%s,%s,%s,%s,%s)", (user_id, user_name, user_rank, user_level, level_statu, tieba_name))#提交conn.commit()#关闭连接cursor.close()

3. python爬取到的json数据怎么存入到MySQL数据库中

python爬取到的json数据怎么存入到MySQL数据库中
json的数据json.loads进来以后会变成一个json的对象,你需要自己把python对象中的字段值取出来,拼成sql语句

python爬取到的json数据怎么存入到MySQL数据库中

4. python如何把txt中的文本数据导入mysql中

import pymysql
db = pymysql.connect('server_address', 'username', 'password', 'database_name')

cursor = db.cursor()
with open('data.txt', 'r') as f:
for line in f:
value_list = list(map(lambda x: "'%s'" % x, line.split()))
cursor.execute('INSERT INTO table_name VALUES(%s)' % ','.join(value_list))
db.commit()
db.close()

5. python爬好文件储存到mysql然后在给前端一个接口 怎么操作 初学小白希望可以看到代码及讲解

你这问题太宽泛了没法回答,推荐你去看requests、lxml、selenium、mysql-connector的文档,自然就会写了

python爬好文件储存到mysql然后在给前端一个接口 怎么操作 初学小白希望可以看到代码及讲解

6. python爬虫将数据导入到mysql数据库时,报错_mysql_exceptions.programmingerror 1146

那肯定是因为你的insert语句里面的values有问题,这些值都为空,所以你返回结果行为None,你可以试着输出一下self.insertSql这个变量,看看输出来的结果是什么就知道了。
或者是你把values的值换成字符串,成功插入后再修改成变量,慢慢调试。
这种数据库操作的问题,最好是要好好检查下自己的sql语句。

7. python中,怎么将大量数据一次性导入数据库中。 补充:数据库是Mysql数据库

我估计你是问怎么从文件导入到数据库。一般每个数据库都有一个从文件直接load数据到数据库的命令或者工具。
比如SQLServer 有个bcp。 MySql 就是 load。

给你搜了详细的帮助。看看链接吧。以下是精简的使用方法:
基本用法:
mysql> USE db1;
mysql> LOAD DATA INFILE "./data.txt" INTO TABLE db2.my_table;

指定行,字段的分隔符:
mysql> LOAD DATA INFILE 'data.txt' INTO TABLE tbl_name

FIELDS TERMINATED BY ',' ENCLOSED BY '"'

LINES TERMINATED BY '\n';

python中,怎么将大量数据一次性导入数据库中。 补充:数据库是Mysql数据库

8. python 怎么实现从csv文件中读取数据 插入到mysql数据库中

你好,csv格式的和Excel格式的都是差不多的,
下面是读取Excel的一些函数,希望帮到你:
# -*- coding: cp936 -*-import xlrd3 def getAllRowsBySheetIndex(sheetIndex, xlsFilePath):    workBook = xlrd3.open_workbook(xlsFilePath)    table = workBook.sheets()[sheetIndex]         rows = []    rowNum = table.nrows # 总共行数    rowList = table.row_values    for i in range(rowNum):        rows.append(rowList(i)) # 等价于rows.append(i, rowLists(i))         return rows def getRow(sheetIndex, rowIndex, xlsFilePath):    rows = getAllRowsBySheetIndex(sheetIndex, xlsFilePath)         return rows[rowIndex] def getAllColsBySheetIndex(sheetIndex, xlsFilePath):    workBook = xlrd3.open_workbook(xlsFilePath)    table = workBook.sheets()[sheetIndex]         cols = []    colNum = table.ncols # 总共列数    colList = table.col_values    for i in range(colNum):        cols.append(colList(i))         return cols def getCol(sheetIndex, colIndex, xlsFilePath):    cols = getAllColsBySheetIndex(sheetIndex, xlsFilePath)         return cols[colIndex]def getCellValue(sheetIndex, rowIndex, colIndex, xlsFilePath):    workBook = xlrd3.open_workbook(xlsFilePath)    table = workBook.sheets()[sheetIndex]         return table.cell(rowIndex, colIndex).value # 或者table.row(0)[0].value或者table.col(0)[0].value  if __name__=='__main__':    rowsInFirstSheet = getAllRowsBySheetIndex(0, './产品.xls')    print(rowsInFirstSheet)     colsInFirstSheet = getAllColsBySheetIndex(0, './产品.xls')    print(colsInFirstSheet)         print(getRow(0, 0, './产品.xls')) # 获取第一个sheet第一行的数据         print(getCol(0, 0, './产品.xls')) # 获取第一个sheet第一列的数据         print(getCellValue(0, 3, 2, './产品.xls')) # 获取第一个sheet第四行第二列的单元格的值
最新文章
热门文章
推荐阅读