背景:
#大数据接入的数据源,有时是csv格式的,数据源没有列名,读取时顺便为每列命名一个列名 #pandas自带的replace只能替换整个单元格的内容,不能对单元格中某个字符进行替换 #再次写回自己csv注意不要将文件
将下面的
col1 col2 col3 col4 col5 col6
0 a b c d e f
1 e f g h i,k j
2 中国 江苏 南京 北京 江苏,南京 重庆
替换成
col1 col2 col3 col4 col5 col6
0 a b c d e f
1 e f g h i|k j
2 中国 江苏 南京 北京 江苏|南京 重庆
# -*- coding:utf-8 -*-
import pandas as pd
import os
import re
#大数据接入的数据源,有时是csv格式的,数据源没有列名,读取时顺便为每列命名一个列名
#pandas自带的replace只能替换整个单元格的内容,不能对单元格中某个字符进行替换
#再次写回自己csv注意不要将文件
def doSubStr(x):
res = re.sub(',','|',x)
return res
tfile = r'C:\****\python-code\learn_pandas\csv\data.csv'
tofile = r'C:\******\python-code\learn_pandas\csv\data1.csv'
column_names = ['col1','col2','col3','col4','col5','col6']
if os.path.exists(tfile):
reader = pd.read_csv(filepath_or_buffer=tfile,header=None,names=column_names,iterator=True)
else:
print('文件不存在')
while True:
try:
df = reader.get_chunk(10)#设置每次读取行数
print(df)
df.col5 = df.col5.apply(doSubStr)
print(df)
df.to_csv(path_or_buf=tofile,index=False,encoding='utf-8-sig')
except StopIteration:
break