本文介绍一种高效、无需预扫描文件的方案:在流式读取过程中实时跳过无关行,精准定位以 [deal type] 开头的首列标题行,并将其作为 read_csv() 的数据起点。
在实际数据处理工作中,我们常遇到结构不规范的 CSV 文件——真正的数据并非从第一行开始,且“前导垃圾行”(如报告标题、元信息、空行、分隔符等)数量不固定。此时,硬编码 skiprows=12 或依赖固定偏移量极易出错。Pandas 的 read_csv() 虽提供 skiprows、skipfooter、header 等参数,但均要求提前知道行号,无法应对动态起始位置。
幸运的是,Python 的文件对象是可迭代的迭代器(file_in),支持逐行遍历与状态控制。我们可以利用这一特性,在打开文件后先“预读”若干行,直到命中标志性的列标题(如 [Deal Type]),然后将当前文件指针位置之后的内容直接交由 pandas.read_csv() 解析——而无需二次读取或临时保存中间内容。
关键在于:pandas.read_csv() 支持从任意类文件对象(如 io.StringIO、io.BytesIO 或已打开的 TextIOWrapper)读取,且会自动从当前位置开始解析。因此,只需在循环中调用 break 跳出后,file_in 的内部指针已停在目标标题行(含)之后的下一行,即真实数据的第一行。
以下为完整可运行示例(使用 io.StringIO 模拟文件;生产环境替换为 open(‘data.csv’, ‘r’, encoding=’utf-8′)):