本文教你用纯python代码安全高效地替代shell中awk的去重功能,彻底规避subprocess调用时因文本/二进制模式不匹配导致的typeerror,并提供可直接运行的健壮实现。
在Python中调用subprocess.run()执行awk命令时,若未正确处理I/O编码模式,极易触发 TypeError: expected str, bytes, or os.PathLike object, not _io.TextIOWrapper —— 这一错误的本质并非逻辑错误,而是类型失配:subprocess.run() 默认以字节流(bytes)方式返回输出,但你传入的 stdout=open(ndfile, ‘w’) 是一个文本模式文件对象(TextIOWrapper),二者类型不兼容。
虽然可通过添加 text=True 参数强制 subprocess 使用文本模式(如下所示),但这只是治标:
subprocess.run(['awk', '-F', ',', '!seen[$1]++', filename],
stdout=open(ndfile, 'w'),
text=True) # ✅ 启用文本模式
然而,更推荐、更Pythonic的解法是:完全弃用外部awk,改用原生Python实现等效逻辑。这不仅消除进程开销与平台依赖,还大幅提升可读性、可调试性和跨环境稳定性。
以下是一个简洁、健壮、符合PEP 8规范的纯Python实现,功能完全等价于 awk -F, ‘!seen[]++’(即按首字段去重,保留首次出现的行):