我需要将50000个txt文件的内容依次写入一个矩阵中,最后形成一个shape为(5000,500,500,1)的矩阵,请问python代码怎么写效率最高,最节约内存?
您确定要删除本贴么?所有相关回复也会被一并删除并且无法恢复。
curiositychen 2022-05-09 19:52
我觉得如果文件很多的话,是不是可以并行读入,节约时间
如果是数据里0很多,是可以转成稀疏矩阵;如果对精度要求不高,可以降低精度,都应该对减小内存有帮助
chaos0 2022-05-10 10:46
回答问题时需要注意什么?
我们谢绝在回答前讲“生动”的故事。 我们谢绝答非所问。 我们谢绝自己不会、硬要回答。我们谢绝“这么简单,自己想”、“书上有,自己找”这类回答;如果你认为对方提问方式或者内容不妥,可以直接忽略,不作解答,甚至投反对票。我们感激每一个用户在编写答案时的努力与付出!
相关讨论
怎么把python的dict存为json格式文件
python怎么读取txt格式的数据文件?
怎么在python中读取mat格式数据文件?
python能不能直接读取word文本,doc或者docx文件?
怎么把statsmodels训练的模型本地保存?
python如何读取元素中含有逗号的csv文件
怎么把多个csv表格读进python然后合并成一个表格输出为csv?
python 读json 错误 ValueError: Unexpected character found when decoding array value (2)
关于张量保存的问题,如何保存读取最快速?
如何将matplotlib生成的图片存到本地?
随便看看
T检验的effect size是什么?有什么含义吗?
推荐开放数据库
spark里怎么refresh表?
行数很多的pandas DataFrame如何在jupyter中完整显示?
opencv里waitkey和destroyAllWindows有什么用?