EDA365电子论坛网

标题: #技术风云榜#转一个网友分享的文档读取技巧教程 [打印本页]

作者: MOTOACE 时间: 2020-11-24 15:54
标题: #技术风云榜#转一个网友分享的文档读取技巧教程

转一个网友分享的文档读取技巧教程

由于大家在 I/O 存取上以 txt 文件为主，且读取比存储更麻烦（存储的话 fwrite, fprintf 基本够用），因此下面的讨论主要集中在“txt 文件的读取”上。除了标注了“转”之外，其余均转自技术论坛。

一. 基本知识：
--------------------------------------------------转----------------------------------------------------
1. 二进制文件与文本文件的区别：
将文件看作是由一个一个字节(byte) 组成的，那么文本文件中的每个字节的最高位都是0，也就是说文本文件使用了一个字节中的七位来表示所有的信息，而二进制文件则是将字节中的所有位都用上了。这就是两者的区别；接着，第二个问题就是文件按照文本方式或者二进制方式打开，两者会有什么不同呢？其实不管是二进制文件也好，还是文本文件也好，都是一连串的0和1，但是打开方式不同，对于这些0和1的处理也就不同。如果按照文本方式打开，在打开的时候会进行translate，将每个字节转换成ASCII码，而以按照二进制方式打开的话，则不会进行任何的translate；最后就是文本文件和二进制文件在编辑的时候，使用的方式也是不同的。譬如，你在记事本中进行文本编辑的时候，你进行编辑的最小单位是字节(byte)；而对二进制文件进行编辑的话，最小单位则是位(bit)，当然我们都不会直接通过手工的方式对二进制文件进行编辑了。

从文件编码的方式来看，文件可分为ASCII码文件和二进制码文件两种：
ASCII文件也称为文本文件，这种文件在磁盘中存放时每个字符对应一个字节，用于存放对应的ASCII码。例如，数5678的存储形式为：
ASCII码：　00110101 00110110 00110111 00111000
                     ↓          　↓ 　　　　↓       　　↓
  十进制码：    5　　　　　6　       　7　  　　　8

共占用4个字节。ASCII码文件可在屏幕上按字符显示，例如源程序文件就是ASCII文件，用DOS命令TYPE可显示文件的内容。由于是按字符显示，因此能读懂文件内容。

二进制文件是按二进制的编码方式来存放文件的。例如，数5678的存储形式为：00010110 00101110 只占二个字节。二进制文件虽然也可在屏幕上显示，但其内容无法读懂。C系统在处理这些文件时，并不区分类型，都看成是字符流，按字节进行处理。输入输出字符流的开始和结束只由程序控制而不受物理符号(如回车符)的控制。因此也把这种文件称作“流式文件”。

2. 文本模式(textmode)和二进制模式(binarymode)有什么区别?

流可以分为两种类型：文本流和二进制流。文本流是解释性的，最长可达255个字符，其中回车/换行将被转换为换行符“\n”，（如果以"文本"方式打开一个文件，那么在读字符的时候，系统会把所有的"\r\n"序列转成"\n"，在写入时把"\n"转成"\r\n" ）。二进制流是非解释性的，一次处理一个字符，并且不转换字符。

注：

   \n一般会操作系统被翻译成"行的结束"，即LF(Line-Feed)
   \r会被翻译成"回车"，即CR(Cariage-Return)
   对于文本文件的新行，在UNIX上，一般用\n(LF)来表示，Mac上用\r(CR)来表示，
   Windows上是用\n\r(CR-LF)来表示。

通常，文本流用来读写标准的文本文件，或者将字符输出到屏幕或打印机，或者接受键盘的输入；而二进制流用来读写二进制文件(例如图形或字处理文档)，或者读取鼠标输入，或者读写调制解调器。如果用文本方式打开二进制文件，会把“0D 0A”自动变换成“\n”来存在内存中。写入的时候反向处理。而二进制方式打开的话，就不会有这个过程。但是，Unicode/UTF/UCS格式的文件，必须用二进制方式打开和读写。
---------------------------------------------------------------------------------------------------------

上述基础其实大可以略过，简言之，对用户来说：在 matlab 中存储成为二进制还是文本文件取决于fopen的方式，如果用wt，则存储为文本文件，这样用记事本打开就可以正常显示了；如果用w则存储为二进制文件，这样用记事本打开会出现小黑方块，要正常显示的话，可以用写字板或UltraEdit等工具打开。
二. 具体例子分析：
Matlab网站用两个例子非常详尽地介绍了各个命令的基本用法，实际中，面对手头上的数据，如何选用合适的命令呢？以下结合几个示例给出一些总结，大家举一反三就可以了：

1. 纯数据（列数相同）：
源文件：

CODE:
0 3866.162 2198.938 141.140
1 3741.139 2208.475 141.252
2 3866.200 2198.936 141.156
3 3678.048 2199.191 141.230
4 3685.453 2213.726 141.261
5 3728.769 2212.433 141.277
6 3738.785 2214.381 141.256
7 3728.759 2214.261 141.228
8 3748.886 2214.299 141.243
9 3748.935 2212.417 141.253
10 3733.612 2226.653 141.236
11 3733.583 2229.248 141.223
12 3729.229 2229.118 141.186

解答：对于这个txt文件，由于各行列数相同，故简单地使用load,importdata均可。

2.字段名（中、英文字段均可）+数据：
源文件：

CODE:
CH0 CH1 CH2 CH3
0.000123 0.000325 0.000378 0.000598
0.000986 0.000256 0.000245 0.000698

解答：由于是记录的形式，因此各行列数必相同（缺少部分列时请自行在文件中补上 Inf 或 NaN），故直接使用 importdata 便可。

3.注释（含有独立的数字串）+数据（列数相同）：
问题：这个文件有4列,但前6行是文字说明,4列数字是从第8行开始的.现在我想把这个文件的前2列和文字说明提出来组成一个新的dat文件

源文件：

CODE:
Group 2  12.02.2006 Limei
Samples of datas: 50000

CH0  CH1  CH2  CH3
0.000123  0.000325 0.000378 0.000598
0.000986  0.000256 0.000245 0.000698

目标文件：

CODE:
Group 2 12.02.2006 Limei
Samples of datas: 50000

CH0 CH1
0.000123 0.000325
0.000986 0.000256

解答：由于注释中含有独立的数字串，且注释部分没有明显的格式，这时候用importdata, load等高级命令直接读取会失败，用 textread, dlmwrite 等格式化命令也不太合适，因此只能使用低级命令进行读取。（当然了，可以跳过注释部分直接用高级命令读取数据，即：[a b c d] = textread(filename,'%f %f %f %f','headerlines',4); ）。一个简单的、非通用的包含注释的读取方法如下：
-------------------------------------转 ---------------------------------------------------------------------------------------

CODE:
clc;clear;
fid = fopen('exp.txt', 'r');
fid_n=fopen('ex.dat','w');
while ~feof(fid)
tline=fgetl(fid);
if ~isempty(tline)
      if double(tline(1))>=48 && double(tline(1))<=57  %数值开始
         a=strread(tline);
         a(3:4)=[];
         fprintf(fid_n,'%f %f\n',a);
         clear a;
      elseif double(tline(1))==67 %字母C开始
         [b1,b2,b3,b4]=strread(tline,'%s %s %s %s');
         b=[b1{1},'  ',b2{1}];
         fprintf(fid_n,'%s\n',b);
         clear b b1 b2 b3 b4;
      else
         fprintf(fid_n,'%s\n',tline);
      end
else
      fprintf(fid_n,'%s\n',tline);
end
end
fclose(fid);
fclose(fid_n);

---------------------------------------------------------------------------------

4. 注释（不含独立的数字串）+数据（列数相同）：
源文件：

CODE:
你好 abc
欢迎来到我们
振动论坛
vib.hit.edu.cn
1 11 111 1111
2 22 222 2222
3 33 333 3333
4 44 444 4444
5 55 555 5555

解答：直接用 importdata 便可

注：有时候注释中含有独立的数字串也可以 importdata 成功，不过得到的结果有可能不正确，建议这时候使用第3种情形的读取方式。

5. 注释与数据混排：
对此当然只能自己编程，举例：

源文件：

CODE:
1 11 111 1111
你好
2 22 222 2222
欢迎来到
3 33 333 3333
振动论坛
4 44 444 4444
vib.hit.edu.cn
5 55 555 5555

解答：
--------------------------------------------转--------------------------------------

CODE:

function [data]=distilldata(infile)
%功能说明：
%将保存数据的原始文件中的数值数据读入到一个data变量中
%使用说明：
% infile——原始数据文件名;
% data=数据变量

tmpfile='tmp2.mat';

fidin=fopen(infile,'r'); % 打开原始数据文件（.list）

fidtmp=fopen(tmpfile,'w'); % 创建保存数据文件（不含说明文字）

while ~feof(fidin) % 判断是否为文件末尾
  tline=fgetl(fidin); % 从文件读入一行文本（不含回车键）
  if ~isempty(tline) % 判断是否空行
[m,n]=size(tline);
flag=1;
for i=1:n %判断一行中有没有字符（＋－.Ee和空格键除外）
   if ~(tline(i)==' '|tline(i)=='-'|tline(i)=='.'|tline(i)=='E'...
      |tline(i)=='e'|tline(i)=='+'...
      |(double(tline(i))>=48&&double(tline(i))<=57))
      flag=0;
      break;
   end
end
if flag==1 % 如果是数字行，把此行数据写入文件
   fprintf(fidtmp,'%s\n',tline);
end
  end
end

fclose(fidin);

fclose(fidtmp);

data=textread(tmpfile);

delete(tmpfile);

---------------------------------------------------------------------------------------------------------
另外，如果要求不高，也可以使用 textread 函数跳过注释部分进行读取，不过前提是需要事先知道文件内容的结构（即哪行是数据、哪行是注释）

6.各列数据的分离：
源文件：

CODE:
         0 +  47038.7 1.05  09:26:07  C
         2 +  46477.7 1.03  09:28:38  C
         4 +  44865.7 1.04  09:28:48  C
         6 +  41786.4 1.03  09:28:56  C
         8 +  39896.0 0.97  09:29:03  C
      10 +  37518.4 0.93  09:29:15  C
      12 +  35858.5 0.92  09:29:30  C
      14 +  46105.0 1.03  09:30:21  C
      16 +  46168.6 6.89  09:30:30  C
      18 +  48672.3 4.33  09:30:40  C
      20 +  49565.7 0.49  09:30:48  C
      22 +  49580.7 0.53  09:30:55  C
      24 +  49602.3 0.84  09:31:03  C
      26 +  49582.5 1.51  09:31:11  C
      28 +  49577.0 1.39  09:31:19  C
      30 +  49589.3 0.61  09:31:27  C
      32 +  49578.3 1.06  09:31:29  C
      34 +  49512.5 1.77  09:31:38  C

解答：直接用 [a,b,c,d,e,f]=textread(yourfilename,'%d %c %f %f %s %c'); 便可

三. 注意事项：

1. 请在 matlab 中保持当前路径在该数据文件对应的目录下进行存取，否则，存取时请给出该数据文件的具体路径。

2. 存取时，请给出该数据文件的全称（包括后缀名，读取mat文件时可省略）

3. load data.txt和A=load(‘data.txt’)的区别请参阅精华贴：

4. 请根据读写需要来打开文件，即根据你的需要来指定 fopen 的 permission 属性为读或写。如果只用 a 进行写入，就不能用 fread 读取。此时应该写完关闭文件，然后用 r 打开读取，或者直接用 a+ 进行同时读写操作。否则，会产生莫名其妙的问题！以下代码是一个错误的例子：

CODE:

filename='e.dat';
fid=fopen(filename,'a');
if fid<0
error('fopen error');
end
s=[1 2 3 4;5 6 7 8];
fwrite(fid,s,'float32')
[dd ll]=fread(fid,inf,'float32');％把t中的数据全部读出，即s矩阵。
fclose(fid);

此时得到的dd, ll 是错误且无意义的！

四. 其他相关问题：

1. 连续读取多个文件的数据，并存放在一个矩阵中：
(1) 首先是如何读取文件名：
方法一：
filename=dir(‘*.jpg’);
那么第i个文件的文件名就可以表示为
filename(i).name
文件数量为：length(filename)

方法二：
先在Windows的 MSDOS（命令行）中使用以下命令生成一个list.txt文件：

dir path\folder /on /b /s > path\list.txt

举例：dir d:\test /on /b /s > d:\list.txt

然后在 matlab 中使用：

filename = textread(sFileFullName,'%s');

把所有文件名读取到list细胞矩阵中，最后对filename{i}便可得到各文件名。

(2) 然后是读取文件名的数据并存储：
假设每个文件对应的数据是m*n的，则：

CODE:
k = length(filename);

Data = zeros(m,n,k);

for ii = 1:k
  Data(:,:,ii) = yourreadstyle(filename{ii}); %yourreadstyle是对应的文件读取方式的函数
end

2. 连续读取多个文件的数据，并存放在多个矩阵（以文件名命名）中：
假设每个文件对应的数据是m*n的，则以上述第二种文件名读取方法为例：

CODE:
k = length(filename);
for ii = 1:k
  D = yourreadstyle(filename{ii});
eval([‘Data_’, num2str(ii), ‘ = D;’]);
end

3. 文件名命名问题：
文件名为 abc00001,abc00002,... abc00009,abc00010,... abc00099,abc00100,...abc00879.  准备把这些文件名给放到一个数组里面去。

解答：

CODE:
a=cell(879,1);
for k=1:879
   a{k} = sprintf('%.5d',k);
end

4. 上述各种文件格式、类型自动识别问题：可以利用正则表达式来处理，使之通用性较强。例如使用以下代码可以自动处理上面提到了例1到例5各种情形，不过由于存在自动判断，对某些例子（如例1）效率自然要低一点，而对于另外的例子（如例3、例5）效率估计要高一点（少用了一个循环）。

CODE:

function [data]=distilldata_eight(infile)
%功能说明：
%将保存数据的原始文件中的数值数据读入到一个data变量中（自动判断数据行）
%使用说明：
% infile——原始数据文件名;
% data=数据变量

tmpfile='tmp2.mat';

fidin=fopen(infile,'r'); % 打开原始数据文件（.list）

fidtmp=fopen(tmpfile,'w'); % 创建保存数据文件（不含说明文字）

while ~feof(fidin) % 判断是否为文件末尾
  tline=fgetl(fidin); % 从文件读入一行文本（不含回车键）
  if ~isempty(tline) % 判断是否空行
str = '[^0-9 | \. | \- | \s | e | E]'; %正则表达式为：该行中是否包含除 - . E e 数字和空白字符外的其他字符
start = regexp(tline,str, 'once');
if isempty(start)
   fprintf(fidtmp,'%s\n',tline);
end
  end
end

fclose(fidin);

fclose(fidtmp);

data=textread(tmpfile);

delete(tmpfile)

5. 大量数据的读取问题：
可以考虑使用循环分批读取（特别是在各数据是独立的时候），或者使用稀疏矩阵来实现。另外，也可参考《深入浅出MATLAB 7_X混合编程》一书第一章

6. 读取整个txt文件的内容（获得文件中的所有字符）：

CODE:

f = fopen('yourfilename.txt','rt'); % t 属性根据需要可省略
x = fread(f,'*char');
fclose(f);

7. 把维数不同的矩阵及其变量名保存到一个 txt 文件中，例如 a1 = 123; a2 = [1 2 3;4 5 6] ，希望得到的 txt 文件如下：

QUOTE:

a1：
123
a2：
1 2 3
4 5 6

如果写入的时候简单一点，则可以采用以下方式，不过读取的时候比较麻烦：

CODE:

a1=123;
a2=[1 2 3;4 5 6];
fid = fopen('myfile.txt', 'wt');
for i=1:2
fprintf(fid, '%s: \n %s\n', ['a',int2str(i)], mat2str(eval(['a',int2str(i)])));
end
fclose(fid);

相反，如果写入的时候复杂一点，则读取的时候会简单一点：

CODE:

a1=123;
a2=[1 2 3;4 5 6];
fid = fopen('myfile.txt', 'wt');
for i=1:2
fprintf(fid, '%s: \n', ['a',int2str(i)]);
b = eval(['a',int2str(i)]);
fprintf(fid, [repmat('%d ', 1, size(b,2)), '\n'], b');
end
fclose(fid);

作者: CCxiaom 时间: 2020-11-24 17:38
文档读取技巧教程

欢迎光临 EDA365电子论坛网 (https://bbs.eda365.com/)