编译原理->词法分析器的分析

今天要说的是词法分析器。
首先让我们对词法分析器有个基本的了解:
  一、 
  词法分析程序的主要任务 从左到右扫描每行源程序,拼成单词,换成统一的内部表示(token)输出,送给语法分析器进行分析。
  二、词法分析器功能:输入源程序,输出单词符号,其中词法分析器的单词符号常常表示成二元组的形式(单词种别码,单词符号的属性值)。

三、下来就部分单词的BNF表示罗列如下:

<标识符>  -><字母><字母数字串>
<字母数字串>  -><字母><字母数字串>|<数字><字母数字串>|<下划线><字母数字串>|ε
<无符号整数> -><数字><数字串>
<数字串> -><数字><数字串>|ε
<加法运算符>  ->+
<减法运算符> -> -
<大于关系运算符> -> >
<大于等于关系运算符
> -> >=
四、然后对于词法分析器来说,我们就是要将对象语言的语法全部描述出来,下面就以C语言为例来说明问题:
(1)关键字:
main if else int return void while ...所有的关键字都是小写。
(2)专用符号
= + - * / <= >= >  == != ; : , { } [ ] ( )
(3)空白和空格、制表符和换行符
空格一般用来分隔ID、NUM、专用符号和关键字,在词法分析阶段通常被忽略。
五、“超前搜索”方法
 词法分析时,常常会遇到超前搜索方法。如当前待运算分析的字符串为“a>+”当前字符为“>”,此时,分析器到底是将其分析为大于关系运算符还是大于等于关系运算符呢?显然,只有知道下一个字符是什么才能够给出特定的结论。于是分析器读入下一个字符’+‘,这时可知应将’>‘解释为大于运算符。但此时,超前读了一个字符’+‘,所以要回退一个字符,词法分析器才能够运行。

接下来,面对一个问题就是,既然已经知道了具体的细节,下面要做的就是如何用代码实现呢?
请看下面这图:

这是我在实现词法分析器过程中的主要流程图,根据读出的字符是何种类型进行操作,然后具体问题具体分析。


此资源包含源代码和实验报告。 一、实验目的 设计、编制、调试一个词法分析子程序-识别单词,加深对词法分析原理的理解。通过本实验的编程实践,使学生了解词法分析任务,掌握词法分析程序设计的原理和构造方法,使学生对编译的基本概念、原理和方法有完整的和清楚的理解,并能正确地、熟练地运用。 二、实验要求 该程序要实现的是一个读单词过程,从输入的源程序中,识别出各个具有独立意义的单词,即关键字、标识符、数据、运算符、分界符等五大类,并依次输出各个单词的种类及单词符号自身值。若遇到错误则显示“Error”,然后跳过错误部分继续显示 。 三、实验内容 通过输入源程序从左到右对字符串进行扫描和分解,依次输出各个单词的内部编码及单词符号自身值;若遇到错误则显示“Error”,然后跳过错误部分继续显示。 以下是实现词法分析设计的主要工作: (1)从源程序文件中读入字符。 (2)删除空格类字符,包括回车、制表符空格。 (3)按拼写单词,并用(单词,属性)二元式表示。 (4)如果发现错误则报告出错。 单词的基本分类: 关键字:由程序语言定义的具有固定意义的标识符。也称为保留字例如 i f、const; 单词种别码为1。 标识符:用以表示各种名字,如变量名、数组名、函数名;种别码为2。 数据: 任何数值常数。如 125,3.14等;种别码为3。 运算符:+、-、*、/、<、、&gt;=、;种别码为4。 分界符: ; 、, 、(、) 、[、];种别码为5。 Error:#、%等。
评论 7
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值