JavaCC 研究与应用( 8000字 心得 源程序)

一.JavaCC简介

 

JavaCC(Java Compiler Compiler)是一个用JAVA开发的最受欢迎的语法分析生成器。这个分析生成器工具可以读取上下文无关且有着特殊意义的语法并把它转换成可以识别且匹配该语法的JAVA程序。JavaCC可以在Java虚拟机(JVM) V1.2或更高的版本上使用,它是100%的纯Java代码,可以在多种平台上运行,与Sun当时推出Java的口号"Write Once Run Anywhere"相一致。JavaCC还提供JJTree工具来帮助我们建立语法树,JJDoc工具为我们的源文件生成BNF范式(巴科斯-诺尔范式)文档(Html)

 

二.JavaCC的特点

JavaCC是一个用Java语言写的一个Java语法分析生成器,它所产生的文件都是纯Java代码文件,JavaCC和它所自动生成的语法分析器可以在多个平台上运行。

下面是JavaCC的一些具体特点:

1.       TOP-DOWNJavaCC产生自顶向下的语法分析器,而YACC等工具则产生的是自底向上的语法分析器。采用自顶向下的分析方法允许更通用的语法(但是包含左递归的语法除外)。自顶向下的语法分析器还有其他的一些优点,比如:易于调试,可以分析语法中的任何非终结符,可以在语法分析的过程中在语法分析树中上下传值等。

2.       LARGE USER COMMUNTIY:是一个用JAVA开发的最受欢迎的语法分析生成器。拥有成百上千的下载量和不计其数是使用者。我们的邮件列表(https://JavaCC.dev.java.net/doc/mailinglist.html )和新闻组(comp.compilers.tools.JavaCC)里的参与者有1000多人。

3.       LEXICAL AND GRAMMAR SPECIFICATIONS IN ONE FILE:词法规范(如正则表达式、字符串等)和语法规范(BNF范式)书写在同一个文件里。这使得语法易读和易维护。

4.       TREE BUILDING PREPROCESSOR JavaCC提供的JJTree工具,是一个强有力的语法树构造的预处理程序。

5.       EXTREMELY CUSTOMIZABLEJavaCC提供了多种不同的选项供用户自定义JavaCC的行为和它所产生的语法分析器的行为。

6.       CERTIFIED TO BE 100% PURE JAVAJavaCC可以在任何java平台V1.1以后的版本上运行。它可以不需要特别的移植工作便可在多种机器上运行。是Java语言”Write Once, Run Everywhere”特性的证明。

7.       DOCUMENT GENERATIONJavaCC包括一个叫JJDoc的工具,它可以把文法文件转换成文本本件(Html).

8.       MANY MANY EXAMPLESJavaCC的发行版包括一系列的包括JavaHTML文法的例子。这些例子和相应的文档是学习JavaCC的捷径。

9.       INTERNATIONALIZEDJavaCC的词法分析器可以处理全部的Unicode输入,并且词法规范何以包括任意的Unicode字符。这使得语言元素的描述,例如Java标识符变得容易。

10.   SYNTACTIC AND SEMANTIC LOOKAHEAD SPECIFICATIONS:默认的,JavaCC产生的是LL(1)的语法分析器,然而有许多语法不是LL(1)的。JavaCC提供了根据语法和语义向前看的能力来解决在一些局部的移进-归约的二义性。例如,一个LL(k)的语法分析器只在这些有移进-归约冲突的地方保持LL(k),而在其他地方为了更好的效率而保持LL(1)。移进-归约和归约-归约冲突不是自顶向下语法分析器的问题。

11.   PERMITS EXTENDED BNF SPECIFICATIONSJavaCC允许拓展的BNF范式——例如(A)*,(A)+等。拓展的BNF范式在某种程度上解决了左递归。事实上,拓展的BNF范式写成A ::= y(x)* A ::= Ax|y更容易阅读。

12.   LEXICAL STATES AND LEXICAL ACTIONSJavaCC提供了像lex的词法状态和词法动作的能力。

13.   CASE-INSENSITIVE LEXICAL ANALYSIS:词法描述可以在整个词法描述的全局域或者独立的词法描述中定义大小写不敏感的Tokens

14.   EXTENSIVE DEBUGGING CAPABILITIES:使用选项DEBUG_PARSER, DEBUG_LOOKAHEAD, DEBUG_TOKEN_MANAGER,使用者可以在语法分析和Token处理中使用深层次的分析。

15.   SPECIAL TOKENSTokens可以在词法说明中被定义成特殊的Tokens从而在语法分析的过程中被忽略,但这些Tokens可以通过工具进行处理。

16.   VERY GOOD ERROR REPORTINGJavaCC的错误提示在众多语法分析生成器中是最好的。JavaCC产生的语法分析器可以清楚的指出语法分析的错误并提供完整的诊断信息。

 

三.JavaCC的获取

 

JavaCCjava世界里一个类似lexyacc的工具JavaCC也是一个免费可以获取的通用工具,它遵循BSD License(Berkeley Software Distribution (BSD) License),你可以自由的使用它。它可以在很多JAVA相关的工具下载网站下载,当然,要想获得最新的版本JavaCC,还是在官网上下载比较好https://JavaCC.dev.java.net/。点击官网后可进入如下的界面进行下载:

 

 


JavaCC所占的磁盘空间比起lexyacc更大一些,里面有标准的文档和examples。相对lexyacc来说,JavaCC做得更人性化,更容易一些。

 

 

 

 

四.JavaCC的安装和使用

解压下载后的文件JavaCC-4.1.zip,将其中的bin文件夹的路径添加到环境变量path中,如下图所示:

 

 

 

 

 

启动“运行”(快捷键win+R),输入cmd ——>确定,在提示符中输入JavaCC,如看到如下画面,表明JavaCC安装成功。(前提是已经安装了JDK)

 

 

 

 

五.JavaCC plug-in的安装和使用

JavaCC plug-in是一个用于辅助JavaCC应用程序开发的Eclipse插件.JavaCC plug-in可以在如下链接中下载http://www.easyeclipse.org/site/plugins/JavaCC.html

将下载文件解压得到的两个文件夹复制到Eclipse相应的文件夹中,该插件即添加完成。

 

 

 

 

 

六.JavaCC的原理(原理分析+个人实践心得)

总体来说,JavaCC主要有以下功能:

 

JavaCC用来处理语法文件(jj)生成解析代码

JJTree 用来处理jjt文件,生成树节点代码和jj文件

JJDoc 根据jj文件,生成文本本件(Html)

 

下面将根据我个人的理解(个人观点,仅供参考),结合Sun给的Examples和自己利用Javccc编写的CMM语言的词法分析和语法分析文件,逐一阐述上面的两个个功能。(由于时间的原因,JJDoc没有深入的学习,这里暂不涉及)

 

JavaCC

JavaCC是一个词法分析生成器和语法分析生成器。词法分析和语法分析是处理输入字符序列的软件组件,编译器和解释器协同词法分析和语法分析来解码程序文件。词法分析器可以把一连串的字符序列划分成一个一个的叫做“Token”的子序列,同时它也可以把这些Token分类。这些Token序列将会传送给语法分析器以供其决定程序的结构。

 

JavaCC的输入文件是一个词法和语法的规范文件,其中也包括一些动作的描述,它的后缀应该是jj。现在看一下JavaCC-4.1"examples"SimpleExamples这个文件夹下的Simple1.jj这个文件。

 

 

 

 

这是一个简单的JavaCC语法来识别一系列的“{”和后面的相同数量的“}”,之后跟着0个或多个行终结符,最后是文件的结尾。

下面是合法的字符串例子:

"{}" ,  "{{{{{}}}}}" ,  etc.

下面是不合法的字符串例子:

"{{{{" ,  "{}{}" ,  "{}}" ,  "{{}{}}" ,  etc.

 

这个语法文件以一些JavaCC所提供的Options的参数设置开始。在这个例子中,Options的参数都是它们的默认值。因此,这些参数实际上是不需要的。程序员甚至可以完全忽略Options这一部分,或者省略其中的一个或多个Options的参数,详细的关于Options的参数设置的问题请参考JavaCC的文档。

接下来的是一个处在”PARSER_BEGIN(name)””PARSER_END(name)”中间的编译单元。这个编译单元可以是任意的复杂。在这个编译单元中唯一的限制就是它必须定一个一个叫”name”的类——与PARSER_BEGINPARSER_END的参数的相同。这个”name”被用作语法分析产生器生成的java文件的前缀。

在上面的例子中,语法分析器产生的类包括一个主程序。这个主程序通过调用使用一个类型为java.io.InputStream的参数的构造函数创建了一个Simple1的对象。

这个主程序调用文法的非终结符。所有的非终结符在JavaCC的语法分析器中的地位是平等的,因此,一个非终结符可以分析有关的任何一个该文法的非终结符。

 

下面是一系列的产生式。在这个例子中,有两个被分别定义为非终结符InputMatchedBraces的产生式。在JavaCC的语法中,非终结符的编写和实现与Java中的方法是一致的。当一个非终结符位于一个产生式的左边的时候,它被认为将要被声明,它的句法和Java的相一致。当它在产生式的右边的时候,它的用途与Java中的方法调用相似。

每一个产生式定义它的左边的非终结符以一个冒号(:)结尾。之后紧跟着的是一些在花括号({})里面的声明和语句,它们将作为产生方法的普通声明和语句。(在上面的例子中,因为没有声明,所以是空的{})这之后是一系列的在闭合的花括号里的拓展语句。

JavaCC中的词法的Tokens是简单的字符串如"{", "}", ""n", ""r",或者是复杂的正则表达式。在上面的例子中,有一个正则表达式<EOF>,当它被匹配的时候意味着文件的结束。所有的正则表达式都在封闭的尖括号(<>)内。

上面列子的第一个产生式的非终结符”Input”拓展到非终结符”MethodBraces”,之后跟着0个或多个行终结符(""n" ""r"),然后这文件的结束符。

上面列子的第二个产生式的非终结符” MethodBraces”拓展到token”{”,之后跟着可选择嵌套的MethodBraces,之后跟着一个token”}”。在JavaCC输入文件中,方括号[…]表示是可选的。

[…]同样可以写成(…)?。这两种形式是相等的。其他可能会在拓展式中出现的结构是:

   e1 | e2 | e3 | ...    : 选择 e1, e2, e3, etc.其中之一

   ( e )+             : e出现一次或多次

   ( e )*             : e出现零次或多次

上面的结构可以相互嵌套,如:(( e1 | e2 )* [ e3 ] ) | e4

以上是对Simple1.jj的简单介绍,在介绍我自己写的CMM语言的词法分析和语法分析程序之前,先简单介绍一下CMM语言的基本知识。

 

CMM语言为C语言的一个子集:

语言结构:顺序结构(赋值语句、输入、输出)、选择语句(if-else)、循环结构(while)。这些语句结构和C语言的结构一样,允许嵌套。

表达式局限于关系表达式和算术表达式,运算的优先级为:算术运算、关系运算,并服从左结合规则。

算术表达式包括整数和实数上的运算、变量以及“()”、“*”、“+”、“-”、“/”,运算符的优先级顺序为:“()”大于“*”和“/”大于“+”和“-”。

关系运算符包括:“<”、“==”、“<>”。

一条语句以“;”结束;程序由一条语句或者由“{”和“}”嵌套表达的复合语句。

注释放在“/*”“ */ ”之间,支持多行注释。

支持数组运算,数组的下标必须是正整数,使用“[”和“]”表示数组下标。

变量的使用之前需要先声明,声明的方式和C语言一样。

 

 

保留字

特殊符号

其他

If

+

十进制的整数与实数

else

-

while

*

read

/

标识符(由数字、字母和下划线组成的串,但必须以字母开头、且不能以下划线结尾的串)

write

=

int

real

==

 

 

<> 

 

 

(

 

 

                     )                    

 

 

;

 

 

{

 

 

}

 

 

/*

 

 

*/

 

 

[

 

 

]

 

 

下面来看一下我们利用EclipseJavaCC插件来写我们自己的JJ文件(关于CMM的)。

当我们导入或新建一个JJ文件时,Eclipse会自动根据”name”(上面提到过的)生成7java文件。如下图:

 

 

(cmmJavaCC是我的”name”)

 

打开cmmJavaCC文件可以发现,Eclipse已经为我们创建好了相应的类和主函数,我们只需要在这里修改一下个别的提示语句(System.out.prinln(…))Ok了。顺便说一句,如果大家觉得自己写的语句的缩进没有调整好,在Eclipse里直接按Ctrl+Shift+F,可以自动调整缩进,很方便的哦。我编写的是下面的提示语句:

 

下面将详细描述我的词法分析器。我的词法分析器分为两个主要部分,即SKIP TOKEN,关于这两个的详细介绍可以查阅Sun提供的帮助文档,这里就不再详细介绍了。

下面看一下我的关于SKIP的编写,如下图:

 

SKIP里的内容也就是我们所生成的词法分析器里自动跳过的内容,请注意红色框里面的内容,该内容是指跳过我们通常文件中的///**/的注释。(还好这两个正则表达式是系统自动生成的,不然不知道自己要分析到什么时候才能把这个搞定)

接下来就要定义我的关于CMMTOKEN,在我们的这个任务中,一共有这么几类TOKEN

Ÿ   CMM语言的关键字

Ÿ   CMM语言中出现的各种符号

Ÿ   表示标识符、整数、实数的Token

 

具体代码如下:

TOKEN:/*定义关键字*/

{

 <IF:"if">

 | <ELSE:"else">

 | <READ:"read">

 | <WRITE:"write">

 | <WHILE:"while">

 | <INT:"int">

 | <REAL:"real">

}

TOKEN:/* 定义整数 */

{

 <INTEGER_LITERAL:["1"-"9"](<DIGIT>)*>

}

TOKEN:/* 定义实数 */

{

 <REAL_LITERAL:(<DIGIT>)+

 | (<DIGIT>)+"."

 | (<DIGIT>)+"."(<DIGIT>)+

 | "."(<DIGIT>)+>

}

TOKEN:/*定义数字*/

{

 <#DIGIT:["0"-"9"]>

}

TOKEN:/*定义符号*/

{

 <UNDERSCORE:"_">

 | <COMMA:",">

 | <SEMICOLON:";">

 | <COLON:":">

 | <LEFTPARENTHESES:"(">

 | <RIGHTPARENTHESES:")">

 | <EQUAL:"=">

 | <PLUS:"+">

 | <MINUS:"-">

 | <TIMES:"*">

 | <DIVIDE:"/">

}

TOKEN:/* 定义标识符 */

{

 <IDENTIFIER:<LETTER>

 | <LETTER>(<LETTER>

 | <DIGIT>

 | <UNDERSCORE>)*(<LETTER>

 | <DIGIT>)+>

 | <#LETTER:["a"-"z", "A"-"Z"]>

}

下面在进行正式的关于CMM语言的语法规则的描述之前,先看一下我画的几个关于CMM语言的语法描述图:

 

 

 

 

 

 

 

 

 

上面的语法图描述语法规则比较直观、易读,语法图中用椭圆和圆圈中的英文字或字符表示终结符,用长方形内的中文字表示非终结符。

 

下面的关于正式的语法解析,就是完全依赖于上面的语法描述图来进行展开的。

要记住这样一句话:“JavaCC把文法识别完全地做到了函数过程中”,这个思想将贯穿在下面的代码之中。

首先第一个函数是start()函数,

 

这是我们整个程序的“切入点”,在上面的main()函数中,由

SimpleNode n = cmmJJTree.Start();

调用。

下面进入Procedure()这个函数,由它来进行语法的分析。注意上图的红色线圈,“!”表示当用户最后的输入是!时,程序运行进行语法分析,这里可以改成大家喜欢的字符或字符串,有大家的个人喜好而定。

 

根据上面(b)分程序的语法描述图,在进入Procedure()之后,程序有两种选择,要么进入Block(),要么进入Statement()函数,又因为用户可以输入多条语句,所以需要一个闭包将里面的内容包起来,所以Procedure()内主体应该是下面的代码:

 

 

下面再根据上面(c)语句的语法描述图,来分析一下Statement()中的具体内容。

在我们的CMM语言中,一共有6中语句,它们分别是:

 

Ÿ   变量的声明语句

Ÿ   变量的赋值语句

Ÿ   read语句

Ÿ   write语句

Ÿ   while语句

Ÿ   if-else语句

 

因此也就是说,在我们的Statement()函数体内,这六种情况都要考虑,每一种情况,用“|”分隔开来,同时在写的时候,不要忘记根据上面的语句的语法描述图。

 

变量的声明语句

         为了程序清晰期间,对于变量的声明,我又单独写了一个函数VarialbeDeclaration()来处理变量声明语句。因为根据CMM语言的语法规则,对于一种类型的变量的声明,可以一次声明一个变量,也可以一次声明多个变量,之间用“,”号隔开,所以必然在我们的VarialbeDeclaration()会出现一个关于,Identifier()的闭包,具体的代码如下:

 

变量的赋值语句

         对于变量的赋值,在我们CMM语言中,只有数值类型,即int real两种,所以变量的赋值应该是合法的标识符后面紧跟“=”,之后在紧跟合法的数值。(之间的空格已经在skip中过滤掉了)

 

read语句

         对于read语句,根据CMM语言的规则,read语句中所读的内容都必须是标识符,可以一次读一个,也可以一次读多个,中间用“,”分隔,同样和上面类似,也会出现一个闭包。

 

write语句

         write语句和read语句的内容基本一样,这里就不在叙述了。

 

while语句

         根据while语句的语法规则,while语句中应当包括对条件真假的判断,所以在while的实现中,引入了condition()这个函数,把它独立的抽象出来,作为一个函数,来进行判断。

具体的condition()代码如下:


 

If-else语句

         对于if-else语句,有两种情况,也就是有没有else这个分支部分,即有elseif语句和没有elseif语句。因此对于else部分,我们应该用“[]”将其括起来。同时在else语句里又可以有其他语句,所以也需要一个闭包。

 

综上所述,Statement()里的代码如下:

 

 

 

 

其他的关于Factor(), Term(), Expression()等函数,都可以根据开始给出的语法描述图一一写出,这里就不在叙述了。

 

JJTree

YACC等一样,JavaCC不直接支持分析树或抽象语法树(AST)的生成,如果要完成这些功能,用户需要自己编写相应的代码。幸运的是,JavaCC有一个扩充支持分析树或抽象语法树的生成,这就是JJTree

实际上,JJTree可以看成是JavaCC的预处理程序。它的输入文件的后缀是jjt。经它处理之后的jj文件就包含了生成分析树的能力。JJTree采用压栈出栈的方法生成分析树。当它碰到一个非终结符要展开时,它会做一个标记,然后开始分析展开后的各个非终结符(此时,分析子树作为节点压入栈中),之后从栈中弹出合适个数的节点(分析子树),并以被展开的非终结符生成一个新节点,以这个新节点为根节点,以刚弹出的节点为子节点生成新的分析子树(分析树)。

 

因为前面我们已经完成了我们的jj文件,在jj文件中已经完成了对于文法CMM的语言描述,所以这里在写jjt文件的时候,基本上可以把前面的代码copy过来就可以了。这样对于每一个函数,都会成为一棵树的一个结点,并以函数的名字作为结点的名字,如果不想让某个函数生成结点打印出来,只需要将该函数的名字后面加上#void即可。如果希望生成的结点的名字不是函数的名字,同样也可以通过#name(写在函数名之后)来改变。

 

最后输出的抽象语法树与下图类似:

 

七.遇到的困难

1.由于自己也是第一次写,也遇到了不少的问题,比如在一开始定义TOKEN的时候,没有注意到TOKEN定义的顺序,结果导致了莫名其妙的错误,明明自己的语法描述都是完全正确的,可是还是会报错:

Encountered " <IDENTIFIER> "a "" at line 1, column 5.

Was expecting:

    "=" ...

 

 

 

 

 

最后实在是在百思不得其解的情况下,请教了本班的WY同学,结果才知道,因为在程序执行的过程中,对于TOKEN,它会从上往下的一一查找,尤其是标识符和关键字的TOKEN的相对位置一定要正确,不然就会出现刚才那样的错误。

 

2.对于CMM的语句可以嵌套这个问题,括号只要配对出现,数量是没有限制的。一开始自己没有搞清楚,最后还是问了我们的助教QYY同学,发现需要添加一个叫Block的函数来区分,同时按照自己的理解,每一对{},就是一个Block,比如:

 

八.个人总结

当一开始下手的时候,实在是有些困难,网上也没有什么太多的详细的资料,自己只有从那个Sun的英文文档下手,可是面对那么多的英文的Html网页,实在是不知道什么时候才能理解,周围的同学也都没怎么看,搞得自己也看了几页就不想看了。不过还好,在十一的时候还是耐着性子把几个主要的网页看了,同时也看了一个讲jj文件的pdf,不过自己的急性实在是很差,时间隔的稍微一长,前面看的东西就都忘了,搞得好几个网页都看了二三遍才记住。做一件事就应该坚持到底,不要停了一段时间又重新再来,这样反反复复就是在浪费时间,趁着自己新鲜的记忆尚存的时候,一鼓作气把问题解决了,这才是最佳的处理问题的方法。

还有关于资料上的Examples,看来真的是一定要动手试一下,光看理论上的东西毕竟还是不行,一开始本以为看一下例子就可以了,这样反而节省时间,结果大错特错,反而到后来越看越不明白,还要回头来再把例子亲自动手操作一边,才能明白中间的奥秘。

To be honest,自己真是有的时候都想放弃了,看着一头雾水的英文文档,实在是让人难以接受,还好最后还是坚持了下来,人做事要有决心,别人能做到的我也可以,呵呵,当时自己没有放弃的原因很简单,就是因为班里有一个同学都做出来了,既然他能做出来,为什么我不能,就是这个简单而又可笑的原因,使我一路坚持了下来。(*^__^*) 嘻嘻……

同时在自己遇到困难的时候,也不要害怕什么,大胆的问同学或助教,也没有什么丢人的,毕竟自己遇到的问题很可能当时他们在做的时候也遇到了,经过他们的知道很可能我们的问题就迎刃而解了,不必自己在一个问题上纠缠而无法进展。当然这中间也存在着一个“度”的把握,什么时候该自己思考,什么时候问他人,如果一遇到问题就寻求他人的帮助,无疑这对我们的学习是不利的,在自己独立思考了之后而不得其解的情况下,再去求助于他人,也许这样我们可以收获的更多。

 

对于我目前的这个使用JAVACC,为 CMM 语言构造一个编译器,所能识别的语句和类型都还太少,都只是最基本的简单的语句(如变量的声明,变量的赋值,read语句,write语句,if-else语句,while语句),对于指针,结构等复杂的成分,由于时间的缘故,还有待添加。

毕竟这是自己独立完成的一个小小的编译器,还是小有成就感的,(*^__^*) 嘻嘻……

最后感谢WYQYY同学对我的耐心的帮助!

源文件下载:   jj文件和jjt文件

 

 

 

posted @ 2009-03-07 00:58 Gavin.Liu 阅读(...) 评论(...) 编辑 收藏