这篇主要举实际案例说明怎么使用antlr工具、利用antlr生成的Lexer、Parser、TreeParser代码,获取asttree。这些都是hive获取asttree的过程,理解了这些,再理解hive的asttree就很容易了



java 词法分析 go flex 词法分析java实现_java词法分析


程序设计语言入门小案例一般都用“Hello World”,在编译领域的入门往往选择计算器。而我们这次的小案例就更简单:一个只能计算【两】个【整数】相【加】的计算器,比如:计算1+1...

先来考虑一下如果何下手,在我们的计算器中,只接受输入整数和加号,其它的一概不理。这里说的是整数,如果输入了一个字母,我们一定是要拒绝的...对于这一块要写对应的词法规则,这个阶段的过程就叫做词法分析

输入满足词法的规则,并不代表我们就能接受,如果是【加号】【整数】【整数】或者【整数】【整数】【加号】这样的排列,我们是不能接受的,这里接受的合法语法是【整数】【加号】【整数】,因此我们需要在词法规则的基础上再定义语法规则,规则定输入满足这样句式的才算是合法... 我们把这个阶段叫做语法分析

弄清楚了我们的词法、语法规则后,我们需要以antlr的语言把这些写出来。

antlr语法博大精深,我觉得没必要钻的太深,实现这个案例,用不到antlr太多复杂的语法,只用看懂就行

1、使用antlrworks

双击antlrworks-1.5.1.jar启动antlrworks

File-->New


java 词法分析 go flex 词法分析java实现_java词法分析_02


选择ANTLR 3 Grammer (*.g) 新建Calculator语法文件


java 词法分析 go flex 词法分析java实现_用c++自制词法分析器_03


输入规则:


java 词法分析 go flex 词法分析java实现_隐含模块中的编译错误_04


ctrl+s 保存


java 词法分析 go flex 词法分析java实现_java词法分析_05


Antlr的语法文件通常会保存在一个 .g的文件中,我们的语法文件叫做 Caculator.g,保存在E:hiveanltrcalculator 目录 下

在E:hiveanltrcalculator目录 创建output目录

File-->Preferences设置Output path


java 词法分析 go flex 词法分析java实现_隐含模块中的编译错误_06


运行调试,点击图标中的小甲虫


java 词法分析 go flex 词法分析java实现_java词法分析_07


在弹出来的调试界面中,选择 text

输入 1+2


java 词法分析 go flex 词法分析java实现_设计sample语言的词法分析器_08


java 词法分析 go flex 词法分析java实现_用c++自制词法分析器_09


之后将会在output窗口看到被识别出来的token流,以及具体语法分析树和ASTTree的结果


java 词法分析 go flex 词法分析java实现_java词法分析_10


java 词法分析 go flex 词法分析java实现_隐含模块中的编译错误_11


到此,就是简单使用anltrworks用语法文件来解析输入数据的过程

2、使用eclipse

新建一个java项目,antlr-my

File-->New-->Java Project


java 词法分析 go flex 词法分析java实现_用c++自制词法分析器_12


在antlr-my项目下创建grammar、lib


java 词法分析 go flex 词法分析java实现_java词法分析_13


下载antlr-3.4-complete.jar hive中用的是antlr3.4

http://www.java2s.com/Code/Jar/a/Downloadantlr34completejar.htm

将antlr-3.4-complete.jar放在lib下面


java 词法分析 go flex 词法分析java实现_用c++自制词法分析器_14


创建语法文件:

在grammar上面右键, New -> Other,选择 ANTLR中的Combined Grammar


java 词法分析 go flex 词法分析java实现_设计sample语言的词法分析器_15


输入文件名Caculator


java 词法分析 go flex 词法分析java实现_java词法分析_16


设置antlr-my项目相关的antlr插件检查设置:

在antlr-my项目上右键 -->Properties-->ANTLR


java 词法分析 go flex 词法分析java实现_用c++自制词法分析器_17


java 词法分析 go flex 词法分析java实现_设计sample语言的词法分析器_18


java 词法分析 go flex 词法分析java实现_java 词法分析 go flex_19


java 词法分析 go flex 词法分析java实现_用c++自制词法分析器_20


以上设置完了之后,点ok

在Calculator.g文件中输入内容:


java 词法分析 go flex 词法分析java实现_隐含模块中的编译错误_21


点击Interpreter,在expr区域输入表达式1+2 点击执行按钮:


java 词法分析 go flex 词法分析java实现_隐含模块中的编译错误_22


我们可以看到下图中具体语法分析树的结果


java 词法分析 go flex 词法分析java实现_java 词法分析 go flex_23


3、用java来获取ASTTree

antlr自动生成了词法分析器CalculatorLexer.java和语法分析器 CalculatorParser.java的代码


java 词法分析 go flex 词法分析java实现_设计sample语言的词法分析器_24


创建测试类:TestCalculator.java


java 词法分析 go flex 词法分析java实现_用c++自制词法分析器_25


能够获取生成的ASTTree