先给出以下两个字符串:
1、for (int i = 0; i< b.size(); i++) {
2、do something in English
从人工角度看,很显然第一个是Java代码,第二个是英语;那么在Java中如何通过代码检测第一个是Java代码,第二是英语呢?
第一个Java代码可能无法解析的,因为它并不是一个完整的方法或声明的表达式;下面为这一问题提供了解决方案。
解决的基本思路是将字符串转换为一组的令牌,例如,上面的代码行可能会成为“Java关键字、分隔符、运营商、标识符,……”;然后我们可以用英语简单的规则来分析代码。
实现代码如下:
import java.util.LinkedList;
import java.util.regex.Matcher;
import java.util.regex.Pattern;
public class Tokenizer {
private class TokenInfo {
public final Pattern regex;
public final int token;
public TokenInfo(Pattern regex, int token) {
super();
this.regex = regex;
this.token = token;
}
}
public class Token {
public final int token;
public final String sequence;
public Token(int token, String sequence) {
super();
this.token = token;
this.sequence = sequence;
}
}
private LinkedList<TokenInfo> tokenInfos;
private LinkedList<Token> tokens;
public Tokenizer() {
tokenInfos = new LinkedList<TokenInfo>();
tokens = new LinkedList<Token>();
}
public void add(String regex, int token) {
tokenInfos
.add(new TokenInfo(Pattern.compile("^(" + regex + ")"), token));
}
public void tokenize(String str) {
String s = str.trim();
tokens.clear();
while (!s.equals("")) {
//System.out.println(s);
boolean match = false;
for (TokenInfo info : tokenInfos) {
Matcher m = info.regex.matcher(s);
if (m.find()) {
match = true;
String tok = m.group().trim();
s = m.replaceFirst("").trim();
tokens.add(new Token(info.token, tok));
break;
}
}
if (!match){
//throw new ParserException("Unexpected character in input: " + s);
tokens.clear();
System.out.println("Unexpected character in input: " + s);
return;
}
}
}
public LinkedList<Token> getTokens() {
return tokens;
}
public String getTokensString() {
StringBuilder sb = new StringBuilder();
for (Tokenizer.Token tok : tokens) {
sb.append(tok.token);
}
return sb.toString();
}
}
我们可以得到Java关键字、分隔符、运营商、标识符,等,如果我们分配一个值映射到令牌,一串英语可以被转换成一个字符串的令牌。
实现代码如下:
import java.io.IOException;
import java.sql.SQLException;
public class EnglishOrCode {
private static Tokenizer tokenizer = null;
private static String keyStr="";
public static void initializeTokenizer() {
tokenizer = new Tokenizer();
tokenizer.add(keyStr, 1);
tokenizer.add("\(|\)|\{|\}|\[|\]|;|,|\.|=|>|<|!|~|" + "\?|:|==|<=|>=|!=|&&|\|\||\+
+|--|"
+ "\+|-|\*|/|&|\||\^|%|'|"| | |\$|\#", 2);
tokenizer.add("[0-9]+", 3);
tokenizer.add("[a-zA-Z][a-zA-Z0-9_]*", 4);
tokenizer.add("@", 4);
}
public static void main(String[] args) throws SQLException, ClassNotFoundException, IOException {
initializeTokenizer();
String s = "do something in English";
if (isEnglish(s)) {
System.out.println("English");
} else {
System.out.println("Java Code");
}
s = "for (int i = 0; i < b.size(); i++) {";
if (isEnglish(s)) {
System.out.println("英文");
} else {
System.out.println("Java代码");
}
}
private static boolean isEnglish(String replaced) {
tokenizer.tokenize(replaced);
String patternString = tokenizer.getTokensString();
if (patternString.matches(".*444.*") || patternString.matches("4+")) {
return true;
} else {
return false;
}
}
}
最后输出:
英文