Add "make test" rule.
[cql-java-moved-to-github.git] / src / org / z3950 / zing / cql / CQLParser.java
index 5aa861f..6338d29 100644 (file)
@@ -1,4 +1,4 @@
-// $Id: CQLParser.java,v 1.17 2002-11-06 22:03:58 mike Exp $
+// $Id: CQLParser.java,v 1.31 2007-06-29 10:25:38 mike Exp $
 
 package org.z3950.zing.cql;
 import java.io.IOException;
@@ -12,7 +12,7 @@ import java.io.FileNotFoundException;
 /**
  * Compiles CQL strings into parse trees of CQLNode subtypes.
  *
- * @version    $Id: CQLParser.java,v 1.17 2002-11-06 22:03:58 mike Exp $
+ * @version    $Id: CQLParser.java,v 1.31 2007-06-29 10:25:38 mike Exp $
  * @see                <A href="http://zing.z3950.org/cql/index.html"
  *                     >http://zing.z3950.org/cql/index.html</A>
  */
@@ -34,8 +34,10 @@ public class CQLParser {
      * data structure) or, more often, simply rendered out in the
      * desired form using one of the back-ends.  <TT>toCQL()</TT>
      * returns a decompiled CQL query equivalent to the one that was
-     * compiled in the first place; and <TT>toXCQL()</TT> returns an
-     * XML snippet representing the query.
+     * compiled in the first place; <TT>toXCQL()</TT> returns an
+     * XML snippet representing the query; and <TT>toPQF()</TT>
+     * returns the query rendered in Index Data's Prefix Query
+     * Format.
      *
      * @param cql      The query
      * @return         A CQLNode object which is the root of a parse
@@ -45,39 +47,36 @@ public class CQLParser {
        lexer = new CQLLexer(cql, LEXDEBUG);
 
        lexer.nextToken();
-       debug("about to parse_query()");
-       CQLNode root = parse_query("srw.serverChoice", new CQLRelation("scr"));
-       // ### "scr" above should arguably be "="
+       debug("about to parseQuery()");
+       CQLNode root = parseQuery("srw.serverChoice", new CQLRelation("scr"));
        if (lexer.ttype != lexer.TT_EOF)
            throw new CQLParseException("junk after end: " + lexer.render());
 
        return root;
     }
 
-    private CQLNode parse_query(String qualifier, CQLRelation relation)
+    private CQLNode parseQuery(String index, CQLRelation relation)
        throws CQLParseException, IOException {
-       debug("in parse_query()");
-
-       CQLNode term = parse_term(qualifier, relation);
-       while (lexer.ttype != lexer.TT_EOF &&
-              lexer.ttype != ')') {
-           if (lexer.ttype == lexer.TT_AND) {
-               match(lexer.TT_AND);
-               CQLNode term2 = parse_term(qualifier, relation);
-               term = new CQLAndNode(term, term2);
-           } else if (lexer.ttype == lexer.TT_OR) {
-               match(lexer.TT_OR);
-               CQLNode term2 = parse_term(qualifier, relation);
-               term = new CQLOrNode(term, term2);
-           } else if (lexer.ttype == lexer.TT_NOT) {
-               match(lexer.TT_NOT);
-               CQLNode term2 = parse_term(qualifier, relation);
-               term = new CQLNotNode(term, term2);
+       debug("in parseQuery()");
+
+       CQLNode term = parseTerm(index, relation);
+       while (lexer.ttype != lexer.TT_EOF && lexer.ttype != ')') {
+           if (lexer.ttype == lexer.TT_AND ||
+               lexer.ttype == lexer.TT_OR ||
+               lexer.ttype == lexer.TT_NOT) {
+               int type = lexer.ttype;
+               String val = lexer.sval;
+               match(type);
+               ModifierSet ms = gatherModifiers(val);
+               CQLNode term2 = parseTerm(index, relation);
+               term = ((type == lexer.TT_AND) ? new CQLAndNode(term, term2, ms) :
+                       (type == lexer.TT_OR)  ? new CQLOrNode (term, term2, ms) :
+                                                new CQLNotNode(term, term2, ms));
            } else if (lexer.ttype == lexer.TT_PROX) {
-               match(lexer.TT_PROX);
+               match(lexer.ttype);
                CQLProxNode proxnode = new CQLProxNode(term);
                gatherProxParameters(proxnode);
-               CQLNode term2 = parse_term(qualifier, relation);
+               CQLNode term2 = parseTerm(index, relation);
                proxnode.addSecondSubterm(term2);
                term = (CQLNode) proxnode;
            } else {
@@ -90,59 +89,93 @@ public class CQLParser {
        return term;
     }
 
-    private CQLNode parse_term(String qualifier, CQLRelation relation)
+    private ModifierSet gatherModifiers(String base)
        throws CQLParseException, IOException {
-       debug("in parse_term()");
+       debug("in gatherModifiers()");
+
+       ModifierSet ms = new ModifierSet(base);
+       while (lexer.ttype == '/') {
+           match('/');
+           if (lexer.ttype != lexer.TT_WORD)
+               throw new CQLParseException("expected modifier, "
+                                           + "got " + lexer.render());
+           String type = lexer.sval.toLowerCase();
+           match(lexer.ttype);
+           if (!isRelation()) {
+               // It's a simple modifier consisting of type only
+               ms.addModifier(type);
+           } else {
+               // It's a complex modifier of the form type=value
+               String comparision = lexer.render(lexer.ttype, false);
+               match(lexer.ttype);
+
+               // Yuck
+               String value = lexer.ttype == lexer.TT_WORD ? lexer.sval :
+                   (double) lexer.nval == (int) lexer.nval ?
+                   new Integer((int) lexer.nval).toString() :
+                   new Double((double) lexer.nval).toString();
+
+               matchSymbol("modifier value");
+               ms.addModifier(type, comparision, value);
+           }
+       }
+
+       return ms;
+    }
+
+    private CQLNode parseTerm(String index, CQLRelation relation)
+       throws CQLParseException, IOException {
+       debug("in parseTerm()");
 
        String word;
        while (true) {
            if (lexer.ttype == '(') {
                debug("parenthesised term");
                match('(');
-               CQLNode expr = parse_query(qualifier, relation);
+               CQLNode expr = parseQuery(index, relation);
                match(')');
                return expr;
-           } else if (lexer.ttype != lexer.TT_WORD &&
-                      lexer.ttype != lexer.TT_NUMBER &&
-                      lexer.ttype != '"') {
-               throw new CQLParseException("expected qualifier or term, " +
-                                           "got " + lexer.render());
+           } else if (lexer.ttype == '>') {
+               match('>');
+               return parsePrefix(index, relation);
            }
 
            debug("non-parenthesised term");
-           if (lexer.ttype == lexer.TT_NUMBER) {
-               word = lexer.render();
-           } else {
-               word = lexer.sval;
-           }
-           match(lexer.ttype);
-           if (!isBaseRelation())
+           word = matchSymbol("index or term");
+           if (!isRelation() && lexer.ttype != lexer.TT_WORD)
                break;
 
-           qualifier = word;
-           relation = new CQLRelation(lexer.render(lexer.ttype, false));
+           index = word;
+           String relstr = (lexer.ttype == lexer.TT_WORD ?
+                            lexer.sval : lexer.render(lexer.ttype, false));
+           relation = new CQLRelation(relstr);
            match(lexer.ttype);
-
-           while (lexer.ttype == '/') {
-               match('/');
-               if (lexer.ttype != lexer.TT_RELEVANT &&
-                   lexer.ttype != lexer.TT_FUZZY &&
-                   lexer.ttype != lexer.TT_STEM)
-                   throw new CQLParseException("expected relation modifier, "
-                                               + "got " + lexer.render());
-               relation.addModifier(lexer.sval);
-               match(lexer.ttype);
-           }
-
-           debug("qualifier='" + qualifier + ", " +
+           ModifierSet ms = gatherModifiers(relstr);
+           relation.setModifiers(ms);
+           debug("index='" + index + ", " +
                  "relation='" + relation.toCQL() + "'");
        }
 
-       CQLTermNode node = new CQLTermNode(qualifier, relation, word);
+       CQLTermNode node = new CQLTermNode(index, relation, word);
        debug("made term node " + node.toCQL());
        return node;
     }
 
+    private CQLNode parsePrefix(String index, CQLRelation relation)
+       throws CQLParseException, IOException {
+       debug("prefix mapping");
+
+       String name = null;
+       String identifier = matchSymbol("prefix-name");
+       if (lexer.ttype == '=') {
+           match('=');
+           name = identifier;
+           identifier = matchSymbol("prefix-identifer");
+       }
+       CQLNode term = parseQuery(index, relation);
+       return new CQLPrefixNode(name, identifier, term);
+    }
+
     private void gatherProxParameters(CQLProxNode node)
        throws CQLParseException, IOException {
        for (int i = 0; i < 4; i++) {
@@ -166,10 +199,10 @@ public class CQLParser {
 
     private void gatherProxRelation(CQLProxNode node)
        throws CQLParseException, IOException {
-       if (!isProxRelation())
+       if (!isRelation())
            throw new CQLParseException("expected proximity relation, got " +
                                        lexer.render());
-       node.addModifier("relation", lexer.render(lexer.ttype, false));
+       node.addModifier("relation", null, lexer.render(lexer.ttype, false));
        match(lexer.ttype);
        debug("gPR matched " + lexer.render(lexer.ttype, false));
     }
@@ -179,7 +212,7 @@ public class CQLParser {
        if (lexer.ttype != lexer.TT_NUMBER)
            throw new CQLParseException("expected proximity distance, got " +
                                        lexer.render());
-       node.addModifier("distance", lexer.render(lexer.ttype, false));
+       node.addModifier("distance", null, lexer.render(lexer.ttype, false));
        match(lexer.ttype);
        debug("gPD matched " + lexer.render(lexer.ttype, false));
     }
@@ -192,7 +225,7 @@ public class CQLParser {
            lexer.ttype != lexer.TT_ELEMENT)
            throw new CQLParseException("expected proximity unit, got " +
                                        lexer.render());
-       node.addModifier("unit", lexer.render());
+       node.addModifier("unit", null, lexer.render());
        match(lexer.ttype);
     }
 
@@ -202,21 +235,13 @@ public class CQLParser {
            lexer.ttype != lexer.TT_UNORDERED)
            throw new CQLParseException("expected proximity ordering, got " +
                                        lexer.render());
-       node.addModifier("ordering", lexer.render());
+       node.addModifier("ordering", null, lexer.render());
        match(lexer.ttype);
     }
 
-    private boolean isBaseRelation() {
-       debug("isBaseRelation: checking ttype=" + lexer.ttype +
-             " (" + lexer.render() + ")");
-       return (isProxRelation() ||
-               lexer.ttype == lexer.TT_ANY ||
-               lexer.ttype == lexer.TT_ALL ||
-               lexer.ttype == lexer.TT_EXACT);
-    }
-
-    private boolean isProxRelation() {
-       debug("isProxRelation: checking ttype=" + lexer.ttype +
+    // Checks for a relation that may be used inside a prox operator
+    private boolean isRelation() {
+       debug("isRelation: checking ttype=" + lexer.ttype +
              " (" + lexer.render() + ")");
        return (lexer.ttype == '<' ||
                lexer.ttype == '>' ||
@@ -239,6 +264,38 @@ public class CQLParser {
              " (tmp=" + tmp + ")");
     }
 
+    private String matchSymbol(String expected)
+       throws CQLParseException, IOException {
+
+       debug("in matchSymbol()");
+       if (lexer.ttype == lexer.TT_WORD ||
+           lexer.ttype == lexer.TT_NUMBER ||
+           lexer.ttype == '"' ||
+           // The following is a complete list of keywords.  Because
+           // they're listed here, they can be used unquoted as
+           // indexes, terms, prefix names and prefix identifiers.
+           // ### Instead, we should ask the lexer whether what we
+           // have is a keyword, and let the knowledge reside there.
+           lexer.ttype == lexer.TT_AND ||
+           lexer.ttype == lexer.TT_OR ||
+           lexer.ttype == lexer.TT_NOT ||
+           lexer.ttype == lexer.TT_PROX ||
+           lexer.ttype == lexer.TT_pWORD ||
+           lexer.ttype == lexer.TT_SENTENCE ||
+           lexer.ttype == lexer.TT_PARAGRAPH ||
+           lexer.ttype == lexer.TT_ELEMENT ||
+           lexer.ttype == lexer.TT_ORDERED ||
+           lexer.ttype == lexer.TT_UNORDERED) {
+           String symbol = (lexer.ttype == lexer.TT_NUMBER) ?
+               lexer.render() : lexer.sval;
+           match(lexer.ttype);
+           return symbol;
+       }
+
+       throw new CQLParseException("expected " + expected + ", " +
+                                   "got " + lexer.render());
+    }
+
 
     /**
      * Simple test-harness for the CQLParser class.
@@ -299,11 +356,16 @@ public class CQLParser {
        char mode = 'x';        // x=XCQL, c=CQL, p=PQF
        String pfile = null;
 
-       Vector argv = new Vector();
+       Vector<String> argv = new Vector<String>();
        for (int i = 0; i < args.length; i++) {
            argv.add(args[i]);
        }
 
+       if (argv.size() > 0 && argv.get(0).equals("-d")) {
+           DEBUG = true;
+           argv.remove(0);
+       }
+
        if (argv.size() > 0 && argv.get(0).equals("-c")) {
            mode = 'c';
            argv.remove(0);
@@ -315,8 +377,7 @@ public class CQLParser {
        }
 
        if (argv.size() > 1) {
-           System.err.println(
-               "Usage: CQLParser [-c] [-p <pqf-properties> [<CQL-query>]");
+           System.err.println("Usage: CQLParser [-d] [-c] [-p <pqf-properties> [<CQL-query>]");
            System.err.println("If unspecified, query is read from stdin");
            System.exit(1);
        }
@@ -361,14 +422,13 @@ public class CQLParser {
                f.close();
                System.out.println(root.toPQF(config));
            } else {
-               System.out.println(root.toXCQL(0));
-               // ### should be print (no ~ln)
+               System.out.print(root.toXCQL(0));
            }
        } catch (IOException ex) {
            System.err.println("Can't render query: " + ex.getMessage());
            System.exit(5);
-       } catch (UnknownQualifierException ex) {
-           System.err.println("Unknown qualifier: " + ex.getMessage());
+       } catch (UnknownIndexException ex) {
+           System.err.println("Unknown index: " + ex.getMessage());
            System.exit(6);
        } catch (UnknownRelationException ex) {
            System.err.println("Unknown relation: " + ex.getMessage());