dict/lookgrep.c

   1 /*
   2  * Copyright (C) 1994-1999, Index Data
   3  * All rights reserved.
   4  * Sebastian Hammer, Adam Dickmeiss
   5  *
   6  * $Log: lookgrep.c,v $
   7  * Revision 1.24  1999-05-26 07:49:12  adam
   8  * C++ compilation.
   9  *
  10  * Revision 1.23  1999/05/15 14:36:37  adam
  11  * Updated dictionary. Implemented "compression" of dictionary.
  12  *
  13  * Revision 1.22  1999/02/02 14:50:23  adam
  14  * Updated WIN32 code specific sections. Changed header.
  15  *
  16  * Revision 1.21  1998/06/24 12:16:12  adam
  17  * Support for relations on text operands. Open range support in
  18  * DFA module (i.e. [-j], [g-]).
  19  *
  20  * Revision 1.20  1997/10/27 14:33:03  adam
  21  * Moved towards generic character mapping depending on "structure"
  22  * field in abstract syntax file. Fixed a few memory leaks. Fixed
  23  * bug with negative integers when doing searches with relational
  24  * operators.
  25  *
  26  * Revision 1.19  1997/09/18 08:59:18  adam
  27  * Extra generic handle for the character mapping routines.
  28  *
  29  * Revision 1.18  1997/09/05 15:29:58  adam
  30  * Changed prototype for chr_map_input - added const.
  31  * Added support for C++, headers uses extern "C" for public definitions.
  32  *
  33  * Revision 1.17  1996/06/04 10:20:06  adam
  34  * Added support for character mapping.
  35  *
  36  * Revision 1.16  1996/05/24  14:46:04  adam
  37  * Added dict_grep_cmap function to define user-mapping in grep lookups.
  38  *
  39  * Revision 1.15  1996/03/20  09:35:18  adam
  40  * Function dict_lookup_grep got extra parameter, init_pos, which marks
  41  * from which position in pattern approximate pattern matching should occur.
  42  *
  43  * Revision 1.14  1996/02/02  13:43:51  adam
  44  * The public functions simply use char instead of Dict_char to represent
  45  * search strings. Dict_char is used internally only.
  46  *
  47  * Revision 1.13  1996/01/08  09:09:30  adam
  48  * Function dfa_parse got 'const' string argument.
  49  *
  50  * Revision 1.12  1995/12/11  09:04:48  adam
  51  * Bug fix: the lookup/scan/lookgrep didn't handle empty dictionary.
  52  *
  53  * Revision 1.11  1995/12/06  14:43:02  adam
  54  * New function: dict_delete.
  55  *
  56  * Revision 1.10  1995/11/16  17:00:44  adam
  57  * Changed stupid log.
  58  *
  59  * Revision 1.9  1995/10/27  13:58:09  adam
  60  * Makes 'Database unavailable' diagnostic.
  61  *
  62  * Revision 1.8  1995/10/19  14:57:21  adam
  63  * New feature: grep lookup saves length of longest prefix match.
  64  *
  65  * Revision 1.7  1995/10/17  18:01:22  adam
  66  * Userfunc may return non-zero in which case the the grepping stops
  67  * immediately.
  68  *
  69  * Revision 1.6  1995/10/09  16:18:32  adam
  70  * Function dict_lookup_grep got extra client data parameter.
  71  *
  72  * Revision 1.5  1995/09/14  11:52:59  adam
  73  * Grep handle function parameter info is const now.
  74  *
  75  * Revision 1.4  1995/01/24  16:01:02  adam
  76  * Added -ansi to CFLAGS.
  77  * Use new API of dfa module.
  78  *
  79  * Revision 1.3  1994/10/05  12:16:50  adam
  80  * Pagesize is a resource now.
  81  *
  82  * Revision 1.2  1994/10/04  12:08:07  adam
  83  * Some bug fixes and some optimizations.
  84  *
  85  * Revision 1.1  1994/10/03  17:23:04  adam
  86  * First version of dictionary lookup with regular expressions and errors.
  87  *
  88  */
  89
  90 #include <stdlib.h>
  91 #include <string.h>
  92 #include <stdio.h>
  93 #include <assert.h>
  94
  95 #include <dfa.h>
  96 #include <dict.h>
  97
  98 typedef unsigned MatchWord;
  99 #define WORD_BITS 32
 100 #define MAX_LENGTH 1024
 101
 102 typedef struct {
 103   int n;                 /* no of MatchWord needed */
 104   int range;             /* max no. of errors */
 105   int fact;              /* (range+1)*n */
 106   MatchWord *match_mask; /* match_mask */
 107 } MatchContext;
 108
 109 #define INLINE
 110
 111 static INLINE void set_bit (MatchContext *mc, MatchWord *m, int ch, int state)
 112 {
 113     int off = state & (WORD_BITS-1);
 114     int wno = state / WORD_BITS;
 115
 116     m[mc->n * ch + wno] |= 1<<off;
 117 }
 118
 119 static INLINE MatchWord get_bit (MatchContext *mc, MatchWord *m, int ch,
 120                                  int state)
 121 {
 122     int off = state & (WORD_BITS-1);
 123     int wno = state / WORD_BITS;
 124
 125     return m[mc->n * ch + wno] & (1<<off);
 126 }
 127
 128 static MatchContext *mk_MatchContext (struct DFA *dfa, int range)
 129 {
 130     MatchContext *mc = (MatchContext *) xmalloc (sizeof(*mc));
 131     int s;
 132
 133     mc->n = (dfa->no_states+WORD_BITS) / WORD_BITS;
 134     mc->range = range;
 135     mc->fact = (range+1)*mc->n;
 136     mc->match_mask = (MatchWord *) xcalloc (mc->n, sizeof(*mc->match_mask));
 137
 138     for (s = 0; s<dfa->no_states; s++)
 139         if (dfa->states[s]->rule_no)
 140             set_bit (mc, mc->match_mask, 0, s);
 141     return mc;
 142 }
 143
 144 static void rm_MatchContext (MatchContext **mc)
 145 {
 146     xfree ((*mc)->match_mask);
 147     xfree (*mc);
 148     *mc = NULL;
 149 }
 150
 151 static void mask_shift (MatchContext *mc, MatchWord *Rdst, MatchWord *Rsrc,
 152                    struct DFA *dfa, int ch)
 153 {
 154     int j, s = 0;
 155     MatchWord *Rsrc_p = Rsrc, mask;
 156
 157     for (j = 0; j<mc->n; j++)
 158         Rdst[j] = 0;
 159     while (1)
 160     {
 161         mask = *Rsrc_p++;
 162         for (j = 0; j<WORD_BITS/4; j++)
 163         {
 164             if (mask & 15)
 165             {
 166                 if (mask & 1)
 167                 {
 168                     struct DFA_state *state = dfa->states[s];
 169                     int i = state->tran_no;
 170                     while (--i >= 0)
 171                         if (ch >= state->trans[i].ch[0] &&
 172                             ch <= state->trans[i].ch[1])
 173                             set_bit (mc, Rdst, 0, state->trans[i].to);
 174                 }
 175                 if (mask & 2)
 176                 {
 177                     struct DFA_state *state = dfa->states[s+1];
 178                     int i = state->tran_no;
 179                     while (--i >= 0)
 180                         if (ch >= state->trans[i].ch[0] &&
 181                             ch <= state->trans[i].ch[1])
 182                             set_bit (mc, Rdst, 0, state->trans[i].to);
 183                 }
 184                 if (mask & 4)
 185                 {
 186                     struct DFA_state *state = dfa->states[s+2];
 187                     int i = state->tran_no;
 188                     while (--i >= 0)
 189                         if (ch >= state->trans[i].ch[0] &&
 190                             ch <= state->trans[i].ch[1])
 191                             set_bit (mc, Rdst, 0, state->trans[i].to);
 192                 }
 193                 if (mask & 8)
 194                 {
 195                     struct DFA_state *state = dfa->states[s+3];
 196                     int i = state->tran_no;
 197                     while (--i >= 0)
 198                         if (ch >= state->trans[i].ch[0] &&
 199                             ch <= state->trans[i].ch[1])
 200                             set_bit (mc, Rdst, 0, state->trans[i].to);
 201                 }
 202             }
 203             s += 4;
 204             if (s >= dfa->no_states)
 205                 return;
 206             mask >>= 4;
 207         }
 208     }
 209 }
 210
 211 static void shift (MatchContext *mc, MatchWord *Rdst, MatchWord *Rsrc,
 212                    struct DFA *dfa)
 213 {
 214     int j, s = 0;
 215     MatchWord *Rsrc_p = Rsrc, mask;
 216     for (j = 0; j<mc->n; j++)
 217         Rdst[j] = 0;
 218     while (1)
 219     {
 220         mask = *Rsrc_p++;
 221         for (j = 0; j<WORD_BITS/4; j++)
 222         {
 223             if (mask & 15)
 224             {
 225                 if (mask & 1)
 226                 {
 227                     struct DFA_state *state = dfa->states[s];
 228                     int i = state->tran_no;
 229                     while (--i >= 0)
 230                         set_bit (mc, Rdst, 0, state->trans[i].to);
 231                 }
 232                 if (mask & 2)
 233                 {
 234                     struct DFA_state *state = dfa->states[s+1];
 235                     int i = state->tran_no;
 236                     while (--i >= 0)
 237                         set_bit (mc, Rdst, 0, state->trans[i].to);
 238                 }
 239                 if (mask & 4)
 240                 {
 241                     struct DFA_state *state = dfa->states[s+2];
 242                     int i = state->tran_no;
 243                     while (--i >= 0)
 244                         set_bit (mc, Rdst, 0, state->trans[i].to);
 245                 }
 246                 if (mask & 8)
 247                 {
 248                     struct DFA_state *state = dfa->states[s+3];
 249                     int i = state->tran_no;
 250                     while (--i >= 0)
 251                         set_bit (mc, Rdst, 0, state->trans[i].to);
 252                 }
 253             }
 254             s += 4;
 255             if (s >= dfa->no_states)
 256                 return;
 257             mask >>= 4;
 258         }
 259     }
 260 }
 261
 262 static void or (MatchContext *mc, MatchWord *Rdst,
 263                 MatchWord *Rsrc1, MatchWord *Rsrc2)
 264 {
 265     int i;
 266     for (i = 0; i<mc->n; i++)
 267         Rdst[i] = Rsrc1[i] | Rsrc2[i];
 268 }
 269
 270 static INLINE int move (MatchContext *mc, MatchWord *Rj1, MatchWord *Rj,
 271                         Dict_char ch, struct DFA *dfa, MatchWord *Rtmp,
 272                         int range)
 273 {
 274     int d;
 275     MatchWord *Rtmp_2 = Rtmp + mc->n;
 276
 277     mask_shift (mc, Rj1, Rj, dfa, ch);
 278     for (d = 1; d <= mc->range; d++)
 279     {
 280         or (mc, Rtmp, Rj, Rj1);                         /* 2,3 */
 281
 282         shift (mc, Rtmp_2, Rtmp, dfa);
 283
 284         mask_shift (mc, Rtmp, Rj+mc->n, dfa, ch);      /* 1 */
 285
 286         or (mc, Rtmp, Rtmp_2, Rtmp);                    /* 1,2,3*/
 287
 288         Rj1 += mc->n;
 289
 290         or (mc, Rj1, Rtmp, Rj);                         /* 1,2,3,4 */
 291
 292         Rj += mc->n;
 293     }
 294     return 1;
 295
 296 }
 297
 298
 299 static int dict_grep (Dict dict, Dict_ptr ptr, MatchContext *mc,
 300                       MatchWord *Rj, int pos, void *client,
 301                       int (*userfunc)(char *, const char *, void *),
 302                       Dict_char *prefix, struct DFA *dfa,
 303                       int *max_pos, int init_pos)
 304 {
 305     int lo, hi, d;
 306     void *p;
 307     short *indxp;
 308     char *info;
 309
 310     dict_bf_readp (dict->dbf, ptr, &p);
 311     lo = 0;
 312     hi = DICT_nodir(p)-1;
 313     indxp = (short*) ((char*) p+DICT_bsize(p)-sizeof(short));
 314
 315     while (lo <= hi)
 316     {
 317         if (indxp[-lo] > 0)
 318         {
 319             /* string (Dict_char *) DICT_EOS terminated */
 320             /* unsigned char        length of information */
 321             /* char *               information */
 322             int j;
 323             int was_match = 0;
 324             info = (char*)p + indxp[-lo];
 325             for (j=0; ; j++)
 326             {
 327                 Dict_char ch;
 328                 MatchWord *Rj0 =    Rj + j    *mc->fact;
 329                 MatchWord *Rj1 =    Rj + (j+1)*mc->fact;
 330                 MatchWord *Rj_tmp = Rj + (j+2)*mc->fact;
 331                 int range;
 332
 333                 memcpy (&ch, info+j*sizeof(Dict_char), sizeof(Dict_char));
 334                 prefix[pos+j] = ch;
 335                 if (pos+j > *max_pos)
 336                     *max_pos = pos+j;
 337                 if (ch == DICT_EOS)
 338                 {
 339                     if (was_match)
 340                         if ((*userfunc)((char*) prefix,
 341                                         info+(j+1)*sizeof(Dict_char), client))
 342                             return 1;
 343                     break;
 344                 }
 345                 if (pos+j >= init_pos)
 346                     range = mc->range;
 347                 else
 348                     range = 0;
 349                 move (mc, Rj1, Rj0, ch, dfa, Rj_tmp, range);
 350                 for (d = mc->n; --d >= 0; )
 351                     if (Rj1[range*mc->n + d])
 352                         break;
 353                 if (d < 0)
 354                     break;
 355                 was_match = 0;
 356                 for (d = mc->n; --d >= 0; )
 357                     if (Rj1[range*mc->n + d] & mc->match_mask[d])
 358                     {
 359                         was_match = 1;
 360                         break;
 361                     }
 362             }
 363         }
 364         else
 365         {
 366             MatchWord *Rj1 =    Rj+  mc->fact;
 367             MatchWord *Rj_tmp = Rj+2*mc->fact;
 368             Dict_char ch;
 369             int range;
 370
 371             /* Dict_ptr             subptr */
 372             /* Dict_char            sub char */
 373             /* unsigned char        length of information */
 374             /* char *               information */
 375             info = (char*)p - indxp[-lo];
 376             memcpy (&ch, info+sizeof(Dict_ptr), sizeof(Dict_char));
 377             prefix[pos] = ch;
 378
 379             if (pos > *max_pos)
 380                 *max_pos = pos;
 381             if (pos >= init_pos)
 382                 range = mc->range;
 383             else
 384                 range = 0;
 385             move (mc, Rj1, Rj, ch, dfa, Rj_tmp, range);
 386             for (d = mc->n; --d >= 0; )
 387                 if (Rj1[range*mc->n + d])
 388                     break;
 389             if (d >= 0)
 390             {
 391                 Dict_ptr subptr;
 392                 if (info[sizeof(Dict_ptr)+sizeof(Dict_char)])
 393                 {
 394                     for (d = mc->n; --d >= 0; )
 395                         if (Rj1[range*mc->n + d] & mc->match_mask[d])
 396                         {
 397                             prefix[pos+1] = DICT_EOS;
 398                             if ((*userfunc)((char*) prefix,
 399                                             info+sizeof(Dict_ptr)+
 400                                             sizeof(Dict_char), client))
 401                                 return 1;
 402                             break;
 403                         }
 404                 }
 405                 memcpy (&subptr, info, sizeof(Dict_ptr));
 406                 if (subptr)
 407                 {
 408                     if (dict_grep (dict, subptr, mc, Rj1, pos+1,
 409                                    client, userfunc, prefix, dfa, max_pos,
 410                                    init_pos))
 411                         return 1;
 412                     dict_bf_readp (dict->dbf, ptr, &p);
 413                     indxp = (short*) ((char*) p+DICT_bsize(p)-sizeof(short));
 414                 }
 415             }
 416         }
 417         lo++;
 418     }
 419     return 0;
 420 }
 421
 422 int dict_lookup_grep (Dict dict, const char *pattern, int range, void *client,
 423                       int *max_pos, int init_pos,
 424                       int (*userfunc)(char *name, const char *info,
 425                                       void *client))
 426 {
 427     MatchWord *Rj;
 428     Dict_char prefix[MAX_LENGTH+1];
 429     const char *this_pattern = pattern;
 430     MatchContext *mc;
 431     struct DFA *dfa = dfa_init();
 432     int i, d;
 433
 434 #if 0
 435     debug_dfa_trav = 1;
 436     debug_dfa_tran = 1;
 437     debug_dfa_followpos = 1;
 438     dfa_verbose = 1;
 439 #endif
 440
 441     logf (LOG_DEBUG, "dict_lookup_grep range=%d", range);
 442     for (i = 0; pattern[i]; i++)
 443     {
 444         logf (LOG_DEBUG, " %3d  %c", pattern[i],
 445               (pattern[i] > ' ' && pattern[i] < 127) ? pattern[i] : '?');
 446     }
 447
 448     dfa_set_cmap (dfa, dict->grep_cmap_data, dict->grep_cmap);
 449
 450     i = dfa_parse (dfa, &this_pattern);
 451     if (i || *this_pattern)
 452     {
 453         dfa_delete (&dfa);
 454         return -1;
 455     }
 456     dfa_mkstate (dfa);
 457
 458     mc = mk_MatchContext (dfa, range);
 459
 460     Rj = (MatchWord *) xcalloc ((MAX_LENGTH+1) * mc->n, sizeof(*Rj));
 461
 462     set_bit (mc, Rj, 0, 0);
 463     for (d = 1; d<=mc->range; d++)
 464     {
 465         int s;
 466         memcpy (Rj + mc->n * d, Rj + mc->n * (d-1), mc->n * sizeof(*Rj));
 467         for (s = 0; s<dfa->no_states; s++)
 468         {
 469             if (get_bit (mc, Rj, d-1, s))
 470             {
 471                 struct DFA_state *state = dfa->states[s];
 472                 int i = state->tran_no;
 473                 while (--i >= 0)
 474                     set_bit (mc, Rj, d, state->trans[i].to);
 475             }
 476         }
 477     }
 478     *max_pos = 0;
 479     if (dict->head.root)
 480         i = dict_grep (dict, dict->head.root, mc, Rj, 0, client,
 481                        userfunc, prefix,
 482                        dfa, max_pos, init_pos);
 483     else
 484         i = 0;
 485     logf (LOG_DEBUG, "max_pos = %d", *max_pos);
 486     dfa_delete (&dfa);
 487     xfree (Rj);
 488     rm_MatchContext (&mc);
 489     return i;
 490 }
 491
 492 void dict_grep_cmap (Dict dict, void *vp,
 493                      const char **(*cmap)(void *vp, const char **from, int len))
 494 {
 495     dict->grep_cmap = cmap;
 496     dict->grep_cmap_data = vp;
 497 }