ftepp.c

   1 /*
   2  * Copyright (C) 2012
   3  *     Wolfgang Bumiller
   4  *
   5  * Permission is hereby granted, free of charge, to any person obtaining a copy of
   6  * this software and associated documentation files (the "Software"), to deal in
   7  * the Software without restriction, including without limitation the rights to
   8  * use, copy, modify, merge, publish, distribute, sublicense, and/or sell copies
   9  * of the Software, and to permit persons to whom the Software is furnished to do
  10  * so, subject to the following conditions:
  11  *
  12  * The above copyright notice and this permission notice shall be included in all
  13  * copies or substantial portions of the Software.
  14  *
  15  * THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS OR
  16  * IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY,
  17  * FITNESS FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT. IN NO EVENT SHALL THE
  18  * AUTHORS OR COPYRIGHT HOLDERS BE LIABLE FOR ANY CLAIM, DAMAGES OR OTHER
  19  * LIABILITY, WHETHER IN AN ACTION OF CONTRACT, TORT OR OTHERWISE, ARISING FROM,
  20  * OUT OF OR IN CONNECTION WITH THE SOFTWARE OR THE USE OR OTHER DEALINGS IN THE
  21  * SOFTWARE.
  22  */
  23 #include "gmqcc.h"
  24 #include "lexer.h"
  25
  26 typedef struct {
  27     bool on;
  28     bool was_on;
  29     bool had_else;
  30 } ppcondition;
  31
  32 typedef struct {
  33     int   token;
  34     char *value;
  35     /* a copy from the lexer */
  36     union {
  37         vector v;
  38         int    i;
  39         double f;
  40         int    t; /* type */
  41     } constval;
  42 } pptoken;
  43
  44 typedef struct {
  45     lex_ctx ctx;
  46
  47     char   *name;
  48     char  **params;
  49     /* yes we need an extra flag since `#define FOO x` is not the same as `#define FOO() x` */
  50     bool    has_params;
  51
  52     pptoken **output;
  53 } ppmacro;
  54
  55 typedef struct {
  56     lex_file    *lex;
  57     int          token;
  58     bool         newline;
  59     unsigned int errors;
  60
  61     ppcondition *conditions;
  62     ppmacro    **macros;
  63 } ftepp_t;
  64
  65 #define ftepp_tokval(f) ((f)->lex->tok.value)
  66 #define ftepp_ctx(f)    ((f)->lex->tok.ctx)
  67
  68 static void ftepp_errorat(ftepp_t *ftepp, lex_ctx ctx, const char *fmt, ...)
  69 {
  70     va_list ap;
  71
  72     ftepp->errors++;
  73
  74     va_start(ap, fmt);
  75     con_vprintmsg(LVL_ERROR, ctx.file, ctx.line, "error", fmt, ap);
  76     va_end(ap);
  77 }
  78
  79 static void ftepp_error(ftepp_t *ftepp, const char *fmt, ...)
  80 {
  81     va_list ap;
  82
  83     ftepp->errors++;
  84
  85     va_start(ap, fmt);
  86     con_vprintmsg(LVL_ERROR, ftepp->lex->tok.ctx.file, ftepp->lex->tok.ctx.line, "error", fmt, ap);
  87     va_end(ap);
  88 }
  89
  90 static pptoken *pptoken_make(ftepp_t *ftepp)
  91 {
  92     pptoken *token = (pptoken*)mem_a(sizeof(pptoken));
  93     token->token = ftepp->token;
  94     if (token->token == TOKEN_WHITE)
  95         token->value = util_strdup(" ");
  96     else
  97         token->value = util_strdup(ftepp_tokval(ftepp));
  98     memcpy(&token->constval, &ftepp->lex->tok.constval, sizeof(token->constval));
  99     return token;
 100 }
 101
 102 static void pptoken_delete(pptoken *self)
 103 {
 104     mem_d(self->value);
 105     mem_d(self);
 106 }
 107
 108 static ppmacro *ppmacro_new(lex_ctx ctx, const char *name)
 109 {
 110     ppmacro *macro = (ppmacro*)mem_a(sizeof(ppmacro));
 111     memset(macro, 0, sizeof(*macro));
 112     macro->name = util_strdup(name);
 113     return macro;
 114 }
 115
 116 static void ppmacro_delete(ppmacro *self)
 117 {
 118     size_t i;
 119     for (i = 0; i < vec_size(self->params); ++i)
 120         mem_d(self->params[i]);
 121     vec_free(self->params);
 122     for (i = 0; i < vec_size(self->output); ++i)
 123         pptoken_delete(self->output[i]);
 124     vec_free(self->output);
 125     mem_d(self->name);
 126     mem_d(self);
 127 }
 128
 129 static ftepp_t* ftepp_init()
 130 {
 131     ftepp_t *ftepp;
 132
 133     ftepp = (ftepp_t*)mem_a(sizeof(*ftepp));
 134     memset(ftepp, 0, sizeof(*ftepp));
 135
 136     return ftepp;
 137 }
 138
 139 static void ftepp_delete(ftepp_t *self)
 140 {
 141     size_t i;
 142     for (i = 0; i < vec_size(self->macros); ++i)
 143         ppmacro_delete(self->macros[i]);
 144     vec_free(self->macros);
 145     vec_free(self->conditions);
 146     lex_close(self->lex);
 147     mem_d(self);
 148 }
 149
 150 static void ftepp_out(ftepp_t *ftepp, const char *str, bool ignore_cond)
 151 {
 152     if (ignore_cond ||
 153         !vec_size(ftepp->conditions) ||
 154         vec_last(ftepp->conditions).on)
 155     {
 156         printf("%s", str);
 157     }
 158 }
 159
 160 ppmacro* ftepp_macro_find(ftepp_t *ftepp, const char *name)
 161 {
 162     size_t i;
 163     for (i = 0; i < vec_size(ftepp->macros); ++i) {
 164         if (!strcmp(name, ftepp->macros[i]->name))
 165             return ftepp->macros[i];
 166     }
 167     return NULL;
 168 }
 169
 170 static inline int ftepp_next(ftepp_t *ftepp)
 171 {
 172     return (ftepp->token = lex_do(ftepp->lex));
 173 }
 174
 175 /* Important: this does not skip newlines! */
 176 static bool ftepp_skipspace(ftepp_t *ftepp)
 177 {
 178     if (ftepp->token != TOKEN_WHITE)
 179         return true;
 180     while (ftepp_next(ftepp) == TOKEN_WHITE) {}
 181     if (ftepp->token >= TOKEN_EOF) {
 182         ftepp_error(ftepp, "unexpected end of preprocessor directive");
 183         return false;
 184     }
 185     return true;
 186 }
 187
 188 /* this one skips EOLs as well */
 189 static bool ftepp_skipallwhite(ftepp_t *ftepp)
 190 {
 191     if (ftepp->token != TOKEN_WHITE && ftepp->token != TOKEN_EOL)
 192         return true;
 193     do {
 194         ftepp_next(ftepp);
 195     } while (ftepp->token == TOKEN_WHITE || ftepp->token == TOKEN_EOL);
 196     if (ftepp->token >= TOKEN_EOF) {
 197         ftepp_error(ftepp, "unexpected end of preprocessor directive");
 198         return false;
 199     }
 200     return true;
 201 }
 202
 203 /**
 204  * The huge macro parsing code...
 205  */
 206 static bool ftepp_define_params(ftepp_t *ftepp, ppmacro *macro)
 207 {
 208     do {
 209         ftepp_next(ftepp);
 210         if (!ftepp_skipspace(ftepp))
 211             return false;
 212         if (ftepp->token == ')')
 213             break;
 214         switch (ftepp->token) {
 215             case TOKEN_IDENT:
 216             case TOKEN_TYPENAME:
 217             case TOKEN_KEYWORD:
 218                 break;
 219             default:
 220                 ftepp_error(ftepp, "unexpected token in parameter list");
 221                 return false;
 222         }
 223         vec_push(macro->params, util_strdup(ftepp_tokval(ftepp)));
 224         ftepp_next(ftepp);
 225         if (!ftepp_skipspace(ftepp))
 226             return false;
 227     } while (ftepp->token == ',');
 228     if (ftepp->token != ')') {
 229         ftepp_error(ftepp, "expected closing paren after macro parameter list");
 230         return false;
 231     }
 232     ftepp_next(ftepp);
 233     /* skipspace happens in ftepp_define */
 234     return true;
 235 }
 236
 237 static bool ftepp_define_body(ftepp_t *ftepp, ppmacro *macro)
 238 {
 239     pptoken *ptok;
 240     while (ftepp->token != TOKEN_EOL && ftepp->token < TOKEN_EOF) {
 241         ptok = pptoken_make(ftepp);
 242         vec_push(macro->output, ptok);
 243         ftepp_next(ftepp);
 244     }
 245     if (ftepp->token != TOKEN_EOL) {
 246         ftepp_error(ftepp, "unexpected junk after macro or unexpected end of file");
 247         return false;
 248     }
 249     return true;
 250 }
 251
 252 static bool ftepp_define(ftepp_t *ftepp)
 253 {
 254     ppmacro *macro;
 255     (void)ftepp_next(ftepp);
 256     if (!ftepp_skipspace(ftepp))
 257         return false;
 258
 259     switch (ftepp->token) {
 260         case TOKEN_IDENT:
 261         case TOKEN_TYPENAME:
 262         case TOKEN_KEYWORD:
 263             macro = ppmacro_new(ftepp_ctx(ftepp), ftepp_tokval(ftepp));
 264             break;
 265         default:
 266             ftepp_error(ftepp, "expected macro name");
 267             return false;
 268     }
 269
 270     (void)ftepp_next(ftepp);
 271
 272     if (ftepp->token == '(') {
 273         macro->has_params = true;
 274         if (!ftepp_define_params(ftepp, macro))
 275             return false;
 276     }
 277
 278     if (!ftepp_skipspace(ftepp))
 279         return false;
 280
 281     if (!ftepp_define_body(ftepp, macro))
 282         return false;
 283
 284     vec_push(ftepp->macros, macro);
 285     return true;
 286 }
 287
 288 /**
 289  * When a macro is used we have to handle parameters as well
 290  * as special-concatenation via ## or stringification via #
 291  *
 292  * Note: parenthesis can nest, so FOO((a),b) is valid, but only
 293  * this kind of parens. Curly braces or [] don't count towards the
 294  * paren-level.
 295  */
 296 typedef struct {
 297     pptoken **tokens;
 298 } macroparam;
 299
 300 static void macroparam_clean(macroparam *self)
 301 {
 302     size_t i;
 303     for (i = 0; i < vec_size(self->tokens); ++i)
 304         pptoken_delete(self->tokens[i]);
 305     vec_free(self->tokens);
 306 }
 307
 308 static bool ftepp_macro_call_params(ftepp_t *ftepp, macroparam **out_params)
 309 {
 310     macroparam *params = NULL;
 311     pptoken    *ptok;
 312     macroparam  mp;
 313     size_t      parens = 0;
 314     size_t      i;
 315
 316     while (true) {
 317         mp.tokens = NULL;
 318         while (parens || ftepp->token != ',') {
 319             if (ftepp->token == '(')
 320                 ++parens;
 321             else if (ftepp->token == ')') {
 322                 if (!parens)
 323                     break;
 324                 --parens;
 325             }
 326             ptok = pptoken_make(ftepp);
 327             vec_push(mp.tokens, ptok);
 328             if (ftepp_next(ftepp) >= TOKEN_EOF) {
 329                 ftepp_error(ftepp, "unexpected EOF in macro call");
 330                 goto on_error;
 331             }
 332         }
 333         vec_push(params, mp);
 334         mp.tokens = NULL;
 335         if (ftepp->token == ')')
 336             break;
 337         if (ftepp->token != ',') {
 338             ftepp_error(ftepp, "expected closing paren or comma in macro call");
 339             goto on_error;
 340         }
 341         if (ftepp_next(ftepp) >= TOKEN_EOF) {
 342             ftepp_error(ftepp, "unexpected EOF in macro call");
 343             goto on_error;
 344         }
 345     }
 346     if (ftepp_next(ftepp) >= TOKEN_EOF) {
 347         ftepp_error(ftepp, "unexpected EOF in macro call");
 348         goto on_error;
 349     }
 350     *out_params = params;
 351     return true;
 352
 353 on_error:
 354     if (mp.tokens)
 355         macroparam_clean(&mp);
 356     for (i = 0; i < vec_size(params); ++i)
 357         macroparam_clean(&params[i]);
 358     vec_free(params);
 359     return false;
 360 }
 361
 362 static bool ftepp_macro_call(ftepp_t *ftepp, ppmacro *macro)
 363 {
 364     size_t     o;
 365     macroparam *params = NULL;
 366     bool        retval = true;
 367
 368     ftepp_next(ftepp);
 369
 370     if (!macro->has_params) {
 371         for (o = 0; o < vec_size(macro->output); ++o) {
 372             ftepp_out(ftepp, macro->output[o]->value, false);
 373         }
 374         return true;
 375     }
 376
 377     if (!ftepp_skipallwhite(ftepp))
 378         return false;
 379
 380     if (ftepp->token != '(') {
 381         ftepp_error(ftepp, "expected macro parameters in parenthesis");
 382         return false;
 383     }
 384
 385     ftepp_next(ftepp);
 386     if (!ftepp_macro_call_params(ftepp, &params))
 387         return false;
 388
 389     ftepp_out(ftepp, "Parsed macro parameters", false);
 390     goto cleanup;
 391
 392 cleanup:
 393     for (o = 0; o < vec_size(params); ++o)
 394         macroparam_clean(&params[o]);
 395     vec_free(params);
 396     return retval;
 397 }
 398
 399 /**
 400  * #if - the FTEQCC way:
 401  *    defined(FOO) => true if FOO was #defined regardless of parameters or contents
 402  *    <numbers>    => True if the number is not 0
 403  *    !<factor>    => True if the factor yields false
 404  *    !!<factor>   => ERROR on 2 or more unary nots
 405  *    <macro>      => becomes the macro's FIRST token regardless of parameters
 406  *    <e> && <e>   => True if both expressions are true
 407  *    <e> || <e>   => True if either expression is true
 408  *    <string>     => False
 409  *    <ident>      => False (remember for macros the <macro> rule applies instead)
 410  * Unary + and - are weird and wrong in fteqcc so we don't allow them
 411  * parenthesis in expressions are allowed
 412  * parameter lists on macros are errors
 413  * No mathematical calculations are executed
 414  */
 415 static bool ftepp_if_expr(ftepp_t *ftepp, bool *out)
 416 {
 417     ppmacro *macro;
 418     bool     wasnot = false;
 419
 420     if (!ftepp_skipspace(ftepp))
 421         return false;
 422
 423     while (ftepp->token == '!') {
 424         wasnot = true;
 425         ftepp_next(ftepp);
 426         if (!ftepp_skipspace(ftepp))
 427             return false;
 428     }
 429
 430     switch (ftepp->token) {
 431         case TOKEN_IDENT:
 432         case TOKEN_TYPENAME:
 433         case TOKEN_KEYWORD:
 434             if (!strcmp(ftepp_tokval(ftepp), "defined")) {
 435                 ftepp_next(ftepp);
 436                 if (!ftepp_skipspace(ftepp))
 437                     return false;
 438                 if (ftepp->token != '(') {
 439                     ftepp_error(ftepp, "`defined` keyword in #if requires a macro name in parenthesis");
 440                     return false;
 441                 }
 442                 ftepp_next(ftepp);
 443                 if (!ftepp_skipspace(ftepp))
 444                     return false;
 445                 if (ftepp->token != TOKEN_IDENT &&
 446                     ftepp->token != TOKEN_TYPENAME &&
 447                     ftepp->token != TOKEN_KEYWORD)
 448                 {
 449                     ftepp_error(ftepp, "defined() used on an unexpected token type");
 450                     return false;
 451                 }
 452                 macro = ftepp_macro_find(ftepp, ftepp_tokval(ftepp));
 453                 *out = !!macro;
 454                 ftepp_next(ftepp);
 455                 if (!ftepp_skipspace(ftepp))
 456                     return false;
 457                 if (ftepp->token != ')') {
 458                     ftepp_error(ftepp, "expected closing paren");
 459                     return false;
 460                 }
 461                 break;
 462             }
 463
 464             macro = ftepp_macro_find(ftepp, ftepp_tokval(ftepp));
 465             if (!macro || !vec_size(macro->output)) {
 466                 *out = false;
 467             } else {
 468                 /* This does not expand recursively! */
 469                 switch (macro->output[0]->token) {
 470                     case TOKEN_INTCONST:
 471                         *out = !!(macro->output[0]->constval.f);
 472                         break;
 473                     case TOKEN_FLOATCONST:
 474                         *out = !!(macro->output[0]->constval.f);
 475                         break;
 476                     default:
 477                         *out = false;
 478                         break;
 479                 }
 480             }
 481             break;
 482         case TOKEN_STRINGCONST:
 483             *out = false;
 484             break;
 485         case TOKEN_INTCONST:
 486             *out = !!(ftepp->lex->tok.constval.i);
 487             break;
 488         case TOKEN_FLOATCONST:
 489             *out = !!(ftepp->lex->tok.constval.f);
 490             break;
 491
 492         case '(':
 493             ftepp_next(ftepp);
 494             if (!ftepp_if_expr(ftepp, out))
 495                 return false;
 496             if (ftepp->token != ')') {
 497                 ftepp_error(ftepp, "expected closing paren in #if expression");
 498                 return false;
 499             }
 500             break;
 501
 502         default:
 503             ftepp_error(ftepp, "junk in #if");
 504             return false;
 505     }
 506     if (wasnot)
 507         *out = !*out;
 508
 509     ftepp->lex->flags.noops = false;
 510     ftepp_next(ftepp);
 511     if (!ftepp_skipspace(ftepp))
 512         return false;
 513     ftepp->lex->flags.noops = true;
 514
 515     if (ftepp->token == ')')
 516         return true;
 517
 518     if (ftepp->token != TOKEN_OPERATOR)
 519         return true;
 520
 521     if (!strcmp(ftepp_tokval(ftepp), "&&") ||
 522         !strcmp(ftepp_tokval(ftepp), "||"))
 523     {
 524         bool next = false;
 525         char opc  = ftepp_tokval(ftepp)[0];
 526
 527         ftepp_next(ftepp);
 528         if (!ftepp_if_expr(ftepp, &next))
 529             return false;
 530
 531         if (opc == '&')
 532             *out = *out && next;
 533         else
 534             *out = *out || next;
 535         return true;
 536     }
 537     else {
 538         ftepp_error(ftepp, "junk after #if");
 539         return false;
 540     }
 541 }
 542
 543 static bool ftepp_if(ftepp_t *ftepp, ppcondition *cond)
 544 {
 545     bool result = false;
 546
 547     memset(cond, 0, sizeof(*cond));
 548     (void)ftepp_next(ftepp);
 549
 550     if (!ftepp_skipspace(ftepp))
 551         return false;
 552     if (ftepp->token == TOKEN_EOL) {
 553         ftepp_error(ftepp, "expected expression for #if-directive");
 554         return false;
 555     }
 556
 557     if (!ftepp_if_expr(ftepp, &result))
 558         return false;
 559
 560     cond->on = result;
 561     return true;
 562 }
 563
 564 /**
 565  * ifdef is rather simple
 566  */
 567 static bool ftepp_ifdef(ftepp_t *ftepp, ppcondition *cond)
 568 {
 569     ppmacro *macro;
 570     memset(cond, 0, sizeof(*cond));
 571     (void)ftepp_next(ftepp);
 572     if (!ftepp_skipspace(ftepp))
 573         return false;
 574
 575     switch (ftepp->token) {
 576         case TOKEN_IDENT:
 577         case TOKEN_TYPENAME:
 578         case TOKEN_KEYWORD:
 579             macro = ftepp_macro_find(ftepp, ftepp_tokval(ftepp));
 580             break;
 581         default:
 582             ftepp_error(ftepp, "expected macro name");
 583             return false;
 584     }
 585
 586     (void)ftepp_next(ftepp);
 587     if (!ftepp_skipspace(ftepp))
 588         return false;
 589     if (ftepp->token != TOKEN_EOL) {
 590         ftepp_error(ftepp, "stray tokens after #ifdef");
 591         return false;
 592     }
 593     cond->on = !!macro;
 594     return true;
 595 }
 596
 597 /* Basic structure handlers */
 598 static bool ftepp_else_allowed(ftepp_t *ftepp)
 599 {
 600     if (!vec_size(ftepp->conditions)) {
 601         ftepp_error(ftepp, "#else without #if");
 602         return false;
 603     }
 604     if (vec_last(ftepp->conditions).had_else) {
 605         ftepp_error(ftepp, "multiple #else for a single #if");
 606         return false;
 607     }
 608     return true;
 609 }
 610
 611 static bool ftepp_hash(ftepp_t *ftepp)
 612 {
 613     ppcondition cond;
 614     ppcondition *pc;
 615
 616     lex_ctx ctx = ftepp_ctx(ftepp);
 617
 618     if (!ftepp_skipspace(ftepp))
 619         return false;
 620
 621     switch (ftepp->token) {
 622         case TOKEN_KEYWORD:
 623         case TOKEN_IDENT:
 624         case TOKEN_TYPENAME:
 625             if (!strcmp(ftepp_tokval(ftepp), "define")) {
 626                 return ftepp_define(ftepp);
 627             }
 628             else if (!strcmp(ftepp_tokval(ftepp), "ifdef")) {
 629                 if (!ftepp_ifdef(ftepp, &cond))
 630                     return false;
 631                 cond.was_on = cond.on;
 632                 vec_push(ftepp->conditions, cond);
 633                 break;
 634             }
 635             else if (!strcmp(ftepp_tokval(ftepp), "ifndef")) {
 636                 if (!ftepp_ifdef(ftepp, &cond))
 637                     return false;
 638                 cond.on = !cond.on;
 639                 cond.was_on = cond.on;
 640                 vec_push(ftepp->conditions, cond);
 641                 break;
 642             }
 643             else if (!strcmp(ftepp_tokval(ftepp), "elifdef")) {
 644                 if (!ftepp_else_allowed(ftepp))
 645                     return false;
 646                 if (!ftepp_ifdef(ftepp, &cond))
 647                     return false;
 648                 pc = &vec_last(ftepp->conditions);
 649                 pc->on     = !pc->was_on && cond.on;
 650                 pc->was_on = pc->was_on || pc->on;
 651                 break;
 652             }
 653             else if (!strcmp(ftepp_tokval(ftepp), "elifndef")) {
 654                 if (!ftepp_else_allowed(ftepp))
 655                     return false;
 656                 if (!ftepp_ifdef(ftepp, &cond))
 657                     return false;
 658                 cond.on = !cond.on;
 659                 pc = &vec_last(ftepp->conditions);
 660                 pc->on     = !pc->was_on && cond.on;
 661                 pc->was_on = pc->was_on || pc->on;
 662                 break;
 663             }
 664             else if (!strcmp(ftepp_tokval(ftepp), "elif")) {
 665                 if (!ftepp_else_allowed(ftepp))
 666                     return false;
 667                 if (!ftepp_if(ftepp, &cond))
 668                     return false;
 669                 pc = &vec_last(ftepp->conditions);
 670                 pc->on     = !pc->was_on && cond.on;
 671                 pc->was_on = pc->was_on  || pc->on;
 672                 break;
 673             }
 674             else if (!strcmp(ftepp_tokval(ftepp), "if")) {
 675                 if (!ftepp_if(ftepp, &cond))
 676                     return false;
 677                 cond.was_on = cond.on;
 678                 vec_push(ftepp->conditions, cond);
 679                 break;
 680             }
 681             else if (!strcmp(ftepp_tokval(ftepp), "else")) {
 682                 if (!ftepp_else_allowed(ftepp))
 683                     return false;
 684                 pc = &vec_last(ftepp->conditions);
 685                 pc->on = !pc->was_on;
 686                 pc->had_else = true;
 687                 ftepp_next(ftepp);
 688                 break;
 689             }
 690             else if (!strcmp(ftepp_tokval(ftepp), "endif")) {
 691                 if (!vec_size(ftepp->conditions)) {
 692                     ftepp_error(ftepp, "#endif without #if");
 693                     return false;
 694                 }
 695                 vec_pop(ftepp->conditions);
 696                 ftepp_next(ftepp);
 697                 break;
 698             }
 699             else {
 700                 ftepp_error(ftepp, "unrecognized preprocessor directive: `%s`", ftepp_tokval(ftepp));
 701                 return false;
 702             }
 703             break;
 704         default:
 705             ftepp_error(ftepp, "unexpected preprocessor token: `%s`", ftepp_tokval(ftepp));
 706             return false;
 707         case TOKEN_EOL:
 708             ftepp_errorat(ftepp, ctx, "empty preprocessor directive");
 709             return false;
 710         case TOKEN_EOF:
 711             ftepp_error(ftepp, "missing newline at end of file", ftepp_tokval(ftepp));
 712             return false;
 713     }
 714     if (!ftepp_skipspace(ftepp))
 715         return false;
 716     return true;
 717 }
 718
 719 static bool ftepp_preprocess(ftepp_t *ftepp)
 720 {
 721     ppmacro *macro;
 722     bool     newline = true;
 723
 724     ftepp->lex->flags.preprocessing = true;
 725     ftepp->lex->flags.mergelines    = false;
 726     ftepp->lex->flags.noops         = true;
 727
 728     ftepp_next(ftepp);
 729     do
 730     {
 731         if (ftepp->token >= TOKEN_EOF)
 732             break;
 733
 734         ftepp->newline = newline;
 735         newline = false;
 736
 737         switch (ftepp->token) {
 738             case TOKEN_KEYWORD:
 739             case TOKEN_IDENT:
 740             case TOKEN_TYPENAME:
 741                 macro = ftepp_macro_find(ftepp, ftepp_tokval(ftepp));
 742                 if (!macro) {
 743                     ftepp_out(ftepp, ftepp_tokval(ftepp), false);
 744                     ftepp_next(ftepp);
 745                     break;
 746                 }
 747                 if (!ftepp_macro_call(ftepp, macro))
 748                     ftepp->token = TOKEN_ERROR;
 749                 break;
 750             case '#':
 751                 if (!ftepp->newline) {
 752                     ftepp_out(ftepp, ftepp_tokval(ftepp), false);
 753                     ftepp_next(ftepp);
 754                     break;
 755                 }
 756                 ftepp->lex->flags.mergelines = true;
 757                 if (ftepp_next(ftepp) >= TOKEN_EOF) {
 758                     ftepp_error(ftepp, "error in preprocessor directive");
 759                     ftepp->token = TOKEN_ERROR;
 760                     break;
 761                 }
 762                 if (!ftepp_hash(ftepp))
 763                     ftepp->token = TOKEN_ERROR;
 764                 ftepp->lex->flags.mergelines = false;
 765                 break;
 766             case TOKEN_EOL:
 767                 newline = true;
 768                 ftepp_out(ftepp, "\n", true);
 769                 ftepp_next(ftepp);
 770                 break;
 771             default:
 772                 ftepp_out(ftepp, ftepp_tokval(ftepp), false);
 773                 ftepp_next(ftepp);
 774                 break;
 775         }
 776     } while (!ftepp->errors && ftepp->token < TOKEN_EOF);
 777
 778     newline = ftepp->token == TOKEN_EOF;
 779     ftepp_delete(ftepp);
 780     return newline;
 781 }
 782
 783 bool ftepp_preprocess_file(const char *filename)
 784 {
 785     ftepp_t *ftepp = ftepp_init();
 786     ftepp->lex = lex_open(filename);
 787     if (!ftepp->lex) {
 788         con_out("failed to open file \"%s\"\n", filename);
 789         return false;
 790     }
 791     return ftepp_preprocess(ftepp);
 792 }
 793
 794 bool ftepp_preprocess_string(const char *name, const char *str)
 795 {
 796     ftepp_t *ftepp = ftepp_init();
 797     ftepp->lex = lex_open_string(str, strlen(str), name);
 798     if (!ftepp->lex) {
 799         con_out("failed to create lexer for string \"%s\"\n", name);
 800         return false;
 801     }
 802     return ftepp_preprocess(ftepp);
 803 }