ftepp.c

   1 /*
   2  * Copyright (C) 2012
   3  *     Wolfgang Bumiller
   4  *
   5  * Permission is hereby granted, free of charge, to any person obtaining a copy of
   6  * this software and associated documentation files (the "Software"), to deal in
   7  * the Software without restriction, including without limitation the rights to
   8  * use, copy, modify, merge, publish, distribute, sublicense, and/or sell copies
   9  * of the Software, and to permit persons to whom the Software is furnished to do
  10  * so, subject to the following conditions:
  11  *
  12  * The above copyright notice and this permission notice shall be included in all
  13  * copies or substantial portions of the Software.
  14  *
  15  * THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS OR
  16  * IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY,
  17  * FITNESS FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT. IN NO EVENT SHALL THE
  18  * AUTHORS OR COPYRIGHT HOLDERS BE LIABLE FOR ANY CLAIM, DAMAGES OR OTHER
  19  * LIABILITY, WHETHER IN AN ACTION OF CONTRACT, TORT OR OTHERWISE, ARISING FROM,
  20  * OUT OF OR IN CONNECTION WITH THE SOFTWARE OR THE USE OR OTHER DEALINGS IN THE
  21  * SOFTWARE.
  22  */
  23 #include "gmqcc.h"
  24 #include "lexer.h"
  25
  26 typedef struct {
  27     bool on;
  28     bool was_on;
  29     bool had_else;
  30 } ppcondition;
  31
  32 typedef struct {
  33     int   token;
  34     char *value;
  35     /* a copy from the lexer */
  36     union {
  37         vector v;
  38         int    i;
  39         double f;
  40         int    t; /* type */
  41     } constval;
  42 } pptoken;
  43
  44 typedef struct {
  45     lex_ctx ctx;
  46
  47     char   *name;
  48     char  **params;
  49     /* yes we need an extra flag since `#define FOO x` is not the same as `#define FOO() x` */
  50     bool    has_params;
  51
  52     pptoken **output;
  53 } ppmacro;
  54
  55 typedef struct {
  56     lex_file    *lex;
  57     int          token;
  58     bool         newline;
  59     unsigned int errors;
  60
  61     ppcondition *conditions;
  62     ppmacro    **macros;
  63 } ftepp_t;
  64
  65 #define ftepp_tokval(f) ((f)->lex->tok.value)
  66 #define ftepp_ctx(f)    ((f)->lex->tok.ctx)
  67
  68 static void ftepp_errorat(ftepp_t *ftepp, lex_ctx ctx, const char *fmt, ...)
  69 {
  70     va_list ap;
  71
  72     ftepp->errors++;
  73
  74     va_start(ap, fmt);
  75     con_vprintmsg(LVL_ERROR, ctx.file, ctx.line, "error", fmt, ap);
  76     va_end(ap);
  77 }
  78
  79 static void ftepp_error(ftepp_t *ftepp, const char *fmt, ...)
  80 {
  81     va_list ap;
  82
  83     ftepp->errors++;
  84
  85     va_start(ap, fmt);
  86     con_vprintmsg(LVL_ERROR, ftepp->lex->tok.ctx.file, ftepp->lex->tok.ctx.line, "error", fmt, ap);
  87     va_end(ap);
  88 }
  89
  90 static pptoken *pptoken_make(ftepp_t *ftepp)
  91 {
  92     pptoken *token = (pptoken*)mem_a(sizeof(pptoken));
  93     token->token = ftepp->token;
  94     if (token->token == TOKEN_WHITE)
  95         token->value = util_strdup(" ");
  96     else
  97         token->value = util_strdup(ftepp_tokval(ftepp));
  98     memcpy(&token->constval, &ftepp->lex->tok.constval, sizeof(token->constval));
  99     return token;
 100 }
 101
 102 static void pptoken_delete(pptoken *self)
 103 {
 104     mem_d(self->value);
 105     mem_d(self);
 106 }
 107
 108 static ppmacro *ppmacro_new(lex_ctx ctx, const char *name)
 109 {
 110     ppmacro *macro = (ppmacro*)mem_a(sizeof(ppmacro));
 111     memset(macro, 0, sizeof(*macro));
 112     macro->name = util_strdup(name);
 113     return macro;
 114 }
 115
 116 static void ppmacro_delete(ppmacro *self)
 117 {
 118     size_t i;
 119     for (i = 0; i < vec_size(self->params); ++i)
 120         mem_d(self->params[i]);
 121     vec_free(self->params);
 122     for (i = 0; i < vec_size(self->output); ++i)
 123         pptoken_delete(self->output[i]);
 124     vec_free(self->output);
 125     mem_d(self->name);
 126     mem_d(self);
 127 }
 128
 129 static ftepp_t* ftepp_init()
 130 {
 131     ftepp_t *ftepp;
 132
 133     ftepp = (ftepp_t*)mem_a(sizeof(*ftepp));
 134     memset(ftepp, 0, sizeof(*ftepp));
 135
 136     return ftepp;
 137 }
 138
 139 static void ftepp_delete(ftepp_t *self)
 140 {
 141     size_t i;
 142     for (i = 0; i < vec_size(self->macros); ++i)
 143         ppmacro_delete(self->macros[i]);
 144     vec_free(self->macros);
 145     vec_free(self->conditions);
 146     lex_close(self->lex);
 147     mem_d(self);
 148 }
 149
 150 static void ftepp_out(ftepp_t *ftepp, const char *str, bool ignore_cond)
 151 {
 152     if (ignore_cond ||
 153         !vec_size(ftepp->conditions) ||
 154         vec_last(ftepp->conditions).on)
 155     {
 156         printf("%s", str);
 157     }
 158 }
 159
 160 ppmacro* ftepp_macro_find(ftepp_t *ftepp, const char *name)
 161 {
 162     size_t i;
 163     for (i = 0; i < vec_size(ftepp->macros); ++i) {
 164         if (!strcmp(name, ftepp->macros[i]->name))
 165             return ftepp->macros[i];
 166     }
 167     return NULL;
 168 }
 169
 170 static inline int ftepp_next(ftepp_t *ftepp)
 171 {
 172     return (ftepp->token = lex_do(ftepp->lex));
 173 }
 174
 175 /* Important: this does not skip newlines! */
 176 static bool ftepp_skipspace(ftepp_t *ftepp)
 177 {
 178     if (ftepp->token != TOKEN_WHITE)
 179         return true;
 180     while (ftepp_next(ftepp) == TOKEN_WHITE) {}
 181     if (ftepp->token >= TOKEN_EOF) {
 182         ftepp_error(ftepp, "unexpected end of preprocessor directive");
 183         return false;
 184     }
 185     return true;
 186 }
 187
 188 /* this one skips EOLs as well */
 189 static bool ftepp_skipallwhite(ftepp_t *ftepp)
 190 {
 191     if (ftepp->token != TOKEN_WHITE && ftepp->token != TOKEN_EOL)
 192         return true;
 193     do {
 194         ftepp_next(ftepp);
 195     } while (ftepp->token == TOKEN_WHITE || ftepp->token == TOKEN_EOL);
 196     if (ftepp->token >= TOKEN_EOF) {
 197         ftepp_error(ftepp, "unexpected end of preprocessor directive");
 198         return false;
 199     }
 200     return true;
 201 }
 202
 203 /**
 204  * The huge macro parsing code...
 205  */
 206 static bool ftepp_define_params(ftepp_t *ftepp, ppmacro *macro)
 207 {
 208     do {
 209         ftepp_next(ftepp);
 210         if (!ftepp_skipspace(ftepp))
 211             return false;
 212         if (ftepp->token == ')')
 213             break;
 214         switch (ftepp->token) {
 215             case TOKEN_IDENT:
 216             case TOKEN_TYPENAME:
 217             case TOKEN_KEYWORD:
 218                 break;
 219             default:
 220                 ftepp_error(ftepp, "unexpected token in parameter list");
 221                 return false;
 222         }
 223         vec_push(macro->params, util_strdup(ftepp_tokval(ftepp)));
 224         ftepp_next(ftepp);
 225         if (!ftepp_skipspace(ftepp))
 226             return false;
 227     } while (ftepp->token == ',');
 228     if (ftepp->token != ')') {
 229         ftepp_error(ftepp, "expected closing paren after macro parameter list");
 230         return false;
 231     }
 232     ftepp_next(ftepp);
 233     /* skipspace happens in ftepp_define */
 234     return true;
 235 }
 236
 237 static bool ftepp_define_body(ftepp_t *ftepp, ppmacro *macro)
 238 {
 239     pptoken *ptok;
 240     while (ftepp->token != TOKEN_EOL && ftepp->token < TOKEN_EOF) {
 241         ptok = pptoken_make(ftepp);
 242         vec_push(macro->output, ptok);
 243         ftepp_next(ftepp);
 244     }
 245     if (ftepp->token != TOKEN_EOL) {
 246         ftepp_error(ftepp, "unexpected junk after macro or unexpected end of file");
 247         return false;
 248     }
 249     return true;
 250 }
 251
 252 static bool ftepp_define(ftepp_t *ftepp)
 253 {
 254     ppmacro *macro;
 255     (void)ftepp_next(ftepp);
 256     if (!ftepp_skipspace(ftepp))
 257         return false;
 258
 259     switch (ftepp->token) {
 260         case TOKEN_IDENT:
 261         case TOKEN_TYPENAME:
 262         case TOKEN_KEYWORD:
 263             macro = ppmacro_new(ftepp_ctx(ftepp), ftepp_tokval(ftepp));
 264             break;
 265         default:
 266             ftepp_error(ftepp, "expected macro name");
 267             return false;
 268     }
 269
 270     (void)ftepp_next(ftepp);
 271
 272     if (ftepp->token == '(') {
 273         macro->has_params = true;
 274         if (!ftepp_define_params(ftepp, macro))
 275             return false;
 276     }
 277
 278     if (!ftepp_skipspace(ftepp))
 279         return false;
 280
 281     if (!ftepp_define_body(ftepp, macro))
 282         return false;
 283
 284     vec_push(ftepp->macros, macro);
 285     return true;
 286 }
 287
 288 /**
 289  * When a macro is used we have to handle parameters as well
 290  * as special-concatenation via ## or stringification via #
 291  *
 292  * Note: parenthesis can nest, so FOO((a),b) is valid, but only
 293  * this kind of parens. Curly braces or [] don't count towards the
 294  * paren-level.
 295  */
 296 typedef struct {
 297     pptoken **tokens;
 298 } macroparam;
 299
 300 static void macroparam_clean(macroparam *self)
 301 {
 302     size_t i;
 303     for (i = 0; i < vec_size(self->tokens); ++i)
 304         pptoken_delete(self->tokens[i]);
 305     vec_free(self->tokens);
 306 }
 307
 308 static bool ftepp_macro_call_params(ftepp_t *ftepp, macroparam **out_params)
 309 {
 310     macroparam *params = NULL;
 311     pptoken    *ptok;
 312     macroparam  mp;
 313     size_t      parens = 0;
 314     size_t      i;
 315
 316     while (ftepp->token != ')') {
 317         mp.tokens = NULL;
 318         while (parens || ftepp->token != ',') {
 319             if (ftepp->token == '(')
 320                 ++parens;
 321             else if (ftepp->token == ')') {
 322                 if (!parens)
 323                     break;
 324                 --parens;
 325             }
 326             ptok = pptoken_make(ftepp);
 327             vec_push(mp.tokens, ptok);
 328             if (ftepp_next(ftepp) >= TOKEN_EOF) {
 329                 ftepp_error(ftepp, "unexpected EOF in macro call");
 330                 goto on_error;
 331             }
 332         }
 333         vec_push(params, mp);
 334         mp.tokens = NULL;
 335         if (ftepp->token == ')')
 336             break;
 337         if (ftepp->token != ',') {
 338             ftepp_error(ftepp, "expected closing paren or comma in macro call");
 339             goto on_error;
 340         }
 341         if (ftepp_next(ftepp) >= TOKEN_EOF) {
 342             ftepp_error(ftepp, "unexpected EOF in macro call");
 343             goto on_error;
 344         }
 345     }
 346     if (ftepp_next(ftepp) >= TOKEN_EOF) {
 347         ftepp_error(ftepp, "unexpected EOF in macro call");
 348         goto on_error;
 349     }
 350     *out_params = params;
 351     return true;
 352
 353 on_error:
 354     if (mp.tokens)
 355         macroparam_clean(&mp);
 356     for (i = 0; i < vec_size(params); ++i)
 357         macroparam_clean(&params[i]);
 358     vec_free(params);
 359     return false;
 360 }
 361
 362 static bool ftepp_macro_call(ftepp_t *ftepp, ppmacro *macro)
 363 {
 364     size_t     o;
 365     macroparam *params = NULL;
 366     bool        retval = true;
 367
 368     ftepp_next(ftepp);
 369
 370     if (!macro->has_params) {
 371         for (o = 0; o < vec_size(macro->output); ++o) {
 372             ftepp_out(ftepp, macro->output[o]->value, false);
 373         }
 374         return true;
 375     }
 376
 377     if (!ftepp_skipallwhite(ftepp))
 378         return false;
 379
 380     if (ftepp->token != '(') {
 381         ftepp_error(ftepp, "expected macro parameters in parenthesis");
 382         return false;
 383     }
 384
 385     ftepp_next(ftepp);
 386     if (!ftepp_macro_call_params(ftepp, &params))
 387         return false;
 388
 389     if (vec_size(params) != vec_size(macro->params)) {
 390         ftepp_error(ftepp, "macro %s expects %u paramteters, %u provided", macro->name,
 391                     (unsigned int)vec_size(macro->params),
 392                     (unsigned int)vec_size(params));
 393         retval = false;
 394         goto cleanup;
 395     }
 396
 397
 398     ftepp_out(ftepp, "Parsed macro parameters", false);
 399     goto cleanup;
 400
 401 cleanup:
 402     for (o = 0; o < vec_size(params); ++o)
 403         macroparam_clean(&params[o]);
 404     vec_free(params);
 405     return retval;
 406 }
 407
 408 /**
 409  * #if - the FTEQCC way:
 410  *    defined(FOO) => true if FOO was #defined regardless of parameters or contents
 411  *    <numbers>    => True if the number is not 0
 412  *    !<factor>    => True if the factor yields false
 413  *    !!<factor>   => ERROR on 2 or more unary nots
 414  *    <macro>      => becomes the macro's FIRST token regardless of parameters
 415  *    <e> && <e>   => True if both expressions are true
 416  *    <e> || <e>   => True if either expression is true
 417  *    <string>     => False
 418  *    <ident>      => False (remember for macros the <macro> rule applies instead)
 419  * Unary + and - are weird and wrong in fteqcc so we don't allow them
 420  * parenthesis in expressions are allowed
 421  * parameter lists on macros are errors
 422  * No mathematical calculations are executed
 423  */
 424 static bool ftepp_if_expr(ftepp_t *ftepp, bool *out)
 425 {
 426     ppmacro *macro;
 427     bool     wasnot = false;
 428
 429     if (!ftepp_skipspace(ftepp))
 430         return false;
 431
 432     while (ftepp->token == '!') {
 433         wasnot = true;
 434         ftepp_next(ftepp);
 435         if (!ftepp_skipspace(ftepp))
 436             return false;
 437     }
 438
 439     switch (ftepp->token) {
 440         case TOKEN_IDENT:
 441         case TOKEN_TYPENAME:
 442         case TOKEN_KEYWORD:
 443             if (!strcmp(ftepp_tokval(ftepp), "defined")) {
 444                 ftepp_next(ftepp);
 445                 if (!ftepp_skipspace(ftepp))
 446                     return false;
 447                 if (ftepp->token != '(') {
 448                     ftepp_error(ftepp, "`defined` keyword in #if requires a macro name in parenthesis");
 449                     return false;
 450                 }
 451                 ftepp_next(ftepp);
 452                 if (!ftepp_skipspace(ftepp))
 453                     return false;
 454                 if (ftepp->token != TOKEN_IDENT &&
 455                     ftepp->token != TOKEN_TYPENAME &&
 456                     ftepp->token != TOKEN_KEYWORD)
 457                 {
 458                     ftepp_error(ftepp, "defined() used on an unexpected token type");
 459                     return false;
 460                 }
 461                 macro = ftepp_macro_find(ftepp, ftepp_tokval(ftepp));
 462                 *out = !!macro;
 463                 ftepp_next(ftepp);
 464                 if (!ftepp_skipspace(ftepp))
 465                     return false;
 466                 if (ftepp->token != ')') {
 467                     ftepp_error(ftepp, "expected closing paren");
 468                     return false;
 469                 }
 470                 break;
 471             }
 472
 473             macro = ftepp_macro_find(ftepp, ftepp_tokval(ftepp));
 474             if (!macro || !vec_size(macro->output)) {
 475                 *out = false;
 476             } else {
 477                 /* This does not expand recursively! */
 478                 switch (macro->output[0]->token) {
 479                     case TOKEN_INTCONST:
 480                         *out = !!(macro->output[0]->constval.f);
 481                         break;
 482                     case TOKEN_FLOATCONST:
 483                         *out = !!(macro->output[0]->constval.f);
 484                         break;
 485                     default:
 486                         *out = false;
 487                         break;
 488                 }
 489             }
 490             break;
 491         case TOKEN_STRINGCONST:
 492             *out = false;
 493             break;
 494         case TOKEN_INTCONST:
 495             *out = !!(ftepp->lex->tok.constval.i);
 496             break;
 497         case TOKEN_FLOATCONST:
 498             *out = !!(ftepp->lex->tok.constval.f);
 499             break;
 500
 501         case '(':
 502             ftepp_next(ftepp);
 503             if (!ftepp_if_expr(ftepp, out))
 504                 return false;
 505             if (ftepp->token != ')') {
 506                 ftepp_error(ftepp, "expected closing paren in #if expression");
 507                 return false;
 508             }
 509             break;
 510
 511         default:
 512             ftepp_error(ftepp, "junk in #if");
 513             return false;
 514     }
 515     if (wasnot)
 516         *out = !*out;
 517
 518     ftepp->lex->flags.noops = false;
 519     ftepp_next(ftepp);
 520     if (!ftepp_skipspace(ftepp))
 521         return false;
 522     ftepp->lex->flags.noops = true;
 523
 524     if (ftepp->token == ')')
 525         return true;
 526
 527     if (ftepp->token != TOKEN_OPERATOR)
 528         return true;
 529
 530     if (!strcmp(ftepp_tokval(ftepp), "&&") ||
 531         !strcmp(ftepp_tokval(ftepp), "||"))
 532     {
 533         bool next = false;
 534         char opc  = ftepp_tokval(ftepp)[0];
 535
 536         ftepp_next(ftepp);
 537         if (!ftepp_if_expr(ftepp, &next))
 538             return false;
 539
 540         if (opc == '&')
 541             *out = *out && next;
 542         else
 543             *out = *out || next;
 544         return true;
 545     }
 546     else {
 547         ftepp_error(ftepp, "junk after #if");
 548         return false;
 549     }
 550 }
 551
 552 static bool ftepp_if(ftepp_t *ftepp, ppcondition *cond)
 553 {
 554     bool result = false;
 555
 556     memset(cond, 0, sizeof(*cond));
 557     (void)ftepp_next(ftepp);
 558
 559     if (!ftepp_skipspace(ftepp))
 560         return false;
 561     if (ftepp->token == TOKEN_EOL) {
 562         ftepp_error(ftepp, "expected expression for #if-directive");
 563         return false;
 564     }
 565
 566     if (!ftepp_if_expr(ftepp, &result))
 567         return false;
 568
 569     cond->on = result;
 570     return true;
 571 }
 572
 573 /**
 574  * ifdef is rather simple
 575  */
 576 static bool ftepp_ifdef(ftepp_t *ftepp, ppcondition *cond)
 577 {
 578     ppmacro *macro;
 579     memset(cond, 0, sizeof(*cond));
 580     (void)ftepp_next(ftepp);
 581     if (!ftepp_skipspace(ftepp))
 582         return false;
 583
 584     switch (ftepp->token) {
 585         case TOKEN_IDENT:
 586         case TOKEN_TYPENAME:
 587         case TOKEN_KEYWORD:
 588             macro = ftepp_macro_find(ftepp, ftepp_tokval(ftepp));
 589             break;
 590         default:
 591             ftepp_error(ftepp, "expected macro name");
 592             return false;
 593     }
 594
 595     (void)ftepp_next(ftepp);
 596     if (!ftepp_skipspace(ftepp))
 597         return false;
 598     if (ftepp->token != TOKEN_EOL) {
 599         ftepp_error(ftepp, "stray tokens after #ifdef");
 600         return false;
 601     }
 602     cond->on = !!macro;
 603     return true;
 604 }
 605
 606 /* Basic structure handlers */
 607 static bool ftepp_else_allowed(ftepp_t *ftepp)
 608 {
 609     if (!vec_size(ftepp->conditions)) {
 610         ftepp_error(ftepp, "#else without #if");
 611         return false;
 612     }
 613     if (vec_last(ftepp->conditions).had_else) {
 614         ftepp_error(ftepp, "multiple #else for a single #if");
 615         return false;
 616     }
 617     return true;
 618 }
 619
 620 static bool ftepp_hash(ftepp_t *ftepp)
 621 {
 622     ppcondition cond;
 623     ppcondition *pc;
 624
 625     lex_ctx ctx = ftepp_ctx(ftepp);
 626
 627     if (!ftepp_skipspace(ftepp))
 628         return false;
 629
 630     switch (ftepp->token) {
 631         case TOKEN_KEYWORD:
 632         case TOKEN_IDENT:
 633         case TOKEN_TYPENAME:
 634             if (!strcmp(ftepp_tokval(ftepp), "define")) {
 635                 return ftepp_define(ftepp);
 636             }
 637             else if (!strcmp(ftepp_tokval(ftepp), "ifdef")) {
 638                 if (!ftepp_ifdef(ftepp, &cond))
 639                     return false;
 640                 cond.was_on = cond.on;
 641                 vec_push(ftepp->conditions, cond);
 642                 break;
 643             }
 644             else if (!strcmp(ftepp_tokval(ftepp), "ifndef")) {
 645                 if (!ftepp_ifdef(ftepp, &cond))
 646                     return false;
 647                 cond.on = !cond.on;
 648                 cond.was_on = cond.on;
 649                 vec_push(ftepp->conditions, cond);
 650                 break;
 651             }
 652             else if (!strcmp(ftepp_tokval(ftepp), "elifdef")) {
 653                 if (!ftepp_else_allowed(ftepp))
 654                     return false;
 655                 if (!ftepp_ifdef(ftepp, &cond))
 656                     return false;
 657                 pc = &vec_last(ftepp->conditions);
 658                 pc->on     = !pc->was_on && cond.on;
 659                 pc->was_on = pc->was_on || pc->on;
 660                 break;
 661             }
 662             else if (!strcmp(ftepp_tokval(ftepp), "elifndef")) {
 663                 if (!ftepp_else_allowed(ftepp))
 664                     return false;
 665                 if (!ftepp_ifdef(ftepp, &cond))
 666                     return false;
 667                 cond.on = !cond.on;
 668                 pc = &vec_last(ftepp->conditions);
 669                 pc->on     = !pc->was_on && cond.on;
 670                 pc->was_on = pc->was_on || pc->on;
 671                 break;
 672             }
 673             else if (!strcmp(ftepp_tokval(ftepp), "elif")) {
 674                 if (!ftepp_else_allowed(ftepp))
 675                     return false;
 676                 if (!ftepp_if(ftepp, &cond))
 677                     return false;
 678                 pc = &vec_last(ftepp->conditions);
 679                 pc->on     = !pc->was_on && cond.on;
 680                 pc->was_on = pc->was_on  || pc->on;
 681                 break;
 682             }
 683             else if (!strcmp(ftepp_tokval(ftepp), "if")) {
 684                 if (!ftepp_if(ftepp, &cond))
 685                     return false;
 686                 cond.was_on = cond.on;
 687                 vec_push(ftepp->conditions, cond);
 688                 break;
 689             }
 690             else if (!strcmp(ftepp_tokval(ftepp), "else")) {
 691                 if (!ftepp_else_allowed(ftepp))
 692                     return false;
 693                 pc = &vec_last(ftepp->conditions);
 694                 pc->on = !pc->was_on;
 695                 pc->had_else = true;
 696                 ftepp_next(ftepp);
 697                 break;
 698             }
 699             else if (!strcmp(ftepp_tokval(ftepp), "endif")) {
 700                 if (!vec_size(ftepp->conditions)) {
 701                     ftepp_error(ftepp, "#endif without #if");
 702                     return false;
 703                 }
 704                 vec_pop(ftepp->conditions);
 705                 ftepp_next(ftepp);
 706                 break;
 707             }
 708             else {
 709                 ftepp_error(ftepp, "unrecognized preprocessor directive: `%s`", ftepp_tokval(ftepp));
 710                 return false;
 711             }
 712             break;
 713         default:
 714             ftepp_error(ftepp, "unexpected preprocessor token: `%s`", ftepp_tokval(ftepp));
 715             return false;
 716         case TOKEN_EOL:
 717             ftepp_errorat(ftepp, ctx, "empty preprocessor directive");
 718             return false;
 719         case TOKEN_EOF:
 720             ftepp_error(ftepp, "missing newline at end of file", ftepp_tokval(ftepp));
 721             return false;
 722     }
 723     if (!ftepp_skipspace(ftepp))
 724         return false;
 725     return true;
 726 }
 727
 728 static bool ftepp_preprocess(ftepp_t *ftepp)
 729 {
 730     ppmacro *macro;
 731     bool     newline = true;
 732
 733     ftepp->lex->flags.preprocessing = true;
 734     ftepp->lex->flags.mergelines    = false;
 735     ftepp->lex->flags.noops         = true;
 736
 737     ftepp_next(ftepp);
 738     do
 739     {
 740         if (ftepp->token >= TOKEN_EOF)
 741             break;
 742
 743         ftepp->newline = newline;
 744         newline = false;
 745
 746         switch (ftepp->token) {
 747             case TOKEN_KEYWORD:
 748             case TOKEN_IDENT:
 749             case TOKEN_TYPENAME:
 750                 macro = ftepp_macro_find(ftepp, ftepp_tokval(ftepp));
 751                 if (!macro) {
 752                     ftepp_out(ftepp, ftepp_tokval(ftepp), false);
 753                     ftepp_next(ftepp);
 754                     break;
 755                 }
 756                 if (!ftepp_macro_call(ftepp, macro))
 757                     ftepp->token = TOKEN_ERROR;
 758                 break;
 759             case '#':
 760                 if (!ftepp->newline) {
 761                     ftepp_out(ftepp, ftepp_tokval(ftepp), false);
 762                     ftepp_next(ftepp);
 763                     break;
 764                 }
 765                 ftepp->lex->flags.mergelines = true;
 766                 if (ftepp_next(ftepp) >= TOKEN_EOF) {
 767                     ftepp_error(ftepp, "error in preprocessor directive");
 768                     ftepp->token = TOKEN_ERROR;
 769                     break;
 770                 }
 771                 if (!ftepp_hash(ftepp))
 772                     ftepp->token = TOKEN_ERROR;
 773                 ftepp->lex->flags.mergelines = false;
 774                 break;
 775             case TOKEN_EOL:
 776                 newline = true;
 777                 ftepp_out(ftepp, "\n", true);
 778                 ftepp_next(ftepp);
 779                 break;
 780             default:
 781                 ftepp_out(ftepp, ftepp_tokval(ftepp), false);
 782                 ftepp_next(ftepp);
 783                 break;
 784         }
 785     } while (!ftepp->errors && ftepp->token < TOKEN_EOF);
 786
 787     newline = ftepp->token == TOKEN_EOF;
 788     ftepp_delete(ftepp);
 789     return newline;
 790 }
 791
 792 bool ftepp_preprocess_file(const char *filename)
 793 {
 794     ftepp_t *ftepp = ftepp_init();
 795     ftepp->lex = lex_open(filename);
 796     if (!ftepp->lex) {
 797         con_out("failed to open file \"%s\"\n", filename);
 798         return false;
 799     }
 800     return ftepp_preprocess(ftepp);
 801 }
 802
 803 bool ftepp_preprocess_string(const char *name, const char *str)
 804 {
 805     ftepp_t *ftepp = ftepp_init();
 806     ftepp->lex = lex_open_string(str, strlen(str), name);
 807     if (!ftepp->lex) {
 808         con_out("failed to create lexer for string \"%s\"\n", name);
 809         return false;
 810     }
 811     return ftepp_preprocess(ftepp);
 812 }