]> git.xonotic.org Git - xonotic/gmqcc.git/blob - fold.c
hopefully sanitize field creation logic a bit
[xonotic/gmqcc.git] / fold.c
1 /*
2  * Copyright (C) 2012, 2013, 2014
3  *     Dale Weiler
4  *
5  * Permission is hereby granted, free of charge, to any person obtaining a copy of
6  * this software and associated documentation files (the "Software"), to deal in
7  * the Software without restriction, including without limitation the rights to
8  * use, copy, modify, merge, publish, distribute, sublicense, and/or sell copies
9  * of the Software, and to permit persons to whom the Software is furnished to do
10  * so, subject to the following conditions:
11  *
12  * The above copyright notice and this permission notice shall be included in all
13  * copies or substantial portions of the Software.
14  *
15  * THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS OR
16  * IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY,
17  * FITNESS FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT. IN NO EVENT SHALL THE
18  * AUTHORS OR COPYRIGHT HOLDERS BE LIABLE FOR ANY CLAIM, DAMAGES OR OTHER
19  * LIABILITY, WHETHER IN AN ACTION OF CONTRACT, TORT OR OTHERWISE, ARISING FROM,
20  * OUT OF OR IN CONNECTION WITH THE SOFTWARE OR THE USE OR OTHER DEALINGS IN THE
21  * SOFTWARE.
22  */
23 #include <string.h>
24 #include <math.h>
25
26 #include "ast.h"
27 #include "parser.h"
28
29 #define FOLD_STRING_UNTRANSLATE_HTSIZE 1024
30 #define FOLD_STRING_DOTRANSLATE_HTSIZE 1024
31
32 /* The options to use for inexact and arithmetic exceptions */
33 #define FOLD_ROUNDING SFLOAT_ROUND_NEAREST_EVEN
34 #define FOLD_TINYNESS SFLOAT_TBEFORE
35
36 /*
37  * The constant folder is also responsible for validating if the constant
38  * expressions produce valid results. We cannot trust the FPU control
39  * unit for these exceptions because setting FPU control words might not
40  * work. Systems can set and enforce FPU modes of operation. It's also valid
41  * for libc's to simply ignore FPU exceptions. For instance ARM CPUs in
42  * glibc. We implement some trivial and IEE 754 conformant functions which
43  * emulate those operations. This is an entierly optional compiler feature
44  * which shouldn't be enabled for anything other than performing strict
45  * passes on constant expressions since it's quite slow.
46  */
47 typedef uint32_t sfloat_t;
48
49 typedef union {
50     qcfloat_t f;
51     sfloat_t  s;
52 } sfloat_cast_t;
53
54 typedef enum {
55     SFLOAT_NOEXCEPT  = 0,
56     SFLOAT_INVALID   = 1,
57     SFLOAT_DIVBYZERO = 4,
58     SFLOAT_OVERFLOW  = 8,
59     SFLOAT_UNDERFLOW = 16,
60     SFLOAT_INEXACT   = 32
61 } sfloat_exceptionflags_t;
62
63 typedef enum {
64     SFLOAT_ROUND_NEAREST_EVEN,
65     SFLOAT_ROUND_DOWN,
66     SFLOAT_ROUND_UP,
67     SFLOAT_ROUND_TO_ZERO
68 } sfloat_roundingmode_t;
69
70 typedef enum {
71     SFLOAT_TAFTER,
72     SFLOAT_TBEFORE
73 } sfloat_tdetect_t;
74
75 typedef struct {
76     sfloat_roundingmode_t   roundingmode;
77     sfloat_exceptionflags_t exceptionflags;
78     sfloat_tdetect_t        tiny;
79 } sfloat_state_t;
80
81 /* Count of leading zero bits before the most-significand 1 bit. */
82 #ifdef _MSC_VER
83 /* MSVC has an intrinsic for this */
84     static GMQCC_INLINE uint32_t sfloat_clz(uint32_t x) {
85         int r = 0;
86         _BitScanForward(&r, x);
87         return r;
88     }
89 #   define SFLOAT_CLZ(X, SUB) \
90         (sfloat_clz((X)) - (SUB))
91 #elif defined(__GNUC__) || defined(__CLANG__)
92 /* Clang and GCC have a builtin for this */
93 #   define SFLOAT_CLZ(X, SUB) \
94         (__builtin_clz((X)) - (SUB))
95 #else
96 /* Native fallback */
97     static GMQCC_INLINE uint32_t sfloat_popcnt(uint32_t x) {
98         x -= ((x >> 1) & 0x55555555);
99         x  = (((x >> 2) & 0x33333333) + (x & 0x33333333));
100         x  = (((x >> 4) + x) & 0x0F0F0F0F);
101         x += x >> 8;
102         x += x >> 16;
103         return x & 0x0000003F;
104     }
105     static GMQCC_INLINE uint32_t sfloat_clz(uint32_t x) {
106         x |= (x >> 1);
107         x |= (x >> 2);
108         x |= (x >> 4);
109         x |= (x >> 8);
110         x |= (x >> 16);
111         return 32 - sfloat_popcnt(x);
112     }
113 #   define SFLOAT_CLZ(X, SUB) \
114         (sfloat_clz((X) - (SUB)))
115 #endif
116
117 /* The value of a NaN */
118 #define SFLOAT_NAN 0xFFC00000
119 /* Test if NaN */
120 #define SFLOAT_ISNAN(A) \
121     (0xFF000000 < (uint32_t)((A) << 1))
122 /* Test if signaling NaN */
123 #define SFLOAT_ISSNAN(A) \
124     (((((A) >> 22) & 0x1FF) == 0x1FE) && ((A) & 0x003FFFFF))
125 /* Raise exception */
126 #define SFLOAT_RAISE(STATE, FLAGS) \
127     ((STATE)->exceptionflags = (sfloat_exceptionflags_t)((STATE)->exceptionflags | (FLAGS)))
128 /*
129  * Shifts `A' right `COUNT' bits. Non-zero bits are stored in LSB. Size
130  * sets the arbitrarly-large limit.
131  */
132 #define SFLOAT_SHIFT(SIZE, A, COUNT, Z)                                      \
133     *(Z) = ((COUNT) == 0)                                                    \
134         ? 1                                                                  \
135         : (((COUNT) < (SIZE))                                                \
136             ? ((A) >> (COUNT)) | (((A) << ((-(COUNT)) & ((SIZE) - 1))) != 0) \
137             : ((A) != 0))
138 /* Extract fractional component */
139 #define SFLOAT_EXTRACT_FRAC(X) \
140     ((uint32_t)((X) & 0x007FFFFF))
141 /* Extract exponent component */
142 #define SFLOAT_EXTRACT_EXP(X) \
143     ((int16_t)((X) >> 23) & 0xFF)
144 /* Extract sign bit */
145 #define SFLOAT_EXTRACT_SIGN(X) \
146     ((X) >> 31)
147 /* Normalize a subnormal */
148 #define SFLOAT_SUBNORMALIZE(SA, Z, SZ) \
149     (void)(*(SZ) = (SA) << SFLOAT_CLZ((SA), 8), *(SZ) = 1 - SFLOAT_CLZ((SA), 8))
150 /*
151  * Pack sign, exponent and significand and produce a float.
152  *
153  * Integer portions of the significand are added to the exponent. The
154  * exponent input should be one less than the result exponent whenever
155  * the significand is normalized since normalized significand will
156  * always have an integer portion of value one.
157  */
158 #define SFLOAT_PACK(SIGN, EXP, SIG) \
159     (sfloat_t)((((uint32_t)(SIGN)) << 31) + (((uint32_t)(EXP)) << 23) + (SIG))
160
161 /* Calculate NaN. If either operands are signaling then raise invalid */
162 static sfloat_t sfloat_propagate_nan(sfloat_state_t *state, sfloat_t a, sfloat_t b) {
163     bool isnan_a  = SFLOAT_ISNAN(a);
164     bool issnan_a = SFLOAT_ISSNAN(a);
165     bool isnan_b  = SFLOAT_ISNAN(b);
166     bool issnan_b = SFLOAT_ISSNAN(b);
167
168     a |= 0x00400000;
169     b |= 0x00400000;
170
171     if (issnan_a | issnan_b)
172         SFLOAT_RAISE(state, SFLOAT_INEXACT);
173     if (issnan_a) {
174         if (issnan_b)
175             goto larger;
176         return isnan_b ? b : a;
177     } else if (isnan_a) {
178         if (issnan_b | !isnan_b)
179             return a;
180 larger:
181         if ((uint32_t)(a << 1) < (uint32_t)(b << 1)) return b;
182         if ((uint32_t)(b << 1) < (uint32_t)(a << 1)) return a;
183         return (a < b) ? a : b;
184     }
185     return b;
186 }
187
188 /* Round and pack */
189 static sfloat_t SFLOAT_PACK_round(sfloat_state_t *state, bool sign_z, int16_t exp_z, uint32_t sig_z) {
190     sfloat_roundingmode_t mode      = state->roundingmode;
191     bool                  even      = !!(mode == SFLOAT_ROUND_NEAREST_EVEN);
192     unsigned char         increment = 0x40;
193     unsigned char         bits      = sig_z & 0x7F;
194
195     if (!even) {
196         if (mode == SFLOAT_ROUND_TO_ZERO)
197             increment = 0;
198         else {
199             increment = 0x7F;
200             if (sign_z) {
201                 if (mode == SFLOAT_ROUND_UP)
202                     increment = 0;
203             } else {
204                 if (mode == SFLOAT_ROUND_DOWN)
205                     increment = 0;
206             }
207         }
208     }
209
210     if (0xFD <= (uint16_t)exp_z) {
211         if ((0xFD < exp_z) || ((exp_z == 0xFD) && ((int32_t)(sig_z + increment) < 0))) {
212             SFLOAT_RAISE(state, SFLOAT_OVERFLOW | SFLOAT_INEXACT);
213             return SFLOAT_PACK(sign_z, 0xFF, 0) - (increment == 0);
214         }
215         if (exp_z < 0) {
216             /* Check for underflow */
217             bool tiny = (state->tiny == SFLOAT_TBEFORE) || (exp_z < -1) || (sig_z + increment < 0x80000000);
218             SFLOAT_SHIFT(32, sig_z, -exp_z, &sig_z);
219             exp_z = 0;
220             bits = sig_z & 0x7F;
221             if (tiny && bits)
222                 SFLOAT_RAISE(state, SFLOAT_UNDERFLOW);
223         }
224     }
225
226     /*
227      * Significand has point between bits 30 and 29, 7 bits to the left of
228      * the usual place. This shifted significand has to be normalized
229      * or smaller, if it isn't the exponent must be zero, in which case
230      * no rounding occurs since the result will be a subnormal.
231      */
232     if (bits)
233         SFLOAT_RAISE(state, SFLOAT_INEXACT);
234     sig_z = (sig_z + increment) >> 7;
235     sig_z &= ~(((bits ^ 0x40) == 0) & even);
236     if (sig_z == 0)
237         exp_z = 0;
238     return SFLOAT_PACK(sign_z, exp_z, sig_z);
239 }
240
241 /* Normalized round and pack */
242 static sfloat_t SFLOAT_PACK_normal(sfloat_state_t *state, bool sign_z, int16_t exp_z, uint32_t sig_z) {
243     unsigned char c = SFLOAT_CLZ(sig_z, 1);
244     return SFLOAT_PACK_round(state, sign_z, exp_z - c, sig_z << c);
245 }
246
247 static sfloat_t sfloat_add_impl(sfloat_state_t *state, sfloat_t a, sfloat_t b, bool sign_z) {
248     int16_t  exp_a = SFLOAT_EXTRACT_EXP(a);
249     int16_t  exp_b = SFLOAT_EXTRACT_EXP(b);
250     int16_t  exp_z = 0;
251     int16_t  exp_d = exp_a - exp_b;
252     uint32_t sig_a = SFLOAT_EXTRACT_FRAC(a) << 6;
253     uint32_t sig_b = SFLOAT_EXTRACT_FRAC(b) << 6;
254     uint32_t sig_z = 0;
255
256     if (0 < exp_d) {
257         if (exp_a == 0xFF)
258             return sig_a ? sfloat_propagate_nan(state, a, b) : a;
259         if (exp_b == 0)
260             --exp_d;
261         else
262             sig_b |= 0x20000000;
263         SFLOAT_SHIFT(32, sig_b, exp_d, &sig_b);
264         exp_z = exp_a;
265     } else if (exp_d < 0) {
266         if (exp_b == 0xFF)
267             return sig_b ? sfloat_propagate_nan(state, a, b) : SFLOAT_PACK(sign_z, 0xFF, 0);
268         if (exp_a == 0)
269             ++exp_d;
270         else
271             sig_a |= 0x20000000;
272         SFLOAT_SHIFT(32, sig_a, -exp_d, &sig_a);
273         exp_z = exp_b;
274     } else {
275         if (exp_a == 0xFF)
276             return (sig_a | sig_b) ? sfloat_propagate_nan(state, a, b) : a;
277         if (exp_a == 0)
278             return SFLOAT_PACK(sign_z, 0, (sig_a + sig_b) >> 6);
279         sig_z = 0x40000000 + sig_a + sig_b;
280         exp_z = exp_a;
281         goto end;
282     }
283     sig_a |= 0x20000000;
284     sig_z = (sig_a + sig_b) << 1;
285     --exp_z;
286     if ((int32_t)sig_z < 0) {
287         sig_z = sig_a + sig_b;
288         ++exp_z;
289     }
290 end:
291     return SFLOAT_PACK_round(state, sign_z, exp_z, sig_z);
292 }
293
294 static sfloat_t sfloat_sub_impl(sfloat_state_t *state, sfloat_t a, sfloat_t b, bool sign_z) {
295     int16_t  exp_a = SFLOAT_EXTRACT_EXP(a);
296     int16_t  exp_b = SFLOAT_EXTRACT_EXP(b);
297     int16_t  exp_z = 0;
298     int16_t  exp_d = exp_a - exp_b;
299     uint32_t sig_a = SFLOAT_EXTRACT_FRAC(a) << 7;
300     uint32_t sig_b = SFLOAT_EXTRACT_FRAC(b) << 7;
301     uint32_t sig_z = 0;
302
303     if (0 < exp_d) goto exp_greater_a;
304     if (exp_d < 0) goto exp_greater_b;
305
306     if (exp_a == 0xFF) {
307         if (sig_a | sig_b)
308             return sfloat_propagate_nan(state, a, b);
309         SFLOAT_RAISE(state, SFLOAT_INVALID);
310         return SFLOAT_NAN;
311     }
312
313     if (exp_a == 0)
314         exp_a = exp_b = 1;
315
316     if (sig_b < sig_a) goto greater_a;
317     if (sig_a < sig_b) goto greater_b;
318
319     return SFLOAT_PACK(state->roundingmode == SFLOAT_ROUND_DOWN, 0, 0);
320
321 exp_greater_b:
322     if (exp_b == 0xFF)
323         return (sig_b) ? sfloat_propagate_nan(state, a, b) : SFLOAT_PACK(sign_z ^ 1, 0xFF, 0);
324     if (exp_a == 0)
325         ++exp_d;
326     else
327         sig_a |= 0x40000000;
328     SFLOAT_SHIFT(32, sig_a, -exp_d, &sig_a);
329     sig_b |= 0x40000000;
330 greater_b:
331     sig_z = sig_b - sig_a;
332     exp_z = exp_b;
333     sign_z ^= 1;
334     goto end;
335
336 exp_greater_a:
337     if (exp_a == 0xFF)
338         return (sig_a) ? sfloat_propagate_nan(state, a, b) : a;
339     if (exp_b == 0)
340         --exp_d;
341     else
342         sig_b |= 0x40000000;
343     SFLOAT_SHIFT(32, sig_b, exp_d, &sig_b);
344     sig_a |= 0x40000000;
345 greater_a:
346     sig_z = sig_a - sig_b;
347     exp_z = exp_a;
348
349 end:
350     --exp_z;
351     return SFLOAT_PACK_normal(state, sign_z, exp_z, sig_z);
352 }
353
354 static GMQCC_INLINE sfloat_t sfloat_add(sfloat_state_t *state, sfloat_t a, sfloat_t b) {
355     bool sign_a = SFLOAT_EXTRACT_SIGN(a);
356     bool sign_b = SFLOAT_EXTRACT_SIGN(b);
357     return (sign_a == sign_b) ? sfloat_add_impl(state, a, b, sign_a)
358                               : sfloat_sub_impl(state, a, b, sign_a);
359 }
360
361 static GMQCC_INLINE sfloat_t sfloat_sub(sfloat_state_t *state, sfloat_t a, sfloat_t b) {
362     bool sign_a = SFLOAT_EXTRACT_SIGN(a);
363     bool sign_b = SFLOAT_EXTRACT_SIGN(b);
364     return (sign_a == sign_b) ? sfloat_sub_impl(state, a, b, sign_a)
365                               : sfloat_add_impl(state, a, b, sign_a);
366 }
367
368 static sfloat_t sfloat_mul(sfloat_state_t *state, sfloat_t a, sfloat_t b) {
369     int16_t  exp_a   = SFLOAT_EXTRACT_EXP(a);
370     int16_t  exp_b   = SFLOAT_EXTRACT_EXP(b);
371     int16_t  exp_z   = 0;
372     uint32_t sig_a   = SFLOAT_EXTRACT_FRAC(a);
373     uint32_t sig_b   = SFLOAT_EXTRACT_FRAC(b);
374     uint32_t sig_z   = 0;
375     uint64_t sig_z64 = 0;
376     bool     sign_a  = SFLOAT_EXTRACT_SIGN(a);
377     bool     sign_b  = SFLOAT_EXTRACT_SIGN(b);
378     bool     sign_z  = sign_a ^ sign_b;
379
380     if (exp_a == 0xFF) {
381         if (sig_a || ((exp_b == 0xFF) && sig_b))
382             return sfloat_propagate_nan(state, a, b);
383         if ((exp_b | sig_b) == 0) {
384             SFLOAT_RAISE(state, SFLOAT_INVALID);
385             return SFLOAT_NAN;
386         }
387         return SFLOAT_PACK(sign_z, 0xFF, 0);
388     }
389     if (exp_b == 0xFF) {
390         if (sig_b)
391             return sfloat_propagate_nan(state, a, b);
392         if ((exp_a | sig_a) == 0) {
393             SFLOAT_RAISE(state, SFLOAT_INVALID);
394             return SFLOAT_NAN;
395         }
396         return SFLOAT_PACK(sign_z, 0xFF, 0);
397     }
398     if (exp_a == 0) {
399         if (sig_a == 0)
400             return SFLOAT_PACK(sign_z, 0, 0);
401         SFLOAT_SUBNORMALIZE(sig_a, &exp_a, &sig_a);
402     }
403     if (exp_b == 0) {
404         if (sig_b == 0)
405             return SFLOAT_PACK(sign_z, 0, 0);
406         SFLOAT_SUBNORMALIZE(sig_b, &exp_b, &sig_b);
407     }
408     exp_z = exp_a + exp_b - 0x7F;
409     sig_a = (sig_a | 0x00800000) << 7;
410     sig_b = (sig_b | 0x00800000) << 8;
411     SFLOAT_SHIFT(64, ((uint64_t)sig_a) * sig_b, 32, &sig_z64);
412     sig_z = sig_z64;
413     if (0 <= (int32_t)(sig_z << 1)) {
414         sig_z <<= 1;
415         --exp_z;
416     }
417     return SFLOAT_PACK_round(state, sign_z, exp_z, sig_z);
418 }
419
420 static sfloat_t sfloat_div(sfloat_state_t *state, sfloat_t a, sfloat_t b) {
421     int16_t  exp_a   = SFLOAT_EXTRACT_EXP(a);
422     int16_t  exp_b   = SFLOAT_EXTRACT_EXP(b);
423     int16_t  exp_z   = 0;
424     uint32_t sig_a   = SFLOAT_EXTRACT_FRAC(a);
425     uint32_t sig_b   = SFLOAT_EXTRACT_FRAC(b);
426     uint32_t sig_z   = 0;
427     bool     sign_a  = SFLOAT_EXTRACT_SIGN(a);
428     bool     sign_b  = SFLOAT_EXTRACT_SIGN(b);
429     bool     sign_z  = sign_a ^ sign_b;
430
431     if (exp_a == 0xFF) {
432         if (sig_a)
433             return sfloat_propagate_nan(state, a, b);
434         if (exp_b == 0xFF) {
435             if (sig_b)
436                 return sfloat_propagate_nan(state, a, b);
437             SFLOAT_RAISE(state, SFLOAT_INVALID);
438             return SFLOAT_NAN;
439         }
440         return SFLOAT_PACK(sign_z, 0xFF, 0);
441     }
442     if (exp_b == 0xFF)
443         return (sig_b) ? sfloat_propagate_nan(state, a, b) : SFLOAT_PACK(sign_z, 0, 0);
444     if (exp_b == 0) {
445         if (sig_b == 0) {
446             if ((exp_a | sig_a) == 0) {
447                 SFLOAT_RAISE(state, SFLOAT_INVALID);
448                 return SFLOAT_NAN;
449             }
450             SFLOAT_RAISE(state, SFLOAT_DIVBYZERO);
451             return SFLOAT_PACK(sign_z, 0xFF, 0);
452         }
453         SFLOAT_SUBNORMALIZE(sig_b, &exp_b, &sig_b);
454     }
455     if (exp_a == 0) {
456         if (sig_a == 0)
457             return SFLOAT_PACK(sign_z, 0, 0);
458         SFLOAT_SUBNORMALIZE(sig_a, &exp_a, &sig_a);
459     }
460     exp_z = exp_a - exp_b + 0x7D;
461     sig_a = (sig_a | 0x00800000) << 7;
462     sig_b = (sig_b | 0x00800000) << 8;
463     if (sig_b <= (sig_a + sig_a)) {
464         sig_a >>= 1;
465         ++exp_z;
466     }
467     sig_z = (((uint64_t)sig_a) << 32) / sig_b;
468     if ((sig_z & 0x3F) == 0)
469         sig_z |= ((uint64_t)sig_b * sig_z != ((uint64_t)sig_a) << 32);
470     return SFLOAT_PACK_round(state, sign_z, exp_z, sig_z);
471 }
472
473 static GMQCC_INLINE void sfloat_check(lex_ctx_t ctx, sfloat_state_t *state, const char *vec) {
474     /* Exception comes from vector component */
475     if (vec) {
476         if (state->exceptionflags & SFLOAT_DIVBYZERO)
477             compile_error(ctx, "division by zero in `%s' component", vec);
478         if (state->exceptionflags & SFLOAT_INVALID)
479             compile_error(ctx, "undefined (inf) in `%s' component", vec);
480         if (state->exceptionflags & SFLOAT_OVERFLOW)
481             compile_error(ctx, "arithmetic overflow in `%s' component", vec);
482         if (state->exceptionflags & SFLOAT_UNDERFLOW)
483             compile_error(ctx, "arithmetic underflow in `%s' component", vec);
484             return;
485     }
486     if (state->exceptionflags & SFLOAT_DIVBYZERO)
487         compile_error(ctx, "division by zero");
488     if (state->exceptionflags & SFLOAT_INVALID)
489         compile_error(ctx, "undefined (inf)");
490     if (state->exceptionflags & SFLOAT_OVERFLOW)
491         compile_error(ctx, "arithmetic overflow");
492     if (state->exceptionflags & SFLOAT_UNDERFLOW)
493         compile_error(ctx, "arithmetic underflow");
494 }
495
496 static GMQCC_INLINE void sfloat_init(sfloat_state_t *state) {
497     state->exceptionflags = SFLOAT_NOEXCEPT;
498     state->roundingmode   = FOLD_ROUNDING;
499     state->tiny           = FOLD_TINYNESS;
500 }
501
502 /*
503  * There is two stages to constant folding in GMQCC: there is the parse
504  * stage constant folding, where, witht he help of the AST, operator
505  * usages can be constant folded. Then there is the constant folding
506  * in the IR for things like eliding if statements, can occur.
507  *
508  * This file is thus, split into two parts.
509  */
510
511 #define isfloat(X)      (((ast_expression*)(X))->vtype == TYPE_FLOAT)
512 #define isvector(X)     (((ast_expression*)(X))->vtype == TYPE_VECTOR)
513 #define isstring(X)     (((ast_expression*)(X))->vtype == TYPE_STRING)
514 #define isfloats(X,Y)   (isfloat  (X) && isfloat (Y))
515
516 /*
517  * Implementation of basic vector math for vec3_t, for trivial constant
518  * folding.
519  *
520  * TODO: gcc/clang hinting for autovectorization
521  */
522 typedef enum {
523     VEC_COMP_X = 1 << 0,
524     VEC_COMP_Y = 1 << 1,
525     VEC_COMP_Z = 1 << 2
526 } vec3_comp_t;
527
528 typedef struct {
529     sfloat_cast_t x;
530     sfloat_cast_t y;
531     sfloat_cast_t z;
532 } vec3_soft_t;
533
534 typedef struct {
535     vec3_comp_t    faults;
536     sfloat_state_t state[3];
537 } vec3_soft_state_t;
538
539 static GMQCC_INLINE vec3_soft_t vec3_soft_convert(vec3_t vec) {
540     vec3_soft_t soft;
541     soft.x.f = vec.x;
542     soft.y.f = vec.y;
543     soft.z.f = vec.z;
544     return soft;
545 }
546
547 static GMQCC_INLINE bool vec3_soft_exception(vec3_soft_state_t *vstate, size_t index) {
548     sfloat_exceptionflags_t flags = vstate->state[index].exceptionflags;
549     if (flags & SFLOAT_DIVBYZERO) return true;
550     if (flags & SFLOAT_INVALID)   return true;
551     if (flags & SFLOAT_OVERFLOW)  return true;
552     if (flags & SFLOAT_UNDERFLOW) return true;
553     return false;
554 }
555
556 static GMQCC_INLINE void vec3_soft_eval(vec3_soft_state_t *state,
557                                         sfloat_t         (*callback)(sfloat_state_t *, sfloat_t, sfloat_t),
558                                         vec3_t             a,
559                                         vec3_t             b)
560 {
561     vec3_soft_t sa = vec3_soft_convert(a);
562     vec3_soft_t sb = vec3_soft_convert(b);
563     callback(&state->state[0], sa.x.s, sb.x.s);
564     if (vec3_soft_exception(state, 0)) state->faults = (vec3_comp_t)(state->faults | VEC_COMP_X);
565     callback(&state->state[1], sa.y.s, sb.y.s);
566     if (vec3_soft_exception(state, 1)) state->faults = (vec3_comp_t)(state->faults | VEC_COMP_Y);
567     callback(&state->state[2], sa.z.s, sb.z.s);
568     if (vec3_soft_exception(state, 2)) state->faults = (vec3_comp_t)(state->faults | VEC_COMP_Z);
569 }
570
571 static GMQCC_INLINE void vec3_check_except(vec3_t     a,
572                                            vec3_t     b,
573                                            lex_ctx_t  ctx,
574                                            sfloat_t (*callback)(sfloat_state_t *, sfloat_t, sfloat_t))
575 {
576     vec3_soft_state_t state;
577
578     if (!OPTS_FLAG(ARITHMETIC_EXCEPTIONS))
579         return;
580
581     sfloat_init(&state.state[0]);
582     sfloat_init(&state.state[1]);
583     sfloat_init(&state.state[2]);
584
585     vec3_soft_eval(&state, callback, a, b);
586     if (state.faults & VEC_COMP_X) sfloat_check(ctx, &state.state[0], "x");
587     if (state.faults & VEC_COMP_Y) sfloat_check(ctx, &state.state[1], "y");
588     if (state.faults & VEC_COMP_Z) sfloat_check(ctx, &state.state[2], "z");
589 }
590
591 static GMQCC_INLINE vec3_t vec3_add(lex_ctx_t ctx, vec3_t a, vec3_t b) {
592     vec3_t out;
593     vec3_check_except(a, b, ctx, &sfloat_add);
594     out.x = a.x + b.x;
595     out.y = a.y + b.y;
596     out.z = a.z + b.z;
597     return out;
598 }
599
600 static GMQCC_INLINE vec3_t vec3_sub(lex_ctx_t ctx, vec3_t a, vec3_t b) {
601     vec3_t out;
602     vec3_check_except(a, b, ctx, &sfloat_sub);
603     out.x = a.x - b.x;
604     out.y = a.y - b.y;
605     out.z = a.z - b.z;
606     return out;
607 }
608
609 static GMQCC_INLINE vec3_t vec3_neg(vec3_t a) {
610     vec3_t out;
611     out.x = -a.x;
612     out.y = -a.y;
613     out.z = -a.z;
614     return out;
615 }
616
617 static GMQCC_INLINE vec3_t vec3_or(vec3_t a, vec3_t b) {
618     vec3_t out;
619     out.x = (qcfloat_t)(((qcint_t)a.x) | ((qcint_t)b.x));
620     out.y = (qcfloat_t)(((qcint_t)a.y) | ((qcint_t)b.y));
621     out.z = (qcfloat_t)(((qcint_t)a.z) | ((qcint_t)b.z));
622     return out;
623 }
624
625 static GMQCC_INLINE vec3_t vec3_orvf(vec3_t a, qcfloat_t b) {
626     vec3_t out;
627     out.x = (qcfloat_t)(((qcint_t)a.x) | ((qcint_t)b));
628     out.y = (qcfloat_t)(((qcint_t)a.y) | ((qcint_t)b));
629     out.z = (qcfloat_t)(((qcint_t)a.z) | ((qcint_t)b));
630     return out;
631 }
632
633 static GMQCC_INLINE vec3_t vec3_and(vec3_t a, vec3_t b) {
634     vec3_t out;
635     out.x = (qcfloat_t)(((qcint_t)a.x) & ((qcint_t)b.x));
636     out.y = (qcfloat_t)(((qcint_t)a.y) & ((qcint_t)b.y));
637     out.z = (qcfloat_t)(((qcint_t)a.z) & ((qcint_t)b.z));
638     return out;
639 }
640
641 static GMQCC_INLINE vec3_t vec3_andvf(vec3_t a, qcfloat_t b) {
642     vec3_t out;
643     out.x = (qcfloat_t)(((qcint_t)a.x) & ((qcint_t)b));
644     out.y = (qcfloat_t)(((qcint_t)a.y) & ((qcint_t)b));
645     out.z = (qcfloat_t)(((qcint_t)a.z) & ((qcint_t)b));
646     return out;
647 }
648
649 static GMQCC_INLINE vec3_t vec3_xor(vec3_t a, vec3_t b) {
650     vec3_t out;
651     out.x = (qcfloat_t)(((qcint_t)a.x) ^ ((qcint_t)b.x));
652     out.y = (qcfloat_t)(((qcint_t)a.y) ^ ((qcint_t)b.y));
653     out.z = (qcfloat_t)(((qcint_t)a.z) ^ ((qcint_t)b.z));
654     return out;
655 }
656
657 static GMQCC_INLINE vec3_t vec3_xorvf(vec3_t a, qcfloat_t b) {
658     vec3_t out;
659     out.x = (qcfloat_t)(((qcint_t)a.x) ^ ((qcint_t)b));
660     out.y = (qcfloat_t)(((qcint_t)a.y) ^ ((qcint_t)b));
661     out.z = (qcfloat_t)(((qcint_t)a.z) ^ ((qcint_t)b));
662     return out;
663 }
664
665 static GMQCC_INLINE vec3_t vec3_not(vec3_t a) {
666     vec3_t out;
667     out.x = -1-a.x;
668     out.y = -1-a.y;
669     out.z = -1-a.z;
670     return out;
671 }
672
673 static GMQCC_INLINE qcfloat_t vec3_mulvv(lex_ctx_t ctx, vec3_t a, vec3_t b) {
674     vec3_soft_t    sa;
675     vec3_soft_t    sb;
676     sfloat_state_t s[5];
677     sfloat_t       r[5];
678
679     if (!OPTS_FLAG(ARITHMETIC_EXCEPTIONS))
680         goto end;
681
682     sa = vec3_soft_convert(a);
683     sb = vec3_soft_convert(b);
684
685     sfloat_init(&s[0]);
686     sfloat_init(&s[1]);
687     sfloat_init(&s[2]);
688     sfloat_init(&s[3]);
689     sfloat_init(&s[4]);
690
691     r[0] = sfloat_mul(&s[0], sa.x.s, sb.x.s);
692     r[1] = sfloat_mul(&s[1], sa.y.s, sb.y.s);
693     r[2] = sfloat_mul(&s[2], sa.z.s, sb.z.s);
694     r[3] = sfloat_add(&s[3], r[0],   r[1]);
695     r[4] = sfloat_add(&s[4], r[3],   r[2]);
696
697     sfloat_check(ctx, &s[0], NULL);
698     sfloat_check(ctx, &s[1], NULL);
699     sfloat_check(ctx, &s[2], NULL);
700     sfloat_check(ctx, &s[3], NULL);
701     sfloat_check(ctx, &s[4], NULL);
702
703 end:
704     return (a.x * b.x + a.y * b.y + a.z * b.z);
705 }
706
707 static GMQCC_INLINE vec3_t vec3_mulvf(lex_ctx_t ctx, vec3_t a, qcfloat_t b) {
708     vec3_t         out;
709     vec3_soft_t    sa;
710     sfloat_cast_t  sb;
711     sfloat_state_t s[3];
712
713     if (!OPTS_FLAG(ARITHMETIC_EXCEPTIONS))
714         goto end;
715
716     sa   = vec3_soft_convert(a);
717     sb.f = b;
718     sfloat_init(&s[0]);
719     sfloat_init(&s[1]);
720     sfloat_init(&s[2]);
721
722     sfloat_mul(&s[0], sa.x.s, sb.s);
723     sfloat_mul(&s[1], sa.y.s, sb.s);
724     sfloat_mul(&s[2], sa.z.s, sb.s);
725
726     sfloat_check(ctx, &s[0], "x");
727     sfloat_check(ctx, &s[1], "y");
728     sfloat_check(ctx, &s[2], "z");
729
730 end:
731     out.x = a.x * b;
732     out.y = a.y * b;
733     out.z = a.z * b;
734     return out;
735 }
736
737 static GMQCC_INLINE bool vec3_cmp(vec3_t a, vec3_t b) {
738     return a.x == b.x &&
739            a.y == b.y &&
740            a.z == b.z;
741 }
742
743 static GMQCC_INLINE vec3_t vec3_create(float x, float y, float z) {
744     vec3_t out;
745     out.x = x;
746     out.y = y;
747     out.z = z;
748     return out;
749 }
750
751 static GMQCC_INLINE qcfloat_t vec3_notf(vec3_t a) {
752     return (!a.x && !a.y && !a.z);
753 }
754
755 static GMQCC_INLINE bool vec3_pbool(vec3_t a) {
756     return (a.x || a.y || a.z);
757 }
758
759 static GMQCC_INLINE vec3_t vec3_cross(lex_ctx_t ctx, vec3_t a, vec3_t b) {
760     vec3_t         out;
761     vec3_soft_t    sa;
762     vec3_soft_t    sb;
763     sfloat_t       r[9];
764     sfloat_state_t s[9];
765
766     if (!OPTS_FLAG(ARITHMETIC_EXCEPTIONS))
767         goto end;
768
769     sa = vec3_soft_convert(a);
770     sb = vec3_soft_convert(b);
771
772     sfloat_init(&s[0]);
773     sfloat_init(&s[1]);
774     sfloat_init(&s[2]);
775     sfloat_init(&s[3]);
776     sfloat_init(&s[4]);
777     sfloat_init(&s[5]);
778     sfloat_init(&s[6]);
779     sfloat_init(&s[7]);
780     sfloat_init(&s[8]);
781
782     r[0] = sfloat_mul(&s[0], sa.y.s, sb.z.s);
783     r[1] = sfloat_mul(&s[1], sa.z.s, sb.y.s);
784     r[2] = sfloat_mul(&s[2], sa.z.s, sb.x.s);
785     r[3] = sfloat_mul(&s[3], sa.x.s, sb.z.s);
786     r[4] = sfloat_mul(&s[4], sa.x.s, sb.y.s);
787     r[5] = sfloat_mul(&s[5], sa.y.s, sb.x.s);
788     r[6] = sfloat_sub(&s[6], r[0],   r[1]);
789     r[7] = sfloat_sub(&s[7], r[2],   r[3]);
790     r[8] = sfloat_sub(&s[8], r[4],   r[5]);
791
792     sfloat_check(ctx, &s[0], NULL);
793     sfloat_check(ctx, &s[1], NULL);
794     sfloat_check(ctx, &s[2], NULL);
795     sfloat_check(ctx, &s[3], NULL);
796     sfloat_check(ctx, &s[4], NULL);
797     sfloat_check(ctx, &s[5], NULL);
798     sfloat_check(ctx, &s[6], "x");
799     sfloat_check(ctx, &s[7], "y");
800     sfloat_check(ctx, &s[8], "z");
801
802 end:
803     out.x = a.y * b.z - a.z * b.y;
804     out.y = a.z * b.x - a.x * b.z;
805     out.z = a.x * b.y - a.y * b.x;
806     return out;
807 }
808
809 static lex_ctx_t fold_ctx(fold_t *fold) {
810     lex_ctx_t ctx;
811     if (fold->parser->lex)
812         return parser_ctx(fold->parser);
813
814     memset(&ctx, 0, sizeof(ctx));
815     return ctx;
816 }
817
818 static GMQCC_INLINE bool fold_immediate_true(fold_t *fold, ast_value *v) {
819     switch (v->expression.vtype) {
820         case TYPE_FLOAT:
821             return !!v->constval.vfloat;
822         case TYPE_INTEGER:
823             return !!v->constval.vint;
824         case TYPE_VECTOR:
825             if (OPTS_FLAG(CORRECT_LOGIC))
826                 return vec3_pbool(v->constval.vvec);
827             return !!(v->constval.vvec.x);
828         case TYPE_STRING:
829             if (!v->constval.vstring)
830                 return false;
831             if (OPTS_FLAG(TRUE_EMPTY_STRINGS))
832                 return true;
833             return !!v->constval.vstring[0];
834         default:
835             compile_error(fold_ctx(fold), "internal error: fold_immediate_true on invalid type");
836             break;
837     }
838     return !!v->constval.vfunc;
839 }
840
841 /* Handy macros to determine if an ast_value can be constant folded. */
842 #define fold_can_1(X)  \
843     (ast_istype(((ast_expression*)(X)), ast_value) && (X)->hasvalue && ((X)->cvq == CV_CONST) && \
844                 ((ast_expression*)(X))->vtype != TYPE_FUNCTION)
845
846 #define fold_can_2(X, Y) (fold_can_1(X) && fold_can_1(Y))
847
848 #define fold_immvalue_float(E)  ((E)->constval.vfloat)
849 #define fold_immvalue_vector(E) ((E)->constval.vvec)
850 #define fold_immvalue_string(E) ((E)->constval.vstring)
851
852 fold_t *fold_init(parser_t *parser) {
853     fold_t *fold                 = (fold_t*)mem_a(sizeof(fold_t));
854     fold->parser                 = parser;
855     fold->imm_float              = NULL;
856     fold->imm_vector             = NULL;
857     fold->imm_string             = NULL;
858     fold->imm_string_untranslate = util_htnew(FOLD_STRING_UNTRANSLATE_HTSIZE);
859     fold->imm_string_dotranslate = util_htnew(FOLD_STRING_DOTRANSLATE_HTSIZE);
860
861     /*
862      * prime the tables with common constant values at constant
863      * locations.
864      */
865     (void)fold_constgen_float (fold,  0.0f, false);
866     (void)fold_constgen_float (fold,  1.0f, false);
867     (void)fold_constgen_float (fold, -1.0f, false);
868     (void)fold_constgen_float (fold,  2.0f, false);
869
870     (void)fold_constgen_vector(fold, vec3_create(0.0f, 0.0f, 0.0f));
871     (void)fold_constgen_vector(fold, vec3_create(-1.0f, -1.0f, -1.0f));
872
873     return fold;
874 }
875
876 bool fold_generate(fold_t *fold, ir_builder *ir) {
877     /* generate globals for immediate folded values */
878     size_t     i;
879     ast_value *cur;
880
881     for (i = 0; i < vec_size(fold->imm_float);   ++i)
882         if (!ast_global_codegen ((cur = fold->imm_float[i]), ir, false)) goto err;
883     for (i = 0; i < vec_size(fold->imm_vector);  ++i)
884         if (!ast_global_codegen((cur = fold->imm_vector[i]), ir, false)) goto err;
885     for (i = 0; i < vec_size(fold->imm_string);  ++i)
886         if (!ast_global_codegen((cur = fold->imm_string[i]), ir, false)) goto err;
887
888     return true;
889
890 err:
891     con_out("failed to generate global %s\n", cur->name);
892     ir_builder_delete(ir);
893     return false;
894 }
895
896 void fold_cleanup(fold_t *fold) {
897     size_t i;
898
899     for (i = 0; i < vec_size(fold->imm_float);  ++i) ast_delete(fold->imm_float[i]);
900     for (i = 0; i < vec_size(fold->imm_vector); ++i) ast_delete(fold->imm_vector[i]);
901     for (i = 0; i < vec_size(fold->imm_string); ++i) ast_delete(fold->imm_string[i]);
902
903     vec_free(fold->imm_float);
904     vec_free(fold->imm_vector);
905     vec_free(fold->imm_string);
906
907     util_htdel(fold->imm_string_untranslate);
908     util_htdel(fold->imm_string_dotranslate);
909
910     mem_d(fold);
911 }
912
913 ast_expression *fold_constgen_float(fold_t *fold, qcfloat_t value, bool inexact) {
914     ast_value  *out = NULL;
915     size_t      i;
916
917     for (i = 0; i < vec_size(fold->imm_float); i++) {
918         if (!memcmp(&fold->imm_float[i]->constval.vfloat, &value, sizeof(qcfloat_t)))
919             return (ast_expression*)fold->imm_float[i];
920     }
921
922     out                  = ast_value_new(fold_ctx(fold), "#IMMEDIATE", TYPE_FLOAT);
923     out->cvq             = CV_CONST;
924     out->hasvalue        = true;
925     out->inexact         = inexact;
926     out->constval.vfloat = value;
927
928     vec_push(fold->imm_float, out);
929
930     return (ast_expression*)out;
931 }
932
933 ast_expression *fold_constgen_vector(fold_t *fold, vec3_t value) {
934     ast_value *out;
935     size_t     i;
936
937     for (i = 0; i < vec_size(fold->imm_vector); i++) {
938         if (vec3_cmp(fold->imm_vector[i]->constval.vvec, value))
939             return (ast_expression*)fold->imm_vector[i];
940     }
941
942     out                = ast_value_new(fold_ctx(fold), "#IMMEDIATE", TYPE_VECTOR);
943     out->cvq           = CV_CONST;
944     out->hasvalue      = true;
945     out->constval.vvec = value;
946
947     vec_push(fold->imm_vector, out);
948
949     return (ast_expression*)out;
950 }
951
952 ast_expression *fold_constgen_string(fold_t *fold, const char *str, bool translate) {
953     hash_table_t *table = (translate) ? fold->imm_string_untranslate : fold->imm_string_dotranslate;
954     ast_value    *out   = NULL;
955     size_t        hash  = util_hthash(table, str);
956
957     if ((out = (ast_value*)util_htgeth(table, str, hash)))
958         return (ast_expression*)out;
959
960     if (translate) {
961         char name[32];
962         util_snprintf(name, sizeof(name), "dotranslate_%lu", (unsigned long)(fold->parser->translated++));
963         out                    = ast_value_new(parser_ctx(fold->parser), name, TYPE_STRING);
964         out->expression.flags |= AST_FLAG_INCLUDE_DEF; /* def needs to be included for translatables */
965     } else
966         out                    = ast_value_new(fold_ctx(fold), "#IMMEDIATE", TYPE_STRING);
967
968     out->cvq              = CV_CONST;
969     out->hasvalue         = true;
970     out->isimm            = true;
971     out->constval.vstring = parser_strdup(str);
972
973     vec_push(fold->imm_string, out);
974     util_htseth(table, str, hash, out);
975
976     return (ast_expression*)out;
977 }
978
979
980 static GMQCC_INLINE ast_expression *fold_op_mul_vec(fold_t *fold, vec3_t vec, ast_value *sel, const char *set) {
981     /*
982      * vector-component constant folding works by matching the component sets
983      * to eliminate expensive operations on whole-vectors (3 components at runtime).
984      * to achive this effect in a clean manner this function generalizes the
985      * values through the use of a set paramater, which is used as an indexing method
986      * for creating the elided ast binary expression.
987      *
988      * Consider 'n 0 0' where y, and z need to be tested for 0, and x is
989      * used as the value in a binary operation generating an INSTR_MUL instruction,
990      * to acomplish the indexing of the correct component value we use set[0], set[1], set[2]
991      * as x, y, z, where the values of those operations return 'x', 'y', 'z'. Because
992      * of how ASCII works we can easily deliniate:
993      * vec.z is the same as set[2]-'x' for when set[2] is 'z', 'z'-'x' results in a
994      * literal value of 2, using this 2, we know that taking the address of vec->x (float)
995      * and indxing it with this literal will yeild the immediate address of that component
996      *
997      * Of course more work needs to be done to generate the correct index for the ast_member_new
998      * call, which is no problem: set[0]-'x' suffices that job.
999      */
1000     qcfloat_t x = (&vec.x)[set[0]-'x'];
1001     qcfloat_t y = (&vec.x)[set[1]-'x'];
1002     qcfloat_t z = (&vec.x)[set[2]-'x'];
1003
1004     if (!y && !z) {
1005         ast_expression *out;
1006         ++opts_optimizationcount[OPTIM_VECTOR_COMPONENTS];
1007         out                        = (ast_expression*)ast_member_new(fold_ctx(fold), (ast_expression*)sel, set[0]-'x', NULL);
1008         out->node.keep             = false;
1009         ((ast_member*)out)->rvalue = true;
1010         if (x != -1.0f)
1011             return (ast_expression*)ast_binary_new(fold_ctx(fold), INSTR_MUL_F, fold_constgen_float(fold, x, false), out);
1012     }
1013     return NULL;
1014 }
1015
1016
1017 static GMQCC_INLINE ast_expression *fold_op_neg(fold_t *fold, ast_value *a) {
1018     if (isfloat(a)) {
1019         if (fold_can_1(a))
1020             return fold_constgen_float(fold, -fold_immvalue_float(a), false);
1021     } else if (isvector(a)) {
1022         if (fold_can_1(a))
1023             return fold_constgen_vector(fold, vec3_neg(fold_immvalue_vector(a)));
1024     }
1025     return NULL;
1026 }
1027
1028 static GMQCC_INLINE ast_expression *fold_op_not(fold_t *fold, ast_value *a) {
1029     if (isfloat(a)) {
1030         if (fold_can_1(a))
1031             return fold_constgen_float(fold, !fold_immvalue_float(a), false);
1032     } else if (isvector(a)) {
1033         if (fold_can_1(a))
1034             return fold_constgen_float(fold, vec3_notf(fold_immvalue_vector(a)), false);
1035     } else if (isstring(a)) {
1036         if (fold_can_1(a)) {
1037             if (OPTS_FLAG(TRUE_EMPTY_STRINGS))
1038                 return fold_constgen_float(fold, !fold_immvalue_string(a), false);
1039             else
1040                 return fold_constgen_float(fold, !fold_immvalue_string(a) || !*fold_immvalue_string(a), false);
1041         }
1042     }
1043     return NULL;
1044 }
1045
1046 static bool fold_check_except_float(sfloat_t (*callback)(sfloat_state_t *, sfloat_t, sfloat_t),
1047                                     fold_t    *fold,
1048                                     ast_value *a,
1049                                     ast_value *b)
1050 {
1051     sfloat_state_t s;
1052     sfloat_cast_t ca;
1053     sfloat_cast_t cb;
1054
1055     if (!OPTS_FLAG(ARITHMETIC_EXCEPTIONS) && !OPTS_WARN(WARN_INEXACT_COMPARES))
1056         return false;
1057
1058     sfloat_init(&s);
1059     ca.f = fold_immvalue_float(a);
1060     cb.f = fold_immvalue_float(b);
1061
1062     callback(&s, ca.s, cb.s);
1063     if (s.exceptionflags == 0)
1064         return false;
1065
1066     if (!OPTS_FLAG(ARITHMETIC_EXCEPTIONS))
1067         goto inexact_possible;
1068
1069     sfloat_check(fold_ctx(fold), &s, NULL);
1070
1071 inexact_possible:
1072     return s.exceptionflags & SFLOAT_INEXACT;
1073 }
1074
1075 static bool fold_check_inexact_float(fold_t *fold, ast_value *a, ast_value *b) {
1076     lex_ctx_t ctx = fold_ctx(fold);
1077     if (!OPTS_WARN(WARN_INEXACT_COMPARES))
1078         return false;
1079     if (!a->inexact && !b->inexact)
1080         return false;
1081     return compile_warning(ctx, WARN_INEXACT_COMPARES, "inexact value in comparison");
1082 }
1083
1084 static GMQCC_INLINE ast_expression *fold_op_add(fold_t *fold, ast_value *a, ast_value *b) {
1085     if (isfloat(a)) {
1086         if (fold_can_2(a, b)) {
1087             bool inexact = fold_check_except_float(&sfloat_add, fold, a, b);
1088             return fold_constgen_float(fold, fold_immvalue_float(a) + fold_immvalue_float(b), inexact);
1089         }
1090     } else if (isvector(a)) {
1091         if (fold_can_2(a, b))
1092             return fold_constgen_vector(fold, vec3_add(fold_ctx(fold),
1093                                                        fold_immvalue_vector(a),
1094                                                        fold_immvalue_vector(b)));
1095     }
1096     return NULL;
1097 }
1098
1099 static GMQCC_INLINE ast_expression *fold_op_sub(fold_t *fold, ast_value *a, ast_value *b) {
1100     if (isfloat(a)) {
1101         if (fold_can_2(a, b)) {
1102             bool inexact = fold_check_except_float(&sfloat_sub, fold, a, b);
1103             return fold_constgen_float(fold, fold_immvalue_float(a) - fold_immvalue_float(b), inexact);
1104         }
1105     } else if (isvector(a)) {
1106         if (fold_can_2(a, b))
1107             return fold_constgen_vector(fold, vec3_sub(fold_ctx(fold),
1108                                                        fold_immvalue_vector(a),
1109                                                        fold_immvalue_vector(b)));
1110     }
1111     return NULL;
1112 }
1113
1114 static GMQCC_INLINE ast_expression *fold_op_mul(fold_t *fold, ast_value *a, ast_value *b) {
1115     if (isfloat(a)) {
1116         if (isvector(b)) {
1117             if (fold_can_2(a, b))
1118                 return fold_constgen_vector(fold, vec3_mulvf(fold_ctx(fold), fold_immvalue_vector(b), fold_immvalue_float(a)));
1119         } else {
1120             if (fold_can_2(a, b)) {
1121                 bool inexact = fold_check_except_float(&sfloat_mul, fold, a, b);
1122                 return fold_constgen_float(fold, fold_immvalue_float(a) * fold_immvalue_float(b), inexact);
1123             }
1124         }
1125     } else if (isvector(a)) {
1126         if (isfloat(b)) {
1127             if (fold_can_2(a, b))
1128                 return fold_constgen_vector(fold, vec3_mulvf(fold_ctx(fold), fold_immvalue_vector(a), fold_immvalue_float(b)));
1129         } else {
1130             if (fold_can_2(a, b)) {
1131                 return fold_constgen_float(fold, vec3_mulvv(fold_ctx(fold), fold_immvalue_vector(a), fold_immvalue_vector(b)), false);
1132             } else if (OPTS_OPTIMIZATION(OPTIM_VECTOR_COMPONENTS) && fold_can_1(a)) {
1133                 ast_expression *out;
1134                 if ((out = fold_op_mul_vec(fold, fold_immvalue_vector(a), b, "xyz"))) return out;
1135                 if ((out = fold_op_mul_vec(fold, fold_immvalue_vector(a), b, "yxz"))) return out;
1136                 if ((out = fold_op_mul_vec(fold, fold_immvalue_vector(a), b, "zxy"))) return out;
1137             } else if (OPTS_OPTIMIZATION(OPTIM_VECTOR_COMPONENTS) && fold_can_1(b)) {
1138                 ast_expression *out;
1139                 if ((out = fold_op_mul_vec(fold, fold_immvalue_vector(b), a, "xyz"))) return out;
1140                 if ((out = fold_op_mul_vec(fold, fold_immvalue_vector(b), a, "yxz"))) return out;
1141                 if ((out = fold_op_mul_vec(fold, fold_immvalue_vector(b), a, "zxy"))) return out;
1142             }
1143         }
1144     }
1145     return NULL;
1146 }
1147
1148 static GMQCC_INLINE ast_expression *fold_op_div(fold_t *fold, ast_value *a, ast_value *b) {
1149     if (isfloat(a)) {
1150         if (fold_can_2(a, b)) {
1151             bool inexact = fold_check_except_float(&sfloat_div, fold, a, b);
1152             return fold_constgen_float(fold, fold_immvalue_float(a) / fold_immvalue_float(b), inexact);
1153         } else if (fold_can_1(b)) {
1154             return (ast_expression*)ast_binary_new(
1155                 fold_ctx(fold),
1156                 INSTR_MUL_F,
1157                 (ast_expression*)a,
1158                 fold_constgen_float(fold, 1.0f / fold_immvalue_float(b), false)
1159             );
1160         }
1161     } else if (isvector(a)) {
1162         if (fold_can_2(a, b)) {
1163             return fold_constgen_vector(fold, vec3_mulvf(fold_ctx(fold), fold_immvalue_vector(a), 1.0f / fold_immvalue_float(b)));
1164         } else {
1165             return (ast_expression*)ast_binary_new(
1166                 fold_ctx(fold),
1167                 INSTR_MUL_VF,
1168                 (ast_expression*)a,
1169                 (fold_can_1(b))
1170                     ? (ast_expression*)fold_constgen_float(fold, 1.0f / fold_immvalue_float(b), false)
1171                     : (ast_expression*)ast_binary_new(
1172                                             fold_ctx(fold),
1173                                             INSTR_DIV_F,
1174                                             (ast_expression*)fold->imm_float[1],
1175                                             (ast_expression*)b
1176                     )
1177             );
1178         }
1179     }
1180     return NULL;
1181 }
1182
1183 static GMQCC_INLINE ast_expression *fold_op_mod(fold_t *fold, ast_value *a, ast_value *b) {
1184     return (fold_can_2(a, b))
1185                 ? fold_constgen_float(fold, fmod(fold_immvalue_float(a), fold_immvalue_float(b)), false)
1186                 : NULL;
1187 }
1188
1189 static GMQCC_INLINE ast_expression *fold_op_bor(fold_t *fold, ast_value *a, ast_value *b) {
1190     if (isfloat(a)) {
1191         if (fold_can_2(a, b))
1192             return fold_constgen_float(fold, (qcfloat_t)(((qcint_t)fold_immvalue_float(a)) | ((qcint_t)fold_immvalue_float(b))), false);
1193     } else {
1194         if (isvector(b)) {
1195             if (fold_can_2(a, b))
1196                 return fold_constgen_vector(fold, vec3_or(fold_immvalue_vector(a), fold_immvalue_vector(b)));
1197         } else {
1198             if (fold_can_2(a, b))
1199                 return fold_constgen_vector(fold, vec3_orvf(fold_immvalue_vector(a), fold_immvalue_float(b)));
1200         }
1201     }
1202     return NULL;
1203 }
1204
1205 static GMQCC_INLINE ast_expression *fold_op_band(fold_t *fold, ast_value *a, ast_value *b) {
1206     if (isfloat(a)) {
1207         if (fold_can_2(a, b))
1208             return fold_constgen_float(fold, (qcfloat_t)(((qcint_t)fold_immvalue_float(a)) & ((qcint_t)fold_immvalue_float(b))), false);
1209     } else {
1210         if (isvector(b)) {
1211             if (fold_can_2(a, b))
1212                 return fold_constgen_vector(fold, vec3_and(fold_immvalue_vector(a), fold_immvalue_vector(b)));
1213         } else {
1214             if (fold_can_2(a, b))
1215                 return fold_constgen_vector(fold, vec3_andvf(fold_immvalue_vector(a), fold_immvalue_float(b)));
1216         }
1217     }
1218     return NULL;
1219 }
1220
1221 static GMQCC_INLINE ast_expression *fold_op_xor(fold_t *fold, ast_value *a, ast_value *b) {
1222     if (isfloat(a)) {
1223         if (fold_can_2(a, b))
1224             return fold_constgen_float(fold, (qcfloat_t)(((qcint_t)fold_immvalue_float(a)) ^ ((qcint_t)fold_immvalue_float(b))), false);
1225     } else {
1226         if (fold_can_2(a, b)) {
1227             if (isvector(b))
1228                 return fold_constgen_vector(fold, vec3_xor(fold_immvalue_vector(a), fold_immvalue_vector(b)));
1229             else
1230                 return fold_constgen_vector(fold, vec3_xorvf(fold_immvalue_vector(a), fold_immvalue_float(b)));
1231         }
1232     }
1233     return NULL;
1234 }
1235
1236 static GMQCC_INLINE ast_expression *fold_op_lshift(fold_t *fold, ast_value *a, ast_value *b) {
1237     if (fold_can_2(a, b) && isfloats(a, b))
1238         return fold_constgen_float(fold, (qcfloat_t)floorf(fold_immvalue_float(a) * powf(2.0f, fold_immvalue_float(b))), false);
1239     return NULL;
1240 }
1241
1242 static GMQCC_INLINE ast_expression *fold_op_rshift(fold_t *fold, ast_value *a, ast_value *b) {
1243     if (fold_can_2(a, b) && isfloats(a, b))
1244         return fold_constgen_float(fold, (qcfloat_t)floorf(fold_immvalue_float(a) / powf(2.0f, fold_immvalue_float(b))), false);
1245     return NULL;
1246 }
1247
1248 static GMQCC_INLINE ast_expression *fold_op_andor(fold_t *fold, ast_value *a, ast_value *b, float expr) {
1249     if (fold_can_2(a, b)) {
1250         if (OPTS_FLAG(PERL_LOGIC)) {
1251             if (expr)
1252                 return (fold_immediate_true(fold, a)) ? (ast_expression*)a : (ast_expression*)b;
1253             else
1254                 return (fold_immediate_true(fold, a)) ? (ast_expression*)b : (ast_expression*)a;
1255         } else {
1256             return fold_constgen_float (
1257                 fold,
1258                 ((expr) ? (fold_immediate_true(fold, a) || fold_immediate_true(fold, b))
1259                         : (fold_immediate_true(fold, a) && fold_immediate_true(fold, b)))
1260                             ? 1
1261                             : 0,
1262                 false
1263             );
1264         }
1265     }
1266     return NULL;
1267 }
1268
1269 static GMQCC_INLINE ast_expression *fold_op_tern(fold_t *fold, ast_value *a, ast_value *b, ast_value *c) {
1270     if (fold_can_1(a)) {
1271         return fold_immediate_true(fold, a)
1272                     ? (ast_expression*)b
1273                     : (ast_expression*)c;
1274     }
1275     return NULL;
1276 }
1277
1278 static GMQCC_INLINE ast_expression *fold_op_exp(fold_t *fold, ast_value *a, ast_value *b) {
1279     if (fold_can_2(a, b))
1280         return fold_constgen_float(fold, (qcfloat_t)powf(fold_immvalue_float(a), fold_immvalue_float(b)), false);
1281     return NULL;
1282 }
1283
1284 static GMQCC_INLINE ast_expression *fold_op_lteqgt(fold_t *fold, ast_value *a, ast_value *b) {
1285     if (fold_can_2(a,b)) {
1286         fold_check_inexact_float(fold, a, b);
1287         if (fold_immvalue_float(a) <  fold_immvalue_float(b)) return (ast_expression*)fold->imm_float[2];
1288         if (fold_immvalue_float(a) == fold_immvalue_float(b)) return (ast_expression*)fold->imm_float[0];
1289         if (fold_immvalue_float(a) >  fold_immvalue_float(b)) return (ast_expression*)fold->imm_float[1];
1290     }
1291     return NULL;
1292 }
1293
1294 static GMQCC_INLINE ast_expression *fold_op_ltgt(fold_t *fold, ast_value *a, ast_value *b, bool lt) {
1295     if (fold_can_2(a, b)) {
1296         fold_check_inexact_float(fold, a, b);
1297         return (lt) ? (ast_expression*)fold->imm_float[!!(fold_immvalue_float(a) < fold_immvalue_float(b))]
1298                     : (ast_expression*)fold->imm_float[!!(fold_immvalue_float(a) > fold_immvalue_float(b))];
1299     }
1300     return NULL;
1301 }
1302
1303 static GMQCC_INLINE ast_expression *fold_op_cmp(fold_t *fold, ast_value *a, ast_value *b, bool ne) {
1304     if (fold_can_2(a, b)) {
1305         if (isfloat(a) && isfloat(b)) {
1306             float la = fold_immvalue_float(a);
1307             float lb = fold_immvalue_float(b);
1308             fold_check_inexact_float(fold, a, b);
1309             return (ast_expression*)fold->imm_float[!(ne ? la == lb : la != lb)];
1310         } if (isvector(a) && isvector(b)) {
1311             vec3_t la = fold_immvalue_vector(a);
1312             vec3_t lb = fold_immvalue_vector(b);
1313             return (ast_expression*)fold->imm_float[!(ne ? vec3_cmp(la, lb) : !vec3_cmp(la, lb))];
1314         }
1315     }
1316     return NULL;
1317 }
1318
1319 static GMQCC_INLINE ast_expression *fold_op_bnot(fold_t *fold, ast_value *a) {
1320     if (isfloat(a)) {
1321         if (fold_can_1(a))
1322             return fold_constgen_float(fold, -1-fold_immvalue_float(a), false);
1323     } else {
1324         if (isvector(a)) {
1325             if (fold_can_1(a))
1326                 return fold_constgen_vector(fold, vec3_not(fold_immvalue_vector(a)));
1327         }
1328     }
1329     return NULL;
1330 }
1331
1332 static GMQCC_INLINE ast_expression *fold_op_cross(fold_t *fold, ast_value *a, ast_value *b) {
1333     if (fold_can_2(a, b))
1334         return fold_constgen_vector(fold, vec3_cross(fold_ctx(fold),
1335                                                      fold_immvalue_vector(a),
1336                                                      fold_immvalue_vector(b)));
1337     return NULL;
1338 }
1339
1340 ast_expression *fold_op(fold_t *fold, const oper_info *info, ast_expression **opexprs) {
1341     ast_value      *a = (ast_value*)opexprs[0];
1342     ast_value      *b = (ast_value*)opexprs[1];
1343     ast_value      *c = (ast_value*)opexprs[2];
1344     ast_expression *e = NULL;
1345
1346     /* can a fold operation be applied to this operator usage? */
1347     if (!info->folds)
1348         return NULL;
1349
1350     switch(info->operands) {
1351         case 3: if(!c) return NULL;
1352         case 2: if(!b) return NULL;
1353         case 1:
1354         if(!a) {
1355             compile_error(fold_ctx(fold), "internal error: fold_op no operands to fold\n");
1356             return NULL;
1357         }
1358     }
1359
1360     /*
1361      * we could use a boolean and default case but ironically gcc produces
1362      * invalid broken assembly from that operation. clang/tcc get it right,
1363      * but interestingly ignore compiling this to a jump-table when I do that,
1364      * this happens to be the most efficent method, since you have per-level
1365      * granularity on the pointer check happening only for the case you check
1366      * it in. Opposed to the default method which would involve a boolean and
1367      * pointer check after wards.
1368      */
1369     #define fold_op_case(ARGS, ARGS_OPID, OP, ARGS_FOLD)    \
1370         case opid##ARGS ARGS_OPID:                          \
1371             if ((e = fold_op_##OP ARGS_FOLD)) {             \
1372                 ++opts_optimizationcount[OPTIM_CONST_FOLD]; \
1373             }                                               \
1374             return e
1375
1376     switch(info->id) {
1377         fold_op_case(2, ('-', 'P'),    neg,    (fold, a));
1378         fold_op_case(2, ('!', 'P'),    not,    (fold, a));
1379         fold_op_case(1, ('+'),         add,    (fold, a, b));
1380         fold_op_case(1, ('-'),         sub,    (fold, a, b));
1381         fold_op_case(1, ('*'),         mul,    (fold, a, b));
1382         fold_op_case(1, ('/'),         div,    (fold, a, b));
1383         fold_op_case(1, ('%'),         mod,    (fold, a, b));
1384         fold_op_case(1, ('|'),         bor,    (fold, a, b));
1385         fold_op_case(1, ('&'),         band,   (fold, a, b));
1386         fold_op_case(1, ('^'),         xor,    (fold, a, b));
1387         fold_op_case(1, ('<'),         ltgt,   (fold, a, b, true));
1388         fold_op_case(1, ('>'),         ltgt,   (fold, a, b, false));
1389         fold_op_case(2, ('<', '<'),    lshift, (fold, a, b));
1390         fold_op_case(2, ('>', '>'),    rshift, (fold, a, b));
1391         fold_op_case(2, ('|', '|'),    andor,  (fold, a, b, true));
1392         fold_op_case(2, ('&', '&'),    andor,  (fold, a, b, false));
1393         fold_op_case(2, ('?', ':'),    tern,   (fold, a, b, c));
1394         fold_op_case(2, ('*', '*'),    exp,    (fold, a, b));
1395         fold_op_case(3, ('<','=','>'), lteqgt, (fold, a, b));
1396         fold_op_case(2, ('!', '='),    cmp,    (fold, a, b, true));
1397         fold_op_case(2, ('=', '='),    cmp,    (fold, a, b, false));
1398         fold_op_case(2, ('~', 'P'),    bnot,   (fold, a));
1399         fold_op_case(2, ('>', '<'),    cross,  (fold, a, b));
1400     }
1401     #undef fold_op_case
1402     compile_error(fold_ctx(fold), "internal error: attempted to constant-fold for unsupported operator");
1403     return NULL;
1404 }
1405
1406 /*
1407  * Constant folding for compiler intrinsics, simaler approach to operator
1408  * folding, primarly: individual functions for each intrinsics to fold,
1409  * and a generic selection function.
1410  */
1411 static GMQCC_INLINE ast_expression *fold_intrin_isfinite(fold_t *fold, ast_value *a) {
1412     return fold_constgen_float(fold, isfinite(fold_immvalue_float(a)), false);
1413 }
1414 static GMQCC_INLINE ast_expression *fold_intrin_isinf(fold_t *fold, ast_value *a) {
1415     return fold_constgen_float(fold, isinf(fold_immvalue_float(a)), false);
1416 }
1417 static GMQCC_INLINE ast_expression *fold_intrin_isnan(fold_t *fold, ast_value *a) {
1418     return fold_constgen_float(fold, isnan(fold_immvalue_float(a)), false);
1419 }
1420 static GMQCC_INLINE ast_expression *fold_intrin_isnormal(fold_t *fold, ast_value *a) {
1421     return fold_constgen_float(fold, isnormal(fold_immvalue_float(a)), false);
1422 }
1423 static GMQCC_INLINE ast_expression *fold_intrin_signbit(fold_t *fold, ast_value *a) {
1424     return fold_constgen_float(fold, signbit(fold_immvalue_float(a)), false);
1425 }
1426 static GMQCC_INLINE ast_expression *fold_intirn_acosh(fold_t *fold, ast_value *a) {
1427     return fold_constgen_float(fold, acoshf(fold_immvalue_float(a)), false);
1428 }
1429 static GMQCC_INLINE ast_expression *fold_intrin_asinh(fold_t *fold, ast_value *a) {
1430     return fold_constgen_float(fold, asinhf(fold_immvalue_float(a)), false);
1431 }
1432 static GMQCC_INLINE ast_expression *fold_intrin_atanh(fold_t *fold, ast_value *a) {
1433     return fold_constgen_float(fold, (float)atanh(fold_immvalue_float(a)), false);
1434 }
1435 static GMQCC_INLINE ast_expression *fold_intrin_exp(fold_t *fold, ast_value *a) {
1436     return fold_constgen_float(fold, expf(fold_immvalue_float(a)), false);
1437 }
1438 static GMQCC_INLINE ast_expression *fold_intrin_exp2(fold_t *fold, ast_value *a) {
1439     return fold_constgen_float(fold, exp2f(fold_immvalue_float(a)), false);
1440 }
1441 static GMQCC_INLINE ast_expression *fold_intrin_expm1(fold_t *fold, ast_value *a) {
1442     return fold_constgen_float(fold, expm1f(fold_immvalue_float(a)), false);
1443 }
1444 static GMQCC_INLINE ast_expression *fold_intrin_mod(fold_t *fold, ast_value *lhs, ast_value *rhs) {
1445     return fold_constgen_float(fold, fmodf(fold_immvalue_float(lhs), fold_immvalue_float(rhs)), false);
1446 }
1447 static GMQCC_INLINE ast_expression *fold_intrin_pow(fold_t *fold, ast_value *lhs, ast_value *rhs) {
1448     return fold_constgen_float(fold, powf(fold_immvalue_float(lhs), fold_immvalue_float(rhs)), false);
1449 }
1450 static GMQCC_INLINE ast_expression *fold_intrin_fabs(fold_t *fold, ast_value *a) {
1451     return fold_constgen_float(fold, fabsf(fold_immvalue_float(a)), false);
1452 }
1453
1454
1455 ast_expression *fold_intrin(fold_t *fold, const char *intrin, ast_expression **arg) {
1456     ast_expression *ret = NULL;
1457     ast_value      *a   = (ast_value*)arg[0];
1458     ast_value      *b   = (ast_value*)arg[1];
1459
1460     if (!strcmp(intrin, "isfinite")) ret = fold_intrin_isfinite(fold, a);
1461     if (!strcmp(intrin, "isinf"))    ret = fold_intrin_isinf(fold, a);
1462     if (!strcmp(intrin, "isnan"))    ret = fold_intrin_isnan(fold, a);
1463     if (!strcmp(intrin, "isnormal")) ret = fold_intrin_isnormal(fold, a);
1464     if (!strcmp(intrin, "signbit"))  ret = fold_intrin_signbit(fold, a);
1465     if (!strcmp(intrin, "acosh"))    ret = fold_intirn_acosh(fold, a);
1466     if (!strcmp(intrin, "asinh"))    ret = fold_intrin_asinh(fold, a);
1467     if (!strcmp(intrin, "atanh"))    ret = fold_intrin_atanh(fold, a);
1468     if (!strcmp(intrin, "exp"))      ret = fold_intrin_exp(fold, a);
1469     if (!strcmp(intrin, "exp2"))     ret = fold_intrin_exp2(fold, a);
1470     if (!strcmp(intrin, "expm1"))    ret = fold_intrin_expm1(fold, a);
1471     if (!strcmp(intrin, "mod"))      ret = fold_intrin_mod(fold, a, b);
1472     if (!strcmp(intrin, "pow"))      ret = fold_intrin_pow(fold, a, b);
1473     if (!strcmp(intrin, "fabs"))     ret = fold_intrin_fabs(fold, a);
1474
1475     if (ret)
1476         ++opts_optimizationcount[OPTIM_CONST_FOLD];
1477
1478     return ret;
1479 }
1480
1481 /*
1482  * These are all the actual constant folding methods that happen in between
1483  * the AST/IR stage of the compiler , i.e eliminating branches for const
1484  * expressions, which is the only supported thing so far. We undefine the
1485  * testing macros here because an ir_value is differant than an ast_value.
1486  */
1487 #undef expect
1488 #undef isfloat
1489 #undef isstring
1490 #undef isvector
1491 #undef fold_immvalue_float
1492 #undef fold_immvalue_string
1493 #undef fold_immvalue_vector
1494 #undef fold_can_1
1495 #undef fold_can_2
1496
1497 #define isfloat(X)              ((X)->vtype == TYPE_FLOAT)
1498 /*#define isstring(X)             ((X)->vtype == TYPE_STRING)*/
1499 /*#define isvector(X)             ((X)->vtype == TYPE_VECTOR)*/
1500 #define fold_immvalue_float(X)  ((X)->constval.vfloat)
1501 #define fold_immvalue_vector(X) ((X)->constval.vvec)
1502 /*#define fold_immvalue_string(X) ((X)->constval.vstring)*/
1503 #define fold_can_1(X)           ((X)->hasvalue && (X)->cvq == CV_CONST)
1504 /*#define fold_can_2(X,Y)         (fold_can_1(X) && fold_can_1(Y))*/
1505
1506 static ast_expression *fold_superfluous(ast_expression *left, ast_expression *right, int op) {
1507     ast_expression *swapped = NULL; /* using this as bool */
1508     ast_value *load;
1509
1510     if (!ast_istype(right, ast_value) || !fold_can_1((load = (ast_value*)right))) {
1511         swapped = left;
1512         left    = right;
1513         right   = swapped;
1514     }
1515
1516     if (!ast_istype(right, ast_value) || !fold_can_1((load = (ast_value*)right)))
1517         return NULL;
1518
1519     switch (op) {
1520         case INSTR_DIV_F:
1521             if (swapped)
1522                 return NULL;
1523         case INSTR_MUL_F:
1524             if (fold_immvalue_float(load) == 1.0f) {
1525                 ++opts_optimizationcount[OPTIM_PEEPHOLE];
1526                 ast_unref(right);
1527                 return left;
1528             }
1529             break;
1530
1531
1532         case INSTR_SUB_F:
1533             if (swapped)
1534                 return NULL;
1535         case INSTR_ADD_F:
1536             if (fold_immvalue_float(load) == 0.0f) {
1537                 ++opts_optimizationcount[OPTIM_PEEPHOLE];
1538                 ast_unref(right);
1539                 return left;
1540             }
1541             break;
1542
1543         case INSTR_MUL_V:
1544             if (vec3_cmp(fold_immvalue_vector(load), vec3_create(1, 1, 1))) {
1545                 ++opts_optimizationcount[OPTIM_PEEPHOLE];
1546                 ast_unref(right);
1547                 return left;
1548             }
1549             break;
1550
1551         case INSTR_SUB_V:
1552             if (swapped)
1553                 return NULL;
1554         case INSTR_ADD_V:
1555             if (vec3_cmp(fold_immvalue_vector(load), vec3_create(0, 0, 0))) {
1556                 ++opts_optimizationcount[OPTIM_PEEPHOLE];
1557                 ast_unref(right);
1558                 return left;
1559             }
1560             break;
1561     }
1562
1563     return NULL;
1564 }
1565
1566 ast_expression *fold_binary(lex_ctx_t ctx, int op, ast_expression *left, ast_expression *right) {
1567     ast_expression *ret = fold_superfluous(left, right, op);
1568     if (ret)
1569         return ret;
1570     return (ast_expression*)ast_binary_new(ctx, op, left, right);
1571 }
1572
1573 static GMQCC_INLINE int fold_cond(ir_value *condval, ast_function *func, ast_ifthen *branch) {
1574     if (isfloat(condval) && fold_can_1(condval) && OPTS_OPTIMIZATION(OPTIM_CONST_FOLD_DCE)) {
1575         ast_expression_codegen *cgen;
1576         ir_block               *elide;
1577         ir_value               *dummy;
1578         bool                    istrue  = (fold_immvalue_float(condval) != 0.0f && branch->on_true);
1579         bool                    isfalse = (fold_immvalue_float(condval) == 0.0f && branch->on_false);
1580         ast_expression         *path    = (istrue)  ? branch->on_true  :
1581                                           (isfalse) ? branch->on_false : NULL;
1582         if (!path) {
1583             /*
1584              * no path to take implies that the evaluation is if(0) and there
1585              * is no else block. so eliminate all the code.
1586              */
1587             ++opts_optimizationcount[OPTIM_CONST_FOLD_DCE];
1588             return true;
1589         }
1590
1591         if (!(elide = ir_function_create_block(ast_ctx(branch), func->ir_func, ast_function_label(func, ((istrue) ? "ontrue" : "onfalse")))))
1592             return false;
1593         if (!(*(cgen = path->codegen))((ast_expression*)path, func, false, &dummy))
1594             return false;
1595         if (!ir_block_create_jump(func->curblock, ast_ctx(branch), elide))
1596             return false;
1597         /*
1598          * now the branch has been eliminated and the correct block for the constant evaluation
1599          * is expanded into the current block for the function.
1600          */
1601         func->curblock = elide;
1602         ++opts_optimizationcount[OPTIM_CONST_FOLD_DCE];
1603         return true;
1604     }
1605     return -1; /* nothing done */
1606 }
1607
1608 int fold_cond_ternary(ir_value *condval, ast_function *func, ast_ternary *branch) {
1609     return fold_cond(condval, func, (ast_ifthen*)branch);
1610 }
1611
1612 int fold_cond_ifthen(ir_value *condval, ast_function *func, ast_ifthen *branch) {
1613     return fold_cond(condval, func, branch);
1614 }