Fix vec3_cross. Added optimization to Makefile since we've been compiling gmqcc witho...
[xonotic/gmqcc.git] / fold.c
1 /*
2  * Copyright (C) 2012, 2013, 2014
3  *     Dale Weiler
4  *
5  * Permission is hereby granted, free of charge, to any person obtaining a copy of
6  * this software and associated documentation files (the "Software"), to deal in
7  * the Software without restriction, including without limitation the rights to
8  * use, copy, modify, merge, publish, distribute, sublicense, and/or sell copies
9  * of the Software, and to permit persons to whom the Software is furnished to do
10  * so, subject to the following conditions:
11  *
12  * The above copyright notice and this permission notice shall be included in all
13  * copies or substantial portions of the Software.
14  *
15  * THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS OR
16  * IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY,
17  * FITNESS FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT. IN NO EVENT SHALL THE
18  * AUTHORS OR COPYRIGHT HOLDERS BE LIABLE FOR ANY CLAIM, DAMAGES OR OTHER
19  * LIABILITY, WHETHER IN AN ACTION OF CONTRACT, TORT OR OTHERWISE, ARISING FROM,
20  * OUT OF OR IN CONNECTION WITH THE SOFTWARE OR THE USE OR OTHER DEALINGS IN THE
21  * SOFTWARE.
22  */
23 #include <string.h>
24 #include <math.h>
25
26 #include "ast.h"
27 #include "parser.h"
28
29 #define FOLD_STRING_UNTRANSLATE_HTSIZE 1024
30 #define FOLD_STRING_DOTRANSLATE_HTSIZE 1024
31
32 /* The options to use for inexact and arithmetic exceptions */
33 #define FOLD_ROUNDING SFLOAT_ROUND_NEAREST_EVEN
34 #define FOLD_TINYNESS SFLOAT_TBEFORE
35
36 /*
37  * The constant folder is also responsible for validating if the constant
38  * expressions produce valid results. We cannot trust the FPU control
39  * unit for these exceptions because setting FPU control words might not
40  * work. Systems can set and enforce FPU modes of operation. It's also valid
41  * for libc's to simply ignore FPU exceptions. For instance ARM CPUs in
42  * glibc. We implement some trivial and IEE 754 conformant functions which
43  * emulate those operations. This is an entierly optional compiler feature
44  * which shouldn't be enabled for anything other than performing strict
45  * passes on constant expressions since it's quite slow.
46  */
47 typedef uint32_t sfloat_t;
48
49 typedef union {
50     qcfloat_t f;
51     sfloat_t  s;
52 } sfloat_cast_t;
53
54 typedef enum {
55     SFLOAT_INVALID   = 1,
56     SFLOAT_DIVBYZERO = 4,
57     SFLOAT_OVERFLOW  = 8,
58     SFLOAT_UNDERFLOW = 16,
59     SFLOAT_INEXACT   = 32
60 } sfloat_exceptionflags_t;
61
62 typedef enum {
63     SFLOAT_ROUND_NEAREST_EVEN,
64     SFLOAT_ROUND_DOWN,
65     SFLOAT_ROUND_UP,
66     SFLOAT_ROUND_TO_ZERO
67 } sfloat_roundingmode_t;
68
69 typedef enum {
70     SFLOAT_TAFTER,
71     SFLOAT_TBEFORE
72 } sfloat_tdetect_t;
73
74 typedef struct {
75     sfloat_roundingmode_t   roundingmode;
76     sfloat_exceptionflags_t exceptionflags;
77     sfloat_tdetect_t        tiny;
78 } sfloat_state_t;
79
80 /* Count of leading zero bits before the most-significand 1 bit. */
81 #ifdef _MSC_VER
82 /* MSVC has an intrinsic for this */
83     static GMQCC_INLINE uint32_t sfloat_clz(uint32_t x) {
84         int r = 0;
85         _BitScanForward(&r, x);
86         return r;
87     }
88 #   define SFLOAT_CLZ(X, SUB) \
89         (sfloat_clz((X)) - (SUB))
90 #elif defined(__GNUC__) || defined(__CLANG__)
91 /* Clang and GCC have a builtin for this */
92 #   define SFLOAT_CLZ(X, SUB) \
93         (__builtin_clz((X)) - (SUB))
94 #else
95 /* Native fallback */
96     static GMQCC_INLINE uint32_t sfloat_popcnt(uint32_t x) {
97         x -= ((x >> 1) & 0x55555555);
98         x  = (((x >> 2) & 0x33333333) + (x & 0x33333333));
99         x  = (((x >> 4) + x) & 0x0F0F0F0F);
100         x += x >> 8;
101         x += x >> 16;
102         return x & 0x0000003F;
103     }
104     static GMQCC_INLINE uint32_t sfloat_clz(uint32_t x) {
105         x |= (x >> 1);
106         x |= (x >> 2);
107         x |= (x >> 4);
108         x |= (x >> 8);
109         x |= (x >> 16);
110         return 32 - sfloat_popcnt(x);
111     }
112 #   define SFLOAT_CLZ(X, SUB) \
113         (sfloat_clz((X) - (SUB)))
114 #endif
115
116 /* The value of a NaN */
117 #define SFLOAT_NAN 0xFFC00000
118 /* Test if NaN */
119 #define SFLOAT_ISNAN(A) \
120     (0xFF000000 < (uint32_t)((A) << 1))
121 /* Test if signaling NaN */
122 #define SFLOAT_ISSNAN(A) \
123     (((((A) >> 22) & 0x1FF) == 0x1FE) && ((A) & 0x003FFFFF))
124 /* Raise exception */
125 #define SFLOAT_RAISE(STATE, FLAGS) \
126     ((STATE)->exceptionflags |= (FLAGS))
127 /*
128  * Shifts `A' right `COUNT' bits. Non-zero bits are stored in LSB. Size
129  * sets the arbitrarly-large limit.
130  */
131 #define SFLOAT_SHIFT(SIZE, A, COUNT, Z)                                      \
132     *(Z) = ((COUNT) == 0)                                                    \
133         ? 1                                                                  \
134         : (((COUNT) < (SIZE))                                                \
135             ? ((A) >> (COUNT)) | (((A) << ((-(COUNT)) & ((SIZE) - 1))) != 0) \
136             : ((A) != 0))
137 /* Extract fractional component */
138 #define SFLOAT_EXTRACT_FRAC(X) \
139     ((uint32_t)((X) & 0x007FFFFF))
140 /* Extract exponent component */
141 #define SFLOAT_EXTRACT_EXP(X) \
142     ((int16_t)((X) >> 23) & 0xFF)
143 /* Extract sign bit */
144 #define SFLOAT_EXTRACT_SIGN(X) \
145     ((X) >> 31)
146 /* Normalize a subnormal */
147 #define SFLOAT_SUBNORMALIZE(SA, Z, SZ) \
148     (void)(*(SZ) = (SA) << SFLOAT_CLZ((SA), 8), *(SZ) = 1 - SFLOAT_CLZ((SA), 8))
149 /*
150  * Pack sign, exponent and significand and produce a float.
151  *
152  * Integer portions of the significand are added to the exponent. The
153  * exponent input should be one less than the result exponent whenever
154  * the significand is normalized since normalized significand will
155  * always have an integer portion of value one.
156  */
157 #define SFLOAT_PACK(SIGN, EXP, SIG) \
158     (sfloat_t)((((uint32_t)(SIGN)) << 31) + (((uint32_t)(EXP)) << 23) + (SIG))
159
160 /* Calculate NaN. If either operands are signaling then raise invalid */
161 static sfloat_t sfloat_propagate_nan(sfloat_state_t *state, sfloat_t a, sfloat_t b) {
162     bool isnan_a  = SFLOAT_ISNAN(a);
163     bool issnan_a = SFLOAT_ISSNAN(a);
164     bool isnan_b  = SFLOAT_ISNAN(b);
165     bool issnan_b = SFLOAT_ISSNAN(b);
166
167     a |= 0x00400000;
168     b |= 0x00400000;
169
170     if (issnan_a | issnan_b)
171         SFLOAT_RAISE(state, SFLOAT_INEXACT);
172     if (issnan_a) {
173         if (issnan_b)
174             goto larger;
175         return isnan_b ? b : a;
176     } else if (isnan_a) {
177         if (issnan_b | !isnan_b)
178             return a;
179 larger:
180         if ((uint32_t)(a << 1) < (uint32_t)(b << 1)) return b;
181         if ((uint32_t)(b << 1) < (uint32_t)(a << 1)) return a;
182         return (a < b) ? a : b;
183     }
184     return b;
185 }
186
187 /* Round and pack */
188 static sfloat_t SFLOAT_PACK_round(sfloat_state_t *state, bool sign_z, int16_t exp_z, uint32_t sig_z) {
189     sfloat_roundingmode_t mode      = state->roundingmode;
190     bool                  even      = !!(mode == SFLOAT_ROUND_NEAREST_EVEN);
191     unsigned char         increment = 0x40;
192     unsigned char         bits      = sig_z & 0x7F;
193
194     if (!even) {
195         if (mode == SFLOAT_ROUND_TO_ZERO)
196             increment = 0;
197         else {
198             increment = 0x7F;
199             if (sign_z) {
200                 if (mode == SFLOAT_ROUND_UP)
201                     increment = 0;
202             } else {
203                 if (mode == SFLOAT_ROUND_DOWN)
204                     increment = 0;
205             }
206         }
207     }
208
209     if (0xFD <= (uint16_t)exp_z) {
210         if ((0xFD < exp_z) || ((exp_z == 0xFD) && ((int32_t)(sig_z + increment) < 0))) {
211             SFLOAT_RAISE(state, SFLOAT_OVERFLOW | SFLOAT_INEXACT);
212             return SFLOAT_PACK(sign_z, 0xFF, 0) - (increment == 0);
213         }
214         if (exp_z < 0) {
215             /* Check for underflow */
216             bool tiny = (state->tiny == SFLOAT_TBEFORE) || (exp_z < -1) || (sig_z + increment < 0x80000000);
217             SFLOAT_SHIFT(32, sig_z, -exp_z, &sig_z);
218             exp_z = 0;
219             bits = sig_z & 0x7F;
220             if (tiny && bits)
221                 SFLOAT_RAISE(state, SFLOAT_UNDERFLOW);
222         }
223     }
224
225     /*
226      * Significand has point between bits 30 and 29, 7 bits to the left of
227      * the usual place. This shifted significand has to be normalized
228      * or smaller, if it isn't the exponent must be zero, in which case
229      * no rounding occurs since the result will be a subnormal.
230      */
231     if (bits)
232         SFLOAT_RAISE(state, SFLOAT_INEXACT);
233     sig_z = (sig_z + increment) >> 7;
234     sig_z &= ~(((bits ^ 0x40) == 0) & even);
235     if (sig_z == 0)
236         exp_z = 0;
237     return SFLOAT_PACK(sign_z, exp_z, sig_z);
238 }
239
240 /* Normalized round and pack */
241 static sfloat_t SFLOAT_PACK_normal(sfloat_state_t *state, bool sign_z, int16_t exp_z, uint32_t sig_z) {
242     unsigned char c = SFLOAT_CLZ(sig_z, 1);
243     return SFLOAT_PACK_round(state, sign_z, exp_z - c, sig_z << c);
244 }
245
246 static sfloat_t sfloat_add_impl(sfloat_state_t *state, sfloat_t a, sfloat_t b, bool sign_z) {
247     int16_t  exp_a = SFLOAT_EXTRACT_EXP(a);
248     int16_t  exp_b = SFLOAT_EXTRACT_EXP(b);
249     int16_t  exp_z = 0;
250     int16_t  exp_d = exp_a - exp_b;
251     uint32_t sig_a = SFLOAT_EXTRACT_FRAC(a) << 6;
252     uint32_t sig_b = SFLOAT_EXTRACT_FRAC(b) << 6;
253     uint32_t sig_z = 0;
254
255     if (0 < exp_d) {
256         if (exp_a == 0xFF)
257             return sig_a ? sfloat_propagate_nan(state, a, b) : a;
258         if (exp_b == 0)
259             --exp_d;
260         else
261             sig_b |= 0x20000000;
262         SFLOAT_SHIFT(32, sig_b, exp_d, &sig_b);
263         exp_z = exp_a;
264     } else if (exp_d < 0) {
265         if (exp_b == 0xFF)
266             return sig_b ? sfloat_propagate_nan(state, a, b) : SFLOAT_PACK(sign_z, 0xFF, 0);
267         if (exp_a == 0)
268             ++exp_d;
269         else
270             sig_a |= 0x20000000;
271         SFLOAT_SHIFT(32, sig_a, -exp_d, &sig_a);
272         exp_z = exp_b;
273     } else {
274         if (exp_a == 0xFF)
275             return (sig_a | sig_b) ? sfloat_propagate_nan(state, a, b) : a;
276         if (exp_a == 0)
277             return SFLOAT_PACK(sign_z, 0, (sig_a + sig_b) >> 6);
278         sig_z = 0x40000000 + sig_a + sig_b;
279         exp_z = exp_a;
280         goto end;
281     }
282     sig_a |= 0x20000000;
283     sig_z = (sig_a + sig_b) << 1;
284     --exp_z;
285     if ((int32_t)sig_z < 0) {
286         sig_z = sig_a + sig_b;
287         ++exp_z;
288     }
289 end:
290     return SFLOAT_PACK_round(state, sign_z, exp_z, sig_z);
291 }
292
293 static sfloat_t sfloat_sub_impl(sfloat_state_t *state, sfloat_t a, sfloat_t b, bool sign_z) {
294     int16_t  exp_a = SFLOAT_EXTRACT_EXP(a);
295     int16_t  exp_b = SFLOAT_EXTRACT_EXP(b);
296     int16_t  exp_z = 0;
297     int16_t  exp_d = exp_a - exp_b;
298     uint32_t sig_a = SFLOAT_EXTRACT_FRAC(a) << 7;
299     uint32_t sig_b = SFLOAT_EXTRACT_FRAC(b) << 7;
300     uint32_t sig_z = 0;
301
302     if (0 < exp_d) goto exp_greater_a;
303     if (exp_d < 0) goto exp_greater_b;
304
305     if (exp_a == 0xFF) {
306         if (sig_a | sig_b)
307             return sfloat_propagate_nan(state, a, b);
308         SFLOAT_RAISE(state, SFLOAT_INVALID);
309         return SFLOAT_NAN;
310     }
311
312     if (exp_a == 0)
313         exp_a = exp_b = 1;
314
315     if (sig_b < sig_a) goto greater_a;
316     if (sig_a < sig_b) goto greater_b;
317
318     return SFLOAT_PACK(state->roundingmode == SFLOAT_ROUND_DOWN, 0, 0);
319
320 exp_greater_b:
321     if (exp_b == 0xFF)
322         return (sig_b) ? sfloat_propagate_nan(state, a, b) : SFLOAT_PACK(sign_z ^ 1, 0xFF, 0);
323     if (exp_a == 0)
324         ++exp_d;
325     else
326         sig_a |= 0x40000000;
327     SFLOAT_SHIFT(32, sig_a, -exp_d, &sig_a);
328     sig_b |= 0x40000000;
329 greater_b:
330     sig_z = sig_b - sig_a;
331     exp_z = exp_b;
332     sign_z ^= 1;
333     goto end;
334
335 exp_greater_a:
336     if (exp_a == 0xFF)
337         return (sig_a) ? sfloat_propagate_nan(state, a, b) : a;
338     if (exp_b == 0)
339         --exp_d;
340     else
341         sig_b |= 0x40000000;
342     SFLOAT_SHIFT(32, sig_b, exp_d, &sig_b);
343     sig_a |= 0x40000000;
344 greater_a:
345     sig_z = sig_a - sig_b;
346     exp_z = exp_a;
347
348 end:
349     --exp_z;
350     return SFLOAT_PACK_normal(state, sign_z, exp_z, sig_z);
351 }
352
353 static GMQCC_INLINE sfloat_t sfloat_add(sfloat_state_t *state, sfloat_t a, sfloat_t b) {
354     bool sign_a = SFLOAT_EXTRACT_SIGN(a);
355     bool sign_b = SFLOAT_EXTRACT_SIGN(b);
356     return (sign_a == sign_b) ? sfloat_add_impl(state, a, b, sign_a)
357                               : sfloat_sub_impl(state, a, b, sign_a);
358 }
359
360 static GMQCC_INLINE sfloat_t sfloat_sub(sfloat_state_t *state, sfloat_t a, sfloat_t b) {
361     bool sign_a = SFLOAT_EXTRACT_SIGN(a);
362     bool sign_b = SFLOAT_EXTRACT_SIGN(b);
363     return (sign_a == sign_b) ? sfloat_sub_impl(state, a, b, sign_a)
364                               : sfloat_add_impl(state, a, b, sign_a);
365 }
366
367 static sfloat_t sfloat_mul(sfloat_state_t *state, sfloat_t a, sfloat_t b) {
368     int16_t  exp_a   = SFLOAT_EXTRACT_EXP(a);
369     int16_t  exp_b   = SFLOAT_EXTRACT_EXP(b);
370     int16_t  exp_z   = 0;
371     uint32_t sig_a   = SFLOAT_EXTRACT_FRAC(a);
372     uint32_t sig_b   = SFLOAT_EXTRACT_FRAC(b);
373     uint32_t sig_z   = 0;
374     uint64_t sig_z64 = 0;
375     bool     sign_a  = SFLOAT_EXTRACT_SIGN(a);
376     bool     sign_b  = SFLOAT_EXTRACT_SIGN(b);
377     bool     sign_z  = sign_a ^ sign_b;
378
379     if (exp_a == 0xFF) {
380         if (sig_a || ((exp_b == 0xFF) && sig_b))
381             return sfloat_propagate_nan(state, a, b);
382         if ((exp_b | sig_b) == 0) {
383             SFLOAT_RAISE(state, SFLOAT_INVALID);
384             return SFLOAT_NAN;
385         }
386         return SFLOAT_PACK(sign_z, 0xFF, 0);
387     }
388     if (exp_b == 0xFF) {
389         if (sig_b)
390             return sfloat_propagate_nan(state, a, b);
391         if ((exp_a | sig_a) == 0) {
392             SFLOAT_RAISE(state, SFLOAT_INVALID);
393             return SFLOAT_NAN;
394         }
395         return SFLOAT_PACK(sign_z, 0xFF, 0);
396     }
397     if (exp_a == 0) {
398         if (sig_a == 0)
399             return SFLOAT_PACK(sign_z, 0, 0);
400         SFLOAT_SUBNORMALIZE(sig_a, &exp_a, &sig_a);
401     }
402     if (exp_b == 0) {
403         if (sig_b == 0)
404             return SFLOAT_PACK(sign_z, 0, 0);
405         SFLOAT_SUBNORMALIZE(sig_b, &exp_b, &sig_b);
406     }
407     exp_z = exp_a + exp_b - 0x7F;
408     sig_a = (sig_a | 0x00800000) << 7;
409     sig_b = (sig_b | 0x00800000) << 8;
410     SFLOAT_SHIFT(64, ((uint64_t)sig_a) * sig_b, 32, &sig_z64);
411     sig_z = sig_z64;
412     if (0 <= (int32_t)(sig_z << 1)) {
413         sig_z <<= 1;
414         --exp_z;
415     }
416     return SFLOAT_PACK_round(state, sign_z, exp_z, sig_z);
417 }
418
419 static sfloat_t sfloat_div(sfloat_state_t *state, sfloat_t a, sfloat_t b) {
420     int16_t  exp_a   = SFLOAT_EXTRACT_EXP(a);
421     int16_t  exp_b   = SFLOAT_EXTRACT_EXP(b);
422     int16_t  exp_z   = 0;
423     uint32_t sig_a   = SFLOAT_EXTRACT_FRAC(a);
424     uint32_t sig_b   = SFLOAT_EXTRACT_FRAC(b);
425     uint32_t sig_z   = 0;
426     bool     sign_a  = SFLOAT_EXTRACT_SIGN(a);
427     bool     sign_b  = SFLOAT_EXTRACT_SIGN(b);
428     bool     sign_z  = sign_a ^ sign_b;
429
430     if (exp_a == 0xFF) {
431         if (sig_a)
432             return sfloat_propagate_nan(state, a, b);
433         if (exp_b == 0xFF) {
434             if (sig_b)
435                 return sfloat_propagate_nan(state, a, b);
436             SFLOAT_RAISE(state, SFLOAT_INVALID);
437             return SFLOAT_NAN;
438         }
439         return SFLOAT_PACK(sign_z, 0xFF, 0);
440     }
441     if (exp_b == 0xFF)
442         return (sig_b) ? sfloat_propagate_nan(state, a, b) : SFLOAT_PACK(sign_z, 0, 0);
443     if (exp_b == 0) {
444         if (sig_b == 0) {
445             if ((exp_a | sig_a) == 0) {
446                 SFLOAT_RAISE(state, SFLOAT_INVALID);
447                 return SFLOAT_NAN;
448             }
449             SFLOAT_RAISE(state, SFLOAT_DIVBYZERO);
450             return SFLOAT_PACK(sign_z, 0xFF, 0);
451         }
452         SFLOAT_SUBNORMALIZE(sig_b, &exp_b, &sig_b);
453     }
454     if (exp_a == 0) {
455         if (sig_a == 0)
456             return SFLOAT_PACK(sign_z, 0, 0);
457         SFLOAT_SUBNORMALIZE(sig_a, &exp_a, &sig_a);
458     }
459     exp_z = exp_a - exp_b + 0x7D;
460     sig_a = (sig_a | 0x00800000) << 7;
461     sig_b = (sig_b | 0x00800000) << 8;
462     if (sig_b <= (sig_a + sig_a)) {
463         sig_a >>= 1;
464         ++exp_z;
465     }
466     sig_z = (((uint64_t)sig_a) << 32) / sig_b;
467     if ((sig_z & 0x3F) == 0)
468         sig_z |= ((uint64_t)sig_b * sig_z != ((uint64_t)sig_a) << 32);
469     return SFLOAT_PACK_round(state, sign_z, exp_z, sig_z);
470 }
471
472 static GMQCC_INLINE void sfloat_check(lex_ctx_t ctx, sfloat_state_t *state, const char *vec) {
473     /* Exception comes from vector component */
474     if (vec) {
475         if (state->exceptionflags & SFLOAT_DIVBYZERO)
476             compile_error(ctx, "division by zero in `%s' component", vec);
477         if (state->exceptionflags & SFLOAT_INVALID)
478             compile_error(ctx, "undefined (inf) in `%s' component", vec);
479         if (state->exceptionflags & SFLOAT_OVERFLOW)
480             compile_error(ctx, "arithmetic overflow in `%s' component", vec);
481         if (state->exceptionflags & SFLOAT_UNDERFLOW)
482             compile_error(ctx, "arithmetic underflow in `%s' component", vec);
483             return;
484     }
485     if (state->exceptionflags & SFLOAT_DIVBYZERO)
486         compile_error(ctx, "division by zero");
487     if (state->exceptionflags & SFLOAT_INVALID)
488         compile_error(ctx, "undefined (inf)");
489     if (state->exceptionflags & SFLOAT_OVERFLOW)
490         compile_error(ctx, "arithmetic overflow");
491     if (state->exceptionflags & SFLOAT_UNDERFLOW)
492         compile_error(ctx, "arithmetic underflow");
493 }
494
495 static GMQCC_INLINE void sfloat_init(sfloat_state_t *state) {
496     state->exceptionflags = 0;
497     state->roundingmode   = FOLD_ROUNDING;
498     state->tiny           = FOLD_TINYNESS;
499 }
500
501 /*
502  * There is two stages to constant folding in GMQCC: there is the parse
503  * stage constant folding, where, witht he help of the AST, operator
504  * usages can be constant folded. Then there is the constant folding
505  * in the IR for things like eliding if statements, can occur.
506  *
507  * This file is thus, split into two parts.
508  */
509
510 #define isfloat(X)      (((ast_expression*)(X))->vtype == TYPE_FLOAT)
511 #define isvector(X)     (((ast_expression*)(X))->vtype == TYPE_VECTOR)
512 #define isstring(X)     (((ast_expression*)(X))->vtype == TYPE_STRING)
513 #define isfloats(X,Y)   (isfloat  (X) && isfloat (Y))
514
515 /*
516  * Implementation of basic vector math for vec3_t, for trivial constant
517  * folding.
518  *
519  * TODO: gcc/clang hinting for autovectorization
520  */
521 typedef enum {
522     VEC_COMP_X = 1 << 0,
523     VEC_COMP_Y = 1 << 1,
524     VEC_COMP_Z = 1 << 2
525 } vec3_comp_t;
526
527 typedef struct {
528     sfloat_cast_t x;
529     sfloat_cast_t y;
530     sfloat_cast_t z;
531 } vec3_soft_t;
532
533 typedef struct {
534     vec3_comp_t    faults;
535     sfloat_state_t state[3];
536 } vec3_soft_state_t;
537
538 static GMQCC_INLINE vec3_soft_t vec3_soft_convert(vec3_t vec) {
539     vec3_soft_t soft;
540     soft.x.f = vec.x;
541     soft.y.f = vec.y;
542     soft.z.f = vec.z;
543     return soft;
544 }
545
546 static GMQCC_INLINE bool vec3_soft_exception(vec3_soft_state_t *vstate, size_t index) {
547     sfloat_exceptionflags_t flags = vstate->state[index].exceptionflags;
548     if (flags & SFLOAT_DIVBYZERO) return true;
549     if (flags & SFLOAT_INVALID)   return true;
550     if (flags & SFLOAT_OVERFLOW)  return true;
551     if (flags & SFLOAT_UNDERFLOW) return true;
552     return false;
553 }
554
555 static GMQCC_INLINE void vec3_soft_eval(vec3_soft_state_t *state,
556                                         sfloat_t         (*callback)(sfloat_state_t *, sfloat_t, sfloat_t),
557                                         vec3_t             a,
558                                         vec3_t             b)
559 {
560     vec3_soft_t sa = vec3_soft_convert(a);
561     vec3_soft_t sb = vec3_soft_convert(b);
562     callback(&state->state[0], sa.x.s, sb.x.s);
563     if (vec3_soft_exception(state, 0)) state->faults |= VEC_COMP_X;
564     callback(&state->state[1], sa.y.s, sb.y.s);
565     if (vec3_soft_exception(state, 1)) state->faults |= VEC_COMP_Y;
566     callback(&state->state[2], sa.z.s, sb.z.s);
567     if (vec3_soft_exception(state, 2)) state->faults |= VEC_COMP_Z;
568 }
569
570 static GMQCC_INLINE void vec3_check_except(vec3_t     a,
571                                            vec3_t     b,
572                                            lex_ctx_t  ctx,
573                                            sfloat_t (*callback)(sfloat_state_t *, sfloat_t, sfloat_t))
574 {
575     vec3_soft_state_t state;
576
577     if (!OPTS_FLAG(ARITHMETIC_EXCEPTIONS))
578         return;
579
580     sfloat_init(&state.state[0]);
581     sfloat_init(&state.state[1]);
582     sfloat_init(&state.state[2]);
583
584     vec3_soft_eval(&state, callback, a, b);
585     if (state.faults & VEC_COMP_X) sfloat_check(ctx, &state.state[0], "x");
586     if (state.faults & VEC_COMP_Y) sfloat_check(ctx, &state.state[1], "y");
587     if (state.faults & VEC_COMP_Z) sfloat_check(ctx, &state.state[2], "z");
588 }
589
590 static GMQCC_INLINE vec3_t vec3_add(lex_ctx_t ctx, vec3_t a, vec3_t b) {
591     vec3_t out;
592     vec3_check_except(a, b, ctx, &sfloat_add);
593     out.x = a.x + b.x;
594     out.y = a.y + b.y;
595     out.z = a.z + b.z;
596     return out;
597 }
598
599 static GMQCC_INLINE vec3_t vec3_sub(lex_ctx_t ctx, vec3_t a, vec3_t b) {
600     vec3_t out;
601     vec3_check_except(a, b, ctx, &sfloat_sub);
602     out.x = a.x - b.x;
603     out.y = a.y - b.y;
604     out.z = a.z - b.z;
605     return out;
606 }
607
608 static GMQCC_INLINE vec3_t vec3_neg(vec3_t a) {
609     vec3_t out;
610     out.x = -a.x;
611     out.y = -a.y;
612     out.z = -a.z;
613     return out;
614 }
615
616 static GMQCC_INLINE vec3_t vec3_or(vec3_t a, vec3_t b) {
617     vec3_t out;
618     out.x = (qcfloat_t)(((qcint_t)a.x) | ((qcint_t)b.x));
619     out.y = (qcfloat_t)(((qcint_t)a.y) | ((qcint_t)b.y));
620     out.z = (qcfloat_t)(((qcint_t)a.z) | ((qcint_t)b.z));
621     return out;
622 }
623
624 static GMQCC_INLINE vec3_t vec3_orvf(vec3_t a, qcfloat_t b) {
625     vec3_t out;
626     out.x = (qcfloat_t)(((qcint_t)a.x) | ((qcint_t)b));
627     out.y = (qcfloat_t)(((qcint_t)a.y) | ((qcint_t)b));
628     out.z = (qcfloat_t)(((qcint_t)a.z) | ((qcint_t)b));
629     return out;
630 }
631
632 static GMQCC_INLINE vec3_t vec3_and(vec3_t a, vec3_t b) {
633     vec3_t out;
634     out.x = (qcfloat_t)(((qcint_t)a.x) & ((qcint_t)b.x));
635     out.y = (qcfloat_t)(((qcint_t)a.y) & ((qcint_t)b.y));
636     out.z = (qcfloat_t)(((qcint_t)a.z) & ((qcint_t)b.z));
637     return out;
638 }
639
640 static GMQCC_INLINE vec3_t vec3_andvf(vec3_t a, qcfloat_t b) {
641     vec3_t out;
642     out.x = (qcfloat_t)(((qcint_t)a.x) & ((qcint_t)b));
643     out.y = (qcfloat_t)(((qcint_t)a.y) & ((qcint_t)b));
644     out.z = (qcfloat_t)(((qcint_t)a.z) & ((qcint_t)b));
645     return out;
646 }
647
648 static GMQCC_INLINE vec3_t vec3_xor(vec3_t a, vec3_t b) {
649     vec3_t out;
650     out.x = (qcfloat_t)(((qcint_t)a.x) ^ ((qcint_t)b.x));
651     out.y = (qcfloat_t)(((qcint_t)a.y) ^ ((qcint_t)b.y));
652     out.z = (qcfloat_t)(((qcint_t)a.z) ^ ((qcint_t)b.z));
653     return out;
654 }
655
656 static GMQCC_INLINE vec3_t vec3_xorvf(vec3_t a, qcfloat_t b) {
657     vec3_t out;
658     out.x = (qcfloat_t)(((qcint_t)a.x) ^ ((qcint_t)b));
659     out.y = (qcfloat_t)(((qcint_t)a.y) ^ ((qcint_t)b));
660     out.z = (qcfloat_t)(((qcint_t)a.z) ^ ((qcint_t)b));
661     return out;
662 }
663
664 static GMQCC_INLINE vec3_t vec3_not(vec3_t a) {
665     vec3_t out;
666     out.x = -1-a.x;
667     out.y = -1-a.y;
668     out.z = -1-a.z;
669     return out;
670 }
671
672 static GMQCC_INLINE qcfloat_t vec3_mulvv(lex_ctx_t ctx, vec3_t a, vec3_t b) {
673     vec3_soft_t    sa;
674     vec3_soft_t    sb;
675     sfloat_state_t s[5];
676     sfloat_t       r[5];
677
678     if (!OPTS_FLAG(ARITHMETIC_EXCEPTIONS))
679         goto end;
680
681     sa = vec3_soft_convert(a);
682     sb = vec3_soft_convert(b);
683
684     sfloat_init(&s[0]);
685     sfloat_init(&s[1]);
686     sfloat_init(&s[2]);
687     sfloat_init(&s[3]);
688     sfloat_init(&s[4]);
689
690     r[0] = sfloat_mul(&s[0], sa.x.s, sb.x.s);
691     r[1] = sfloat_mul(&s[1], sa.y.s, sb.y.s);
692     r[2] = sfloat_mul(&s[2], sa.z.s, sb.z.s);
693     r[3] = sfloat_add(&s[3], r[0],   r[1]);
694     r[4] = sfloat_add(&s[4], r[3],   r[2]);
695
696     sfloat_check(ctx, &s[0], NULL);
697     sfloat_check(ctx, &s[1], NULL);
698     sfloat_check(ctx, &s[2], NULL);
699     sfloat_check(ctx, &s[3], NULL);
700     sfloat_check(ctx, &s[4], NULL);
701
702 end:
703     return (a.x * b.x + a.y * b.y + a.z * b.z);
704 }
705
706 static GMQCC_INLINE vec3_t vec3_mulvf(lex_ctx_t ctx, vec3_t a, qcfloat_t b) {
707     vec3_t         out;
708     vec3_soft_t    sa;
709     sfloat_cast_t  sb;
710     sfloat_state_t s[3];
711
712     if (!OPTS_FLAG(ARITHMETIC_EXCEPTIONS))
713         goto end;
714
715     sa   = vec3_soft_convert(a);
716     sb.f = b;
717     sfloat_init(&s[0]);
718     sfloat_init(&s[1]);
719     sfloat_init(&s[2]);
720
721     sfloat_mul(&s[0], sa.x.s, sb.s);
722     sfloat_mul(&s[1], sa.y.s, sb.s);
723     sfloat_mul(&s[2], sa.z.s, sb.s);
724
725     sfloat_check(ctx, &s[0], "x");
726     sfloat_check(ctx, &s[1], "y");
727     sfloat_check(ctx, &s[2], "z");
728
729 end:
730     out.x = a.x * b;
731     out.y = a.y * b;
732     out.z = a.z * b;
733     return out;
734 }
735
736 static GMQCC_INLINE bool vec3_cmp(vec3_t a, vec3_t b) {
737     return a.x == b.x &&
738            a.y == b.y &&
739            a.z == b.z;
740 }
741
742 static GMQCC_INLINE vec3_t vec3_create(float x, float y, float z) {
743     vec3_t out;
744     out.x = x;
745     out.y = y;
746     out.z = z;
747     return out;
748 }
749
750 static GMQCC_INLINE qcfloat_t vec3_notf(vec3_t a) {
751     return (!a.x && !a.y && !a.z);
752 }
753
754 static GMQCC_INLINE bool vec3_pbool(vec3_t a) {
755     return (a.x || a.y || a.z);
756 }
757
758 static GMQCC_INLINE vec3_t vec3_cross(lex_ctx_t ctx, vec3_t a, vec3_t b) {
759     vec3_t         out;
760     vec3_soft_t    sa;
761     vec3_soft_t    sb;
762     sfloat_t       r[9];
763     sfloat_state_t s[9];
764
765     if (!OPTS_FLAG(ARITHMETIC_EXCEPTIONS))
766         goto end;
767
768     sa = vec3_soft_convert(a);
769     sb = vec3_soft_convert(b);
770
771     sfloat_init(&s[0]);
772     sfloat_init(&s[1]);
773     sfloat_init(&s[2]);
774     sfloat_init(&s[3]);
775     sfloat_init(&s[4]);
776     sfloat_init(&s[5]);
777     sfloat_init(&s[6]);
778     sfloat_init(&s[7]);
779     sfloat_init(&s[8]);
780
781     r[0] = sfloat_mul(&s[0], sa.y.s, sb.z.s);
782     r[1] = sfloat_mul(&s[1], sa.z.s, sb.y.s);
783     r[2] = sfloat_mul(&s[2], sa.z.s, sb.x.s);
784     r[3] = sfloat_mul(&s[3], sa.x.s, sb.z.s);
785     r[4] = sfloat_mul(&s[4], sa.x.s, sb.y.s);
786     r[5] = sfloat_mul(&s[5], sa.y.s, sb.x.s);
787     r[6] = sfloat_sub(&s[6], r[0],   r[1]);
788     r[7] = sfloat_sub(&s[7], r[2],   r[3]);
789     r[8] = sfloat_sub(&s[8], r[4],   r[5]);
790
791     sfloat_check(ctx, &s[0], NULL);
792     sfloat_check(ctx, &s[1], NULL);
793     sfloat_check(ctx, &s[2], NULL);
794     sfloat_check(ctx, &s[3], NULL);
795     sfloat_check(ctx, &s[4], NULL);
796     sfloat_check(ctx, &s[5], NULL);
797     sfloat_check(ctx, &s[6], "x");
798     sfloat_check(ctx, &s[7], "y");
799     sfloat_check(ctx, &s[8], "z");
800
801 end:
802     out.x = a.y * b.z - a.z * b.y;
803     out.y = a.z * b.x - a.x * b.z;
804     out.z = a.x * b.y - a.y * b.x;
805     return out;
806 }
807
808 static lex_ctx_t fold_ctx(fold_t *fold) {
809     lex_ctx_t ctx;
810     if (fold->parser->lex)
811         return parser_ctx(fold->parser);
812
813     memset(&ctx, 0, sizeof(ctx));
814     return ctx;
815 }
816
817 static GMQCC_INLINE bool fold_immediate_true(fold_t *fold, ast_value *v) {
818     switch (v->expression.vtype) {
819         case TYPE_FLOAT:
820             return !!v->constval.vfloat;
821         case TYPE_INTEGER:
822             return !!v->constval.vint;
823         case TYPE_VECTOR:
824             if (OPTS_FLAG(CORRECT_LOGIC))
825                 return vec3_pbool(v->constval.vvec);
826             return !!(v->constval.vvec.x);
827         case TYPE_STRING:
828             if (!v->constval.vstring)
829                 return false;
830             if (OPTS_FLAG(TRUE_EMPTY_STRINGS))
831                 return true;
832             return !!v->constval.vstring[0];
833         default:
834             compile_error(fold_ctx(fold), "internal error: fold_immediate_true on invalid type");
835             break;
836     }
837     return !!v->constval.vfunc;
838 }
839
840 /* Handy macros to determine if an ast_value can be constant folded. */
841 #define fold_can_1(X)  \
842     (ast_istype(((ast_expression*)(X)), ast_value) && (X)->hasvalue && ((X)->cvq == CV_CONST) && \
843                 ((ast_expression*)(X))->vtype != TYPE_FUNCTION)
844
845 #define fold_can_2(X, Y) (fold_can_1(X) && fold_can_1(Y))
846
847 #define fold_immvalue_float(E)  ((E)->constval.vfloat)
848 #define fold_immvalue_vector(E) ((E)->constval.vvec)
849 #define fold_immvalue_string(E) ((E)->constval.vstring)
850
851 fold_t *fold_init(parser_t *parser) {
852     fold_t *fold                 = (fold_t*)mem_a(sizeof(fold_t));
853     fold->parser                 = parser;
854     fold->imm_float              = NULL;
855     fold->imm_vector             = NULL;
856     fold->imm_string             = NULL;
857     fold->imm_string_untranslate = util_htnew(FOLD_STRING_UNTRANSLATE_HTSIZE);
858     fold->imm_string_dotranslate = util_htnew(FOLD_STRING_DOTRANSLATE_HTSIZE);
859
860     /*
861      * prime the tables with common constant values at constant
862      * locations.
863      */
864     (void)fold_constgen_float (fold,  0.0f, false);
865     (void)fold_constgen_float (fold,  1.0f, false);
866     (void)fold_constgen_float (fold, -1.0f, false);
867     (void)fold_constgen_float (fold,  2.0f, false);
868
869     (void)fold_constgen_vector(fold, vec3_create(0.0f, 0.0f, 0.0f));
870     (void)fold_constgen_vector(fold, vec3_create(-1.0f, -1.0f, -1.0f));
871
872     return fold;
873 }
874
875 bool fold_generate(fold_t *fold, ir_builder *ir) {
876     /* generate globals for immediate folded values */
877     size_t     i;
878     ast_value *cur;
879
880     for (i = 0; i < vec_size(fold->imm_float);   ++i)
881         if (!ast_global_codegen ((cur = fold->imm_float[i]), ir, false)) goto err;
882     for (i = 0; i < vec_size(fold->imm_vector);  ++i)
883         if (!ast_global_codegen((cur = fold->imm_vector[i]), ir, false)) goto err;
884     for (i = 0; i < vec_size(fold->imm_string);  ++i)
885         if (!ast_global_codegen((cur = fold->imm_string[i]), ir, false)) goto err;
886
887     return true;
888
889 err:
890     con_out("failed to generate global %s\n", cur->name);
891     ir_builder_delete(ir);
892     return false;
893 }
894
895 void fold_cleanup(fold_t *fold) {
896     size_t i;
897
898     for (i = 0; i < vec_size(fold->imm_float);  ++i) ast_delete(fold->imm_float[i]);
899     for (i = 0; i < vec_size(fold->imm_vector); ++i) ast_delete(fold->imm_vector[i]);
900     for (i = 0; i < vec_size(fold->imm_string); ++i) ast_delete(fold->imm_string[i]);
901
902     vec_free(fold->imm_float);
903     vec_free(fold->imm_vector);
904     vec_free(fold->imm_string);
905
906     util_htdel(fold->imm_string_untranslate);
907     util_htdel(fold->imm_string_dotranslate);
908
909     mem_d(fold);
910 }
911
912 ast_expression *fold_constgen_float(fold_t *fold, qcfloat_t value, bool inexact) {
913     ast_value  *out = NULL;
914     size_t      i;
915
916     for (i = 0; i < vec_size(fold->imm_float); i++) {
917         if (!memcmp(&fold->imm_float[i]->constval.vfloat, &value, sizeof(qcfloat_t)))
918             return (ast_expression*)fold->imm_float[i];
919     }
920
921     out                  = ast_value_new(fold_ctx(fold), "#IMMEDIATE", TYPE_FLOAT);
922     out->cvq             = CV_CONST;
923     out->hasvalue        = true;
924     out->inexact         = inexact;
925     out->constval.vfloat = value;
926
927     vec_push(fold->imm_float, out);
928
929     return (ast_expression*)out;
930 }
931
932 ast_expression *fold_constgen_vector(fold_t *fold, vec3_t value) {
933     ast_value *out;
934     size_t     i;
935
936     for (i = 0; i < vec_size(fold->imm_vector); i++) {
937         if (vec3_cmp(fold->imm_vector[i]->constval.vvec, value))
938             return (ast_expression*)fold->imm_vector[i];
939     }
940
941     out                = ast_value_new(fold_ctx(fold), "#IMMEDIATE", TYPE_VECTOR);
942     out->cvq           = CV_CONST;
943     out->hasvalue      = true;
944     out->constval.vvec = value;
945
946     vec_push(fold->imm_vector, out);
947
948     return (ast_expression*)out;
949 }
950
951 ast_expression *fold_constgen_string(fold_t *fold, const char *str, bool translate) {
952     hash_table_t *table = (translate) ? fold->imm_string_untranslate : fold->imm_string_dotranslate;
953     ast_value    *out   = NULL;
954     size_t        hash  = util_hthash(table, str);
955
956     if ((out = (ast_value*)util_htgeth(table, str, hash)))
957         return (ast_expression*)out;
958
959     if (translate) {
960         char name[32];
961         util_snprintf(name, sizeof(name), "dotranslate_%lu", (unsigned long)(fold->parser->translated++));
962         out                    = ast_value_new(parser_ctx(fold->parser), name, TYPE_STRING);
963         out->expression.flags |= AST_FLAG_INCLUDE_DEF; /* def needs to be included for translatables */
964     } else
965         out                    = ast_value_new(fold_ctx(fold), "#IMMEDIATE", TYPE_STRING);
966
967     out->cvq              = CV_CONST;
968     out->hasvalue         = true;
969     out->isimm            = true;
970     out->constval.vstring = parser_strdup(str);
971
972     vec_push(fold->imm_string, out);
973     util_htseth(table, str, hash, out);
974
975     return (ast_expression*)out;
976 }
977
978
979 static GMQCC_INLINE ast_expression *fold_op_mul_vec(fold_t *fold, vec3_t vec, ast_value *sel, const char *set) {
980     /*
981      * vector-component constant folding works by matching the component sets
982      * to eliminate expensive operations on whole-vectors (3 components at runtime).
983      * to achive this effect in a clean manner this function generalizes the
984      * values through the use of a set paramater, which is used as an indexing method
985      * for creating the elided ast binary expression.
986      *
987      * Consider 'n 0 0' where y, and z need to be tested for 0, and x is
988      * used as the value in a binary operation generating an INSTR_MUL instruction,
989      * to acomplish the indexing of the correct component value we use set[0], set[1], set[2]
990      * as x, y, z, where the values of those operations return 'x', 'y', 'z'. Because
991      * of how ASCII works we can easily deliniate:
992      * vec.z is the same as set[2]-'x' for when set[2] is 'z', 'z'-'x' results in a
993      * literal value of 2, using this 2, we know that taking the address of vec->x (float)
994      * and indxing it with this literal will yeild the immediate address of that component
995      *
996      * Of course more work needs to be done to generate the correct index for the ast_member_new
997      * call, which is no problem: set[0]-'x' suffices that job.
998      */
999     qcfloat_t x = (&vec.x)[set[0]-'x'];
1000     qcfloat_t y = (&vec.x)[set[1]-'x'];
1001     qcfloat_t z = (&vec.x)[set[2]-'x'];
1002
1003     if (!y && !z) {
1004         ast_expression *out;
1005         ++opts_optimizationcount[OPTIM_VECTOR_COMPONENTS];
1006         out                        = (ast_expression*)ast_member_new(fold_ctx(fold), (ast_expression*)sel, set[0]-'x', NULL);
1007         out->node.keep             = false;
1008         ((ast_member*)out)->rvalue = true;
1009         if (x != -1.0f)
1010             return (ast_expression*)ast_binary_new(fold_ctx(fold), INSTR_MUL_F, fold_constgen_float(fold, x, false), out);
1011     }
1012     return NULL;
1013 }
1014
1015
1016 static GMQCC_INLINE ast_expression *fold_op_neg(fold_t *fold, ast_value *a) {
1017     if (isfloat(a)) {
1018         if (fold_can_1(a))
1019             return fold_constgen_float(fold, -fold_immvalue_float(a), false);
1020     } else if (isvector(a)) {
1021         if (fold_can_1(a))
1022             return fold_constgen_vector(fold, vec3_neg(fold_immvalue_vector(a)));
1023     }
1024     return NULL;
1025 }
1026
1027 static GMQCC_INLINE ast_expression *fold_op_not(fold_t *fold, ast_value *a) {
1028     if (isfloat(a)) {
1029         if (fold_can_1(a))
1030             return fold_constgen_float(fold, !fold_immvalue_float(a), false);
1031     } else if (isvector(a)) {
1032         if (fold_can_1(a))
1033             return fold_constgen_float(fold, vec3_notf(fold_immvalue_vector(a)), false);
1034     } else if (isstring(a)) {
1035         if (fold_can_1(a)) {
1036             if (OPTS_FLAG(TRUE_EMPTY_STRINGS))
1037                 return fold_constgen_float(fold, !fold_immvalue_string(a), false);
1038             else
1039                 return fold_constgen_float(fold, !fold_immvalue_string(a) || !*fold_immvalue_string(a), false);
1040         }
1041     }
1042     return NULL;
1043 }
1044
1045 static bool fold_check_except_float(sfloat_t (*callback)(sfloat_state_t *, sfloat_t, sfloat_t),
1046                                     fold_t    *fold,
1047                                     ast_value *a,
1048                                     ast_value *b)
1049 {
1050     sfloat_state_t s;
1051     sfloat_cast_t ca;
1052     sfloat_cast_t cb;
1053
1054     if (!OPTS_FLAG(ARITHMETIC_EXCEPTIONS) && !OPTS_WARN(WARN_INEXACT_COMPARES))
1055         return false;
1056
1057     sfloat_init(&s);
1058     ca.f = fold_immvalue_float(a);
1059     cb.f = fold_immvalue_float(b);
1060
1061     callback(&s, ca.s, cb.s);
1062     if (s.exceptionflags == 0)
1063         return false;
1064
1065     if (!OPTS_FLAG(ARITHMETIC_EXCEPTIONS))
1066         goto inexact_possible;
1067
1068     sfloat_check(fold_ctx(fold), &s, NULL);
1069
1070 inexact_possible:
1071     return s.exceptionflags & SFLOAT_INEXACT;
1072 }
1073
1074 static bool fold_check_inexact_float(fold_t *fold, ast_value *a, ast_value *b) {
1075     lex_ctx_t ctx = fold_ctx(fold);
1076     if (!OPTS_WARN(WARN_INEXACT_COMPARES))
1077         return false;
1078     if (!a->inexact && !b->inexact)
1079         return false;
1080     return compile_warning(ctx, WARN_INEXACT_COMPARES, "inexact value in comparison");
1081 }
1082
1083 static GMQCC_INLINE ast_expression *fold_op_add(fold_t *fold, ast_value *a, ast_value *b) {
1084     if (isfloat(a)) {
1085         if (fold_can_2(a, b)) {
1086             bool inexact = fold_check_except_float(&sfloat_add, fold, a, b);
1087             return fold_constgen_float(fold, fold_immvalue_float(a) + fold_immvalue_float(b), inexact);
1088         }
1089     } else if (isvector(a)) {
1090         if (fold_can_2(a, b))
1091             return fold_constgen_vector(fold, vec3_add(fold_ctx(fold),
1092                                                        fold_immvalue_vector(a),
1093                                                        fold_immvalue_vector(b)));
1094     }
1095     return NULL;
1096 }
1097
1098 static GMQCC_INLINE ast_expression *fold_op_sub(fold_t *fold, ast_value *a, ast_value *b) {
1099     if (isfloat(a)) {
1100         if (fold_can_2(a, b)) {
1101             bool inexact = fold_check_except_float(&sfloat_sub, fold, a, b);
1102             return fold_constgen_float(fold, fold_immvalue_float(a) - fold_immvalue_float(b), inexact);
1103         }
1104     } else if (isvector(a)) {
1105         if (fold_can_2(a, b))
1106             return fold_constgen_vector(fold, vec3_sub(fold_ctx(fold),
1107                                                        fold_immvalue_vector(a),
1108                                                        fold_immvalue_vector(b)));
1109     }
1110     return NULL;
1111 }
1112
1113 static GMQCC_INLINE ast_expression *fold_op_mul(fold_t *fold, ast_value *a, ast_value *b) {
1114     if (isfloat(a)) {
1115         if (isvector(b)) {
1116             if (fold_can_2(a, b))
1117                 return fold_constgen_vector(fold, vec3_mulvf(fold_ctx(fold), fold_immvalue_vector(b), fold_immvalue_float(a)));
1118         } else {
1119             if (fold_can_2(a, b)) {
1120                 bool inexact = fold_check_except_float(&sfloat_mul, fold, a, b);
1121                 return fold_constgen_float(fold, fold_immvalue_float(a) * fold_immvalue_float(b), inexact);
1122             }
1123         }
1124     } else if (isvector(a)) {
1125         if (isfloat(b)) {
1126             if (fold_can_2(a, b))
1127                 return fold_constgen_vector(fold, vec3_mulvf(fold_ctx(fold), fold_immvalue_vector(a), fold_immvalue_float(b)));
1128         } else {
1129             if (fold_can_2(a, b)) {
1130                 return fold_constgen_float(fold, vec3_mulvv(fold_ctx(fold), fold_immvalue_vector(a), fold_immvalue_vector(b)), false);
1131             } else if (OPTS_OPTIMIZATION(OPTIM_VECTOR_COMPONENTS) && fold_can_1(a)) {
1132                 ast_expression *out;
1133                 if ((out = fold_op_mul_vec(fold, fold_immvalue_vector(a), b, "xyz"))) return out;
1134                 if ((out = fold_op_mul_vec(fold, fold_immvalue_vector(a), b, "yxz"))) return out;
1135                 if ((out = fold_op_mul_vec(fold, fold_immvalue_vector(a), b, "zxy"))) return out;
1136             } else if (OPTS_OPTIMIZATION(OPTIM_VECTOR_COMPONENTS) && fold_can_1(b)) {
1137                 ast_expression *out;
1138                 if ((out = fold_op_mul_vec(fold, fold_immvalue_vector(b), a, "xyz"))) return out;
1139                 if ((out = fold_op_mul_vec(fold, fold_immvalue_vector(b), a, "yxz"))) return out;
1140                 if ((out = fold_op_mul_vec(fold, fold_immvalue_vector(b), a, "zxy"))) return out;
1141             }
1142         }
1143     }
1144     return NULL;
1145 }
1146
1147 static GMQCC_INLINE ast_expression *fold_op_div(fold_t *fold, ast_value *a, ast_value *b) {
1148     if (isfloat(a)) {
1149         if (fold_can_2(a, b)) {
1150             bool inexact = fold_check_except_float(&sfloat_div, fold, a, b);
1151             return fold_constgen_float(fold, fold_immvalue_float(a) / fold_immvalue_float(b), inexact);
1152         } else if (fold_can_1(b)) {
1153             return (ast_expression*)ast_binary_new(
1154                 fold_ctx(fold),
1155                 INSTR_MUL_F,
1156                 (ast_expression*)a,
1157                 fold_constgen_float(fold, 1.0f / fold_immvalue_float(b), false)
1158             );
1159         }
1160     } else if (isvector(a)) {
1161         if (fold_can_2(a, b)) {
1162             return fold_constgen_vector(fold, vec3_mulvf(fold_ctx(fold), fold_immvalue_vector(a), 1.0f / fold_immvalue_float(b)));
1163         } else {
1164             return (ast_expression*)ast_binary_new(
1165                 fold_ctx(fold),
1166                 INSTR_MUL_VF,
1167                 (ast_expression*)a,
1168                 (fold_can_1(b))
1169                     ? (ast_expression*)fold_constgen_float(fold, 1.0f / fold_immvalue_float(b), false)
1170                     : (ast_expression*)ast_binary_new(
1171                                             fold_ctx(fold),
1172                                             INSTR_DIV_F,
1173                                             (ast_expression*)fold->imm_float[1],
1174                                             (ast_expression*)b
1175                     )
1176             );
1177         }
1178     }
1179     return NULL;
1180 }
1181
1182 static GMQCC_INLINE ast_expression *fold_op_mod(fold_t *fold, ast_value *a, ast_value *b) {
1183     return (fold_can_2(a, b))
1184                 ? fold_constgen_float(fold, fmod(fold_immvalue_float(a), fold_immvalue_float(b)), false)
1185                 : NULL;
1186 }
1187
1188 static GMQCC_INLINE ast_expression *fold_op_bor(fold_t *fold, ast_value *a, ast_value *b) {
1189     if (isfloat(a)) {
1190         if (fold_can_2(a, b))
1191             return fold_constgen_float(fold, (qcfloat_t)(((qcint_t)fold_immvalue_float(a)) | ((qcint_t)fold_immvalue_float(b))), false);
1192     } else {
1193         if (isvector(b)) {
1194             if (fold_can_2(a, b))
1195                 return fold_constgen_vector(fold, vec3_or(fold_immvalue_vector(a), fold_immvalue_vector(b)));
1196         } else {
1197             if (fold_can_2(a, b))
1198                 return fold_constgen_vector(fold, vec3_orvf(fold_immvalue_vector(a), fold_immvalue_float(b)));
1199         }
1200     }
1201     return NULL;
1202 }
1203
1204 static GMQCC_INLINE ast_expression *fold_op_band(fold_t *fold, ast_value *a, ast_value *b) {
1205     if (isfloat(a)) {
1206         if (fold_can_2(a, b))
1207             return fold_constgen_float(fold, (qcfloat_t)(((qcint_t)fold_immvalue_float(a)) & ((qcint_t)fold_immvalue_float(b))), false);
1208     } else {
1209         if (isvector(b)) {
1210             if (fold_can_2(a, b))
1211                 return fold_constgen_vector(fold, vec3_and(fold_immvalue_vector(a), fold_immvalue_vector(b)));
1212         } else {
1213             if (fold_can_2(a, b))
1214                 return fold_constgen_vector(fold, vec3_andvf(fold_immvalue_vector(a), fold_immvalue_float(b)));
1215         }
1216     }
1217     return NULL;
1218 }
1219
1220 static GMQCC_INLINE ast_expression *fold_op_xor(fold_t *fold, ast_value *a, ast_value *b) {
1221     if (isfloat(a)) {
1222         if (fold_can_2(a, b))
1223             return fold_constgen_float(fold, (qcfloat_t)(((qcint_t)fold_immvalue_float(a)) ^ ((qcint_t)fold_immvalue_float(b))), false);
1224     } else {
1225         if (fold_can_2(a, b)) {
1226             if (isvector(b))
1227                 return fold_constgen_vector(fold, vec3_xor(fold_immvalue_vector(a), fold_immvalue_vector(b)));
1228             else
1229                 return fold_constgen_vector(fold, vec3_xorvf(fold_immvalue_vector(a), fold_immvalue_float(b)));
1230         }
1231     }
1232     return NULL;
1233 }
1234
1235 static GMQCC_INLINE ast_expression *fold_op_lshift(fold_t *fold, ast_value *a, ast_value *b) {
1236     if (fold_can_2(a, b) && isfloats(a, b))
1237         return fold_constgen_float(fold, (qcfloat_t)floorf(fold_immvalue_float(a) * powf(2.0f, fold_immvalue_float(b))), false);
1238     return NULL;
1239 }
1240
1241 static GMQCC_INLINE ast_expression *fold_op_rshift(fold_t *fold, ast_value *a, ast_value *b) {
1242     if (fold_can_2(a, b) && isfloats(a, b))
1243         return fold_constgen_float(fold, (qcfloat_t)floorf(fold_immvalue_float(a) / powf(2.0f, fold_immvalue_float(b))), false);
1244     return NULL;
1245 }
1246
1247 static GMQCC_INLINE ast_expression *fold_op_andor(fold_t *fold, ast_value *a, ast_value *b, float expr) {
1248     if (fold_can_2(a, b)) {
1249         if (OPTS_FLAG(PERL_LOGIC)) {
1250             if (expr)
1251                 return (fold_immediate_true(fold, a)) ? (ast_expression*)a : (ast_expression*)b;
1252             else
1253                 return (fold_immediate_true(fold, a)) ? (ast_expression*)b : (ast_expression*)a;
1254         } else {
1255             return fold_constgen_float (
1256                 fold,
1257                 ((expr) ? (fold_immediate_true(fold, a) || fold_immediate_true(fold, b))
1258                         : (fold_immediate_true(fold, a) && fold_immediate_true(fold, b)))
1259                             ? 1
1260                             : 0,
1261                 false
1262             );
1263         }
1264     }
1265     return NULL;
1266 }
1267
1268 static GMQCC_INLINE ast_expression *fold_op_tern(fold_t *fold, ast_value *a, ast_value *b, ast_value *c) {
1269     if (fold_can_1(a)) {
1270         return fold_immediate_true(fold, a)
1271                     ? (ast_expression*)b
1272                     : (ast_expression*)c;
1273     }
1274     return NULL;
1275 }
1276
1277 static GMQCC_INLINE ast_expression *fold_op_exp(fold_t *fold, ast_value *a, ast_value *b) {
1278     if (fold_can_2(a, b))
1279         return fold_constgen_float(fold, (qcfloat_t)powf(fold_immvalue_float(a), fold_immvalue_float(b)), false);
1280     return NULL;
1281 }
1282
1283 static GMQCC_INLINE ast_expression *fold_op_lteqgt(fold_t *fold, ast_value *a, ast_value *b) {
1284     if (fold_can_2(a,b)) {
1285         fold_check_inexact_float(fold, a, b);
1286         if (fold_immvalue_float(a) <  fold_immvalue_float(b)) return (ast_expression*)fold->imm_float[2];
1287         if (fold_immvalue_float(a) == fold_immvalue_float(b)) return (ast_expression*)fold->imm_float[0];
1288         if (fold_immvalue_float(a) >  fold_immvalue_float(b)) return (ast_expression*)fold->imm_float[1];
1289     }
1290     return NULL;
1291 }
1292
1293 static GMQCC_INLINE ast_expression *fold_op_ltgt(fold_t *fold, ast_value *a, ast_value *b, bool lt) {
1294     if (fold_can_2(a, b)) {
1295         fold_check_inexact_float(fold, a, b);
1296         return (lt) ? (ast_expression*)fold->imm_float[!!(fold_immvalue_float(a) < fold_immvalue_float(b))]
1297                     : (ast_expression*)fold->imm_float[!!(fold_immvalue_float(a) > fold_immvalue_float(b))];
1298     }
1299     return NULL;
1300 }
1301
1302 static GMQCC_INLINE ast_expression *fold_op_cmp(fold_t *fold, ast_value *a, ast_value *b, bool ne) {
1303     if (fold_can_2(a, b)) {
1304         if (isfloat(a) && isfloat(b)) {
1305             float la = fold_immvalue_float(a);
1306             float lb = fold_immvalue_float(b);
1307             fold_check_inexact_float(fold, a, b);
1308             return (ast_expression*)fold->imm_float[!(ne ? la == lb : la != lb)];
1309         } if (isvector(a) && isvector(b)) {
1310             vec3_t la = fold_immvalue_vector(a);
1311             vec3_t lb = fold_immvalue_vector(b);
1312             return (ast_expression*)fold->imm_float[!(ne ? vec3_cmp(la, lb) : !vec3_cmp(la, lb))];
1313         }
1314     }
1315     return NULL;
1316 }
1317
1318 static GMQCC_INLINE ast_expression *fold_op_bnot(fold_t *fold, ast_value *a) {
1319     if (isfloat(a)) {
1320         if (fold_can_1(a))
1321             return fold_constgen_float(fold, -1-fold_immvalue_float(a), false);
1322     } else {
1323         if (isvector(a)) {
1324             if (fold_can_1(a))
1325                 return fold_constgen_vector(fold, vec3_not(fold_immvalue_vector(a)));
1326         }
1327     }
1328     return NULL;
1329 }
1330
1331 static GMQCC_INLINE ast_expression *fold_op_cross(fold_t *fold, ast_value *a, ast_value *b) {
1332     if (fold_can_2(a, b))
1333         return fold_constgen_vector(fold, vec3_cross(fold_ctx(fold),
1334                                                      fold_immvalue_vector(a),
1335                                                      fold_immvalue_vector(b)));
1336     return NULL;
1337 }
1338
1339 ast_expression *fold_op(fold_t *fold, const oper_info *info, ast_expression **opexprs) {
1340     ast_value      *a = (ast_value*)opexprs[0];
1341     ast_value      *b = (ast_value*)opexprs[1];
1342     ast_value      *c = (ast_value*)opexprs[2];
1343     ast_expression *e = NULL;
1344
1345     /* can a fold operation be applied to this operator usage? */
1346     if (!info->folds)
1347         return NULL;
1348
1349     switch(info->operands) {
1350         case 3: if(!c) return NULL;
1351         case 2: if(!b) return NULL;
1352         case 1:
1353         if(!a) {
1354             compile_error(fold_ctx(fold), "internal error: fold_op no operands to fold\n");
1355             return NULL;
1356         }
1357     }
1358
1359     /*
1360      * we could use a boolean and default case but ironically gcc produces
1361      * invalid broken assembly from that operation. clang/tcc get it right,
1362      * but interestingly ignore compiling this to a jump-table when I do that,
1363      * this happens to be the most efficent method, since you have per-level
1364      * granularity on the pointer check happening only for the case you check
1365      * it in. Opposed to the default method which would involve a boolean and
1366      * pointer check after wards.
1367      */
1368     #define fold_op_case(ARGS, ARGS_OPID, OP, ARGS_FOLD)    \
1369         case opid##ARGS ARGS_OPID:                          \
1370             if ((e = fold_op_##OP ARGS_FOLD)) {             \
1371                 ++opts_optimizationcount[OPTIM_CONST_FOLD]; \
1372             }                                               \
1373             return e
1374
1375     switch(info->id) {
1376         fold_op_case(2, ('-', 'P'),    neg,    (fold, a));
1377         fold_op_case(2, ('!', 'P'),    not,    (fold, a));
1378         fold_op_case(1, ('+'),         add,    (fold, a, b));
1379         fold_op_case(1, ('-'),         sub,    (fold, a, b));
1380         fold_op_case(1, ('*'),         mul,    (fold, a, b));
1381         fold_op_case(1, ('/'),         div,    (fold, a, b));
1382         fold_op_case(1, ('%'),         mod,    (fold, a, b));
1383         fold_op_case(1, ('|'),         bor,    (fold, a, b));
1384         fold_op_case(1, ('&'),         band,   (fold, a, b));
1385         fold_op_case(1, ('^'),         xor,    (fold, a, b));
1386         fold_op_case(1, ('<'),         ltgt,   (fold, a, b, true));
1387         fold_op_case(1, ('>'),         ltgt,   (fold, a, b, false));
1388         fold_op_case(2, ('<', '<'),    lshift, (fold, a, b));
1389         fold_op_case(2, ('>', '>'),    rshift, (fold, a, b));
1390         fold_op_case(2, ('|', '|'),    andor,  (fold, a, b, true));
1391         fold_op_case(2, ('&', '&'),    andor,  (fold, a, b, false));
1392         fold_op_case(2, ('?', ':'),    tern,   (fold, a, b, c));
1393         fold_op_case(2, ('*', '*'),    exp,    (fold, a, b));
1394         fold_op_case(3, ('<','=','>'), lteqgt, (fold, a, b));
1395         fold_op_case(2, ('!', '='),    cmp,    (fold, a, b, true));
1396         fold_op_case(2, ('=', '='),    cmp,    (fold, a, b, false));
1397         fold_op_case(2, ('~', 'P'),    bnot,   (fold, a));
1398         fold_op_case(2, ('>', '<'),    cross,  (fold, a, b));
1399     }
1400     #undef fold_op_case
1401     compile_error(fold_ctx(fold), "internal error: attempted to constant-fold for unsupported operator");
1402     return NULL;
1403 }
1404
1405 /*
1406  * Constant folding for compiler intrinsics, simaler approach to operator
1407  * folding, primarly: individual functions for each intrinsics to fold,
1408  * and a generic selection function.
1409  */
1410 static GMQCC_INLINE ast_expression *fold_intrin_isfinite(fold_t *fold, ast_value *a) {
1411     return fold_constgen_float(fold, isfinite(fold_immvalue_float(a)), false);
1412 }
1413 static GMQCC_INLINE ast_expression *fold_intrin_isinf(fold_t *fold, ast_value *a) {
1414     return fold_constgen_float(fold, isinf(fold_immvalue_float(a)), false);
1415 }
1416 static GMQCC_INLINE ast_expression *fold_intrin_isnan(fold_t *fold, ast_value *a) {
1417     return fold_constgen_float(fold, isnan(fold_immvalue_float(a)), false);
1418 }
1419 static GMQCC_INLINE ast_expression *fold_intrin_isnormal(fold_t *fold, ast_value *a) {
1420     return fold_constgen_float(fold, isnormal(fold_immvalue_float(a)), false);
1421 }
1422 static GMQCC_INLINE ast_expression *fold_intrin_signbit(fold_t *fold, ast_value *a) {
1423     return fold_constgen_float(fold, signbit(fold_immvalue_float(a)), false);
1424 }
1425 static GMQCC_INLINE ast_expression *fold_intirn_acosh(fold_t *fold, ast_value *a) {
1426     return fold_constgen_float(fold, acoshf(fold_immvalue_float(a)), false);
1427 }
1428 static GMQCC_INLINE ast_expression *fold_intrin_asinh(fold_t *fold, ast_value *a) {
1429     return fold_constgen_float(fold, asinhf(fold_immvalue_float(a)), false);
1430 }
1431 static GMQCC_INLINE ast_expression *fold_intrin_atanh(fold_t *fold, ast_value *a) {
1432     return fold_constgen_float(fold, (float)atanh(fold_immvalue_float(a)), false);
1433 }
1434 static GMQCC_INLINE ast_expression *fold_intrin_exp(fold_t *fold, ast_value *a) {
1435     return fold_constgen_float(fold, expf(fold_immvalue_float(a)), false);
1436 }
1437 static GMQCC_INLINE ast_expression *fold_intrin_exp2(fold_t *fold, ast_value *a) {
1438     return fold_constgen_float(fold, exp2f(fold_immvalue_float(a)), false);
1439 }
1440 static GMQCC_INLINE ast_expression *fold_intrin_expm1(fold_t *fold, ast_value *a) {
1441     return fold_constgen_float(fold, expm1f(fold_immvalue_float(a)), false);
1442 }
1443 static GMQCC_INLINE ast_expression *fold_intrin_mod(fold_t *fold, ast_value *lhs, ast_value *rhs) {
1444     return fold_constgen_float(fold, fmodf(fold_immvalue_float(lhs), fold_immvalue_float(rhs)), false);
1445 }
1446 static GMQCC_INLINE ast_expression *fold_intrin_pow(fold_t *fold, ast_value *lhs, ast_value *rhs) {
1447     return fold_constgen_float(fold, powf(fold_immvalue_float(lhs), fold_immvalue_float(rhs)), false);
1448 }
1449 static GMQCC_INLINE ast_expression *fold_intrin_fabs(fold_t *fold, ast_value *a) {
1450     return fold_constgen_float(fold, fabsf(fold_immvalue_float(a)), false);
1451 }
1452
1453
1454 ast_expression *fold_intrin(fold_t *fold, const char *intrin, ast_expression **arg) {
1455     ast_expression *ret = NULL;
1456     ast_value      *a   = (ast_value*)arg[0];
1457     ast_value      *b   = (ast_value*)arg[1];
1458
1459     if (!strcmp(intrin, "isfinite")) ret = fold_intrin_isfinite(fold, a);
1460     if (!strcmp(intrin, "isinf"))    ret = fold_intrin_isinf(fold, a);
1461     if (!strcmp(intrin, "isnan"))    ret = fold_intrin_isnan(fold, a);
1462     if (!strcmp(intrin, "isnormal")) ret = fold_intrin_isnormal(fold, a);
1463     if (!strcmp(intrin, "signbit"))  ret = fold_intrin_signbit(fold, a);
1464     if (!strcmp(intrin, "acosh"))    ret = fold_intirn_acosh(fold, a);
1465     if (!strcmp(intrin, "asinh"))    ret = fold_intrin_asinh(fold, a);
1466     if (!strcmp(intrin, "atanh"))    ret = fold_intrin_atanh(fold, a);
1467     if (!strcmp(intrin, "exp"))      ret = fold_intrin_exp(fold, a);
1468     if (!strcmp(intrin, "exp2"))     ret = fold_intrin_exp2(fold, a);
1469     if (!strcmp(intrin, "expm1"))    ret = fold_intrin_expm1(fold, a);
1470     if (!strcmp(intrin, "mod"))      ret = fold_intrin_mod(fold, a, b);
1471     if (!strcmp(intrin, "pow"))      ret = fold_intrin_pow(fold, a, b);
1472     if (!strcmp(intrin, "fabs"))     ret = fold_intrin_fabs(fold, a);
1473
1474     if (ret)
1475         ++opts_optimizationcount[OPTIM_CONST_FOLD];
1476
1477     return ret;
1478 }
1479
1480 /*
1481  * These are all the actual constant folding methods that happen in between
1482  * the AST/IR stage of the compiler , i.e eliminating branches for const
1483  * expressions, which is the only supported thing so far. We undefine the
1484  * testing macros here because an ir_value is differant than an ast_value.
1485  */
1486 #undef expect
1487 #undef isfloat
1488 #undef isstring
1489 #undef isvector
1490 #undef fold_immvalue_float
1491 #undef fold_immvalue_string
1492 #undef fold_immvalue_vector
1493 #undef fold_can_1
1494 #undef fold_can_2
1495
1496 #define isfloat(X)              ((X)->vtype == TYPE_FLOAT)
1497 /*#define isstring(X)             ((X)->vtype == TYPE_STRING)*/
1498 /*#define isvector(X)             ((X)->vtype == TYPE_VECTOR)*/
1499 #define fold_immvalue_float(X)  ((X)->constval.vfloat)
1500 #define fold_immvalue_vector(X) ((X)->constval.vvec)
1501 /*#define fold_immvalue_string(X) ((X)->constval.vstring)*/
1502 #define fold_can_1(X)           ((X)->hasvalue && (X)->cvq == CV_CONST)
1503 /*#define fold_can_2(X,Y)         (fold_can_1(X) && fold_can_1(Y))*/
1504
1505 static ast_expression *fold_superfluous(ast_expression *left, ast_expression *right, int op) {
1506     ast_expression *swapped = NULL; /* using this as bool */
1507     ast_value *load;
1508
1509     if (!ast_istype(right, ast_value) || !fold_can_1((load = (ast_value*)right))) {
1510         swapped = left;
1511         left    = right;
1512         right   = swapped;
1513     }
1514
1515     if (!ast_istype(right, ast_value) || !fold_can_1((load = (ast_value*)right)))
1516         return NULL;
1517
1518     switch (op) {
1519         case INSTR_DIV_F:
1520             if (swapped)
1521                 return NULL;
1522         case INSTR_MUL_F:
1523             if (fold_immvalue_float(load) == 1.0f) {
1524                 ++opts_optimizationcount[OPTIM_PEEPHOLE];
1525                 ast_unref(right);
1526                 return left;
1527             }
1528             break;
1529
1530
1531         case INSTR_SUB_F:
1532             if (swapped)
1533                 return NULL;
1534         case INSTR_ADD_F:
1535             if (fold_immvalue_float(load) == 0.0f) {
1536                 ++opts_optimizationcount[OPTIM_PEEPHOLE];
1537                 ast_unref(right);
1538                 return left;
1539             }
1540             break;
1541
1542         case INSTR_MUL_V:
1543             if (vec3_cmp(fold_immvalue_vector(load), vec3_create(1, 1, 1))) {
1544                 ++opts_optimizationcount[OPTIM_PEEPHOLE];
1545                 ast_unref(right);
1546                 return left;
1547             }
1548             break;
1549
1550         case INSTR_SUB_V:
1551             if (swapped)
1552                 return NULL;
1553         case INSTR_ADD_V:
1554             if (vec3_cmp(fold_immvalue_vector(load), vec3_create(0, 0, 0))) {
1555                 ++opts_optimizationcount[OPTIM_PEEPHOLE];
1556                 ast_unref(right);
1557                 return left;
1558             }
1559             break;
1560     }
1561
1562     return NULL;
1563 }
1564
1565 ast_expression *fold_binary(lex_ctx_t ctx, int op, ast_expression *left, ast_expression *right) {
1566     ast_expression *ret = fold_superfluous(left, right, op);
1567     if (ret)
1568         return ret;
1569     return (ast_expression*)ast_binary_new(ctx, op, left, right);
1570 }
1571
1572 static GMQCC_INLINE int fold_cond(ir_value *condval, ast_function *func, ast_ifthen *branch) {
1573     if (isfloat(condval) && fold_can_1(condval) && OPTS_OPTIMIZATION(OPTIM_CONST_FOLD_DCE)) {
1574         ast_expression_codegen *cgen;
1575         ir_block               *elide;
1576         ir_value               *dummy;
1577         bool                    istrue  = (fold_immvalue_float(condval) != 0.0f && branch->on_true);
1578         bool                    isfalse = (fold_immvalue_float(condval) == 0.0f && branch->on_false);
1579         ast_expression         *path    = (istrue)  ? branch->on_true  :
1580                                           (isfalse) ? branch->on_false : NULL;
1581         if (!path) {
1582             /*
1583              * no path to take implies that the evaluation is if(0) and there
1584              * is no else block. so eliminate all the code.
1585              */
1586             ++opts_optimizationcount[OPTIM_CONST_FOLD_DCE];
1587             return true;
1588         }
1589
1590         if (!(elide = ir_function_create_block(ast_ctx(branch), func->ir_func, ast_function_label(func, ((istrue) ? "ontrue" : "onfalse")))))
1591             return false;
1592         if (!(*(cgen = path->codegen))((ast_expression*)path, func, false, &dummy))
1593             return false;
1594         if (!ir_block_create_jump(func->curblock, ast_ctx(branch), elide))
1595             return false;
1596         /*
1597          * now the branch has been eliminated and the correct block for the constant evaluation
1598          * is expanded into the current block for the function.
1599          */
1600         func->curblock = elide;
1601         ++opts_optimizationcount[OPTIM_CONST_FOLD_DCE];
1602         return true;
1603     }
1604     return -1; /* nothing done */
1605 }
1606
1607 int fold_cond_ternary(ir_value *condval, ast_function *func, ast_ternary *branch) {
1608     return fold_cond(condval, func, (ast_ifthen*)branch);
1609 }
1610
1611 int fold_cond_ifthen(ir_value *condval, ast_function *func, ast_ifthen *branch) {
1612     return fold_cond(condval, func, branch);
1613 }