]> git.xonotic.org Git - xonotic/gmqcc.git/blobdiff - test.c
More fixes
[xonotic/gmqcc.git] / test.c
diff --git a/test.c b/test.c
index b59826a4139e64c0a6370b9111322ae73040b2e9..6ca4fec8ca92ab1a06b1dd0beba7cf99f7d0dc47 100644 (file)
--- a/test.c
+++ b/test.c
@@ -25,8 +25,8 @@
 #include <sys/stat.h>
 #include <dirent.h>
 
-bool  opts_memchk = false;
-bool  opts_debug  = false;
+opts_cmd_t opts;
+
 char *task_bins[] = {
     "./gmqcc",
     "./qcvm"
@@ -37,25 +37,24 @@ char *task_bins[] = {
  * this implements a unique bi-directional popen-like function that
  * allows reading data from both stdout and stderr. And writing to
  * stdin :)
- * 
+ *
  * Example of use:
  * FILE *handles[3] = task_popen("ls", "-l", "r");
  * if (!handles) { perror("failed to open stdin/stdout/stderr to ls");
  * // handles[0] = stdin
  * // handles[1] = stdout
  * // handles[2] = stderr
- * 
+ *
  * task_pclose(handles); // to close
  */
 #ifndef _WIN32
 #include <sys/types.h>
 #include <sys/wait.h>
-
 #include <unistd.h>
 typedef struct {
     FILE *handles[3];
     int   pipes  [3];
-    
+
     int stderr_fd;
     int stdout_fd;
     int pid;
@@ -66,9 +65,9 @@ FILE ** task_popen(const char *command, const char *mode) {
     int     outhandle [2];
     int     errhandle [2];
     int     trypipe;
-    
+
     popen_t *data = mem_a(sizeof(popen_t));
-    
+
     /*
      * Parse the command now into a list for execv, this is a pain
      * in the ass.
@@ -76,36 +75,36 @@ FILE ** task_popen(const char *command, const char *mode) {
     char  *line = (char*)command;
     char **argv = NULL;
     {
-        
+
         while (*line != '\0') {
             while (*line == ' ' || *line == '\t' || *line == '\n')
                 *line++ = '\0';
             vec_push(argv, line);
-            
+
             while (*line != '\0' && *line != ' ' &&
                    *line != '\t' && *line != '\n') line++;
         }
         vec_push(argv, '\0');
     }
-    
-    
+
+
     if ((trypipe = pipe(inhandle))  < 0) goto task_popen_error_0;
     if ((trypipe = pipe(outhandle)) < 0) goto task_popen_error_1;
     if ((trypipe = pipe(errhandle)) < 0) goto task_popen_error_2;
-    
+
     if ((data->pid = fork()) > 0) {
         /* parent */
         close(inhandle  [0]);
         close(outhandle [1]);
         close(errhandle [1]);
-        
+
         data->pipes  [0] = inhandle [1];
         data->pipes  [1] = outhandle[0];
         data->pipes  [2] = errhandle[0];
         data->handles[0] = fdopen(inhandle [1], "w");
         data->handles[1] = fdopen(outhandle[0], mode);
         data->handles[2] = fdopen(errhandle[0], mode);
-        
+
         /* sigh */
         if (argv)
             vec_free(argv);
@@ -115,23 +114,23 @@ FILE ** task_popen(const char *command, const char *mode) {
         close(inhandle [1]);
         close(outhandle[0]);
         close(errhandle[0]);
-        
+
         /* see piping documentation for this sillyness :P */
         close(0), dup(inhandle [0]);
         close(1), dup(outhandle[1]);
         close(2), dup(errhandle[1]);
-        
+
         execvp(*argv, argv);
         exit(1);
     } else {
         /* fork failed */
         goto task_popen_error_3;
     }
-    
+
     if (argv)
         vec_free(argv);
     return data->handles;
-        
+
 task_popen_error_3: close(errhandle[0]), close(errhandle[1]);
 task_popen_error_2: close(outhandle[0]), close(outhandle[1]);
 task_popen_error_1: close(inhandle [0]), close(inhandle [1]);
@@ -145,19 +144,19 @@ task_popen_error_0:
 int task_pclose(FILE **handles) {
     popen_t *data   = (popen_t*)handles;
     int      status = 0;
-    
+
     close(data->pipes[0]); /* stdin  */
     close(data->pipes[1]); /* stdout */
     close(data->pipes[2]); /* stderr */
-    
+
     waitpid(data->pid, &status, 0);
-    
+
     mem_d(data);
-    
+
     return status;
 }
 #else
-
+#error "There is no support for windows yet ... this is not a FTBFS bug"
 #endif
 
 #define TASK_COMPILE 0
@@ -171,29 +170,29 @@ int task_pclose(FILE **handles) {
  *  the information for that test there is no way to properly "test" them.
  *  Rules for these templates are described in a template file, using a
  *  task template language.
- * 
+ *
  *  The language is a basic finite statemachine, top-down single-line
  *  description language.
- * 
+ *
  *  The languge is composed entierly of "tags" which describe a string of
  *  text for a task.  Think of it much like a configuration file.  Except
  *  it's been designed to allow flexibility and future support for prodecual
  *  semantics.
- * 
+ *
  *  The following "tags" are suported by the language
- * 
+ *
  *      D:
  *          Used to set a description of the current test, this must be
  *          provided, this tag is NOT optional.
- * 
+ *
  *      F:
  *          Used to set a failure message, this message will be displayed
  *          if the test fails, this tag is optional
- * 
+ *
  *      S:
  *          Used to set a success message, this message will be displayed
  *          if the test succeeds, this tag is optional.
- * 
+ *
  *      T:
  *          Used to set the procedure for the given task, there are two
  *          options for this:
@@ -201,53 +200,56 @@ int task_pclose(FILE **handles) {
  *                  This simply performs compilation only
  *              -execute
  *                  This will perform compilation and execution
- * 
+ *              -fail
+ *                  This will perform compilation, but requires
+ *                  the compilation to fail in order to succeed.   
+ *
  *          This must be provided, this tag is NOT optional.
- * 
+ *
  *      C:
  *          Used to set the compilation flags for the given task, this
  *          must be provided, this tag is NOT optional.
- * 
+ *
  *      E:
  *          Used to set the execution flags for the given task. This tag
  *          must be provided if T == -execute, otherwise it's erroneous
- *          as compilation only takes place. 
- *      
+ *          as compilation only takes place.
+ *
  *      M:
  *          Used to describe a string of text that should be matched from
  *          the output of executing the task.  If this doesn't match the
  *          task fails.  This tag must be provided if T == -execute, otherwise
  *          it's erroneous as compilation only takes place.
- * 
+ *
  *      I:
  *          Used to specify the INPUT source file to operate on, this must be
  *          provided, this tag is NOT optional
  *
- * 
+ *
  *  Notes:
  *      These tags have one-time use, using them more than once will result
  *      in template compilation errors.
- * 
+ *
  *      Lines beginning with # or // in the template file are comments and
  *      are ignored by the template parser.
- * 
+ *
  *      Whitespace is optional, with exception to the colon ':' between the
  *      tag and it's assignment value/
- * 
+ *
  *      The template compiler will detect erronrous tags (optional tags
  *      that need not be set), as well as missing tags, and error accordingly
  *      this will result in the task failing.
  */
 typedef struct {
-    char *description;
-    char *failuremessage;
-    char *successmessage;
-    char *compileflags;
-    char *executeflags;
-    char *comparematch;
-    char *proceduretype;
-    char *sourcefile;
-    char *tempfilename;
+    char  *description;
+    char  *failuremessage;
+    char  *successmessage;
+    char  *compileflags;
+    char  *executeflags;
+    char  *proceduretype;
+    char  *sourcefile;
+    char  *tempfilename;
+    char **comparematch;
 } task_template_t;
 
 /*
@@ -256,10 +258,10 @@ typedef struct {
  */
 bool task_template_generate(task_template_t *template, char tag, const char *file, size_t line, const char *value) {
     char **destval = NULL;
-    
+
     if (!template)
         return false;
-    
+
     switch(tag) {
         case 'D': destval = &template->description;    break;
         case 'F': destval = &template->failuremessage; break;
@@ -267,7 +269,6 @@ bool task_template_generate(task_template_t *template, char tag, const char *fil
         case 'T': destval = &template->proceduretype;  break;
         case 'C': destval = &template->compileflags;   break;
         case 'E': destval = &template->executeflags;   break;
-        case 'M': destval = &template->comparematch;   break;
         case 'I': destval = &template->sourcefile;     break;
         default:
             con_printmsg(LVL_ERROR, __FILE__, __LINE__, "internal error",
@@ -276,7 +277,7 @@ bool task_template_generate(task_template_t *template, char tag, const char *fil
             );
             return false;
     }
-    
+
     /*
      * Ensure if for the given tag, there already exists a
      * assigned value.
@@ -288,26 +289,26 @@ bool task_template_generate(task_template_t *template, char tag, const char *fil
         );
         return false;
     }
-    
+
     /*
      * Strip any whitespace that might exist in the value for assignments
      * like "D:      foo"
      */
     if (value && *value && (*value == ' ' || *value == '\t'))
         value++;
-    
+
     /*
      * Value will contain a newline character at the end, we need to strip
      * this otherwise kaboom, seriously, kaboom :P
      */
     *strrchr(value, '\n')='\0';
-    
+
     /*
      * Now allocate and set the actual value for the specific tag. Which
      * was properly selected and can be accessed with *destval.
      */
     *destval = util_strdup(value);
-    
+
     return true;
 }
 
@@ -316,17 +317,17 @@ bool task_template_parse(const char *file, task_template_t *template, FILE *fp)
     char  *back = NULL;
     size_t size = 0;
     size_t line = 1;
-    
+
     if (!template)
         return false;
-    
+
     /* top down parsing */
     while (util_getline(&back, &size, fp) != EOF) {
         /* skip whitespace */
         data = back;
         if (*data && (*data == ' ' || *data == '\t'))
             data++;
-            
+
         switch (*data) {
             /*
              * Handle comments inside task template files.  We're strict
@@ -336,13 +337,13 @@ bool task_template_parse(const char *file, task_template_t *template, FILE *fp)
                 if (data[1] != '/') {
                     con_printmsg(LVL_ERROR, file, line, "template parse error",
                         "invalid character `/`, perhaps you meant `//` ?");
-                    
+
                     mem_d(back);
                     return false;
                 }
             case '#':
                 break;
-                
+
             /*
              * Empty newlines are acceptable as well, so we handle that here
              * despite being just odd since there should't be that many
@@ -351,8 +352,8 @@ bool task_template_parse(const char *file, task_template_t *template, FILE *fp)
             case '\r':
             case '\n':
                 break;
-                
-                
+
+
             /*
              * Now begin the actual "tag" stuff.  This works as you expect
              * it to.
@@ -363,7 +364,6 @@ bool task_template_parse(const char *file, task_template_t *template, FILE *fp)
             case 'T':
             case 'C':
             case 'E':
-            case 'M':
             case 'I':
                 if (data[1] != ':') {
                     con_printmsg(LVL_ERROR, file, line, "template parse error",
@@ -379,7 +379,36 @@ bool task_template_parse(const char *file, task_template_t *template, FILE *fp)
                     goto failure;
                 }
                 break;
-            
+
+            /*
+             * Match requires it's own system since we allow multiple M's
+             * for multi-line matching.
+             */
+            case 'M':
+            {
+                char *value = &data[3];
+                if (data[1] != ':') {
+                    con_printmsg(LVL_ERROR, file, line, "template parse error",
+                        "expected `:` after `%c`",
+                        *data
+                    );
+                    goto failure;
+                }
+
+                if (value && *value && (*value == ' ' || *value == '\t'))
+                    value++;
+
+                /*
+                 * Value will contain a newline character at the end, we need to strip
+                 * this otherwise kaboom, seriously, kaboom :P
+                 */
+                *strrchr(value, '\n')='\0';
+
+                vec_push(template->comparematch, util_strdup(value));
+
+                break;
+            }
+
             default:
                 con_printmsg(LVL_ERROR, file, line, "template parse error",
                     "invalid tag `%c`", *data
@@ -387,7 +416,7 @@ bool task_template_parse(const char *file, task_template_t *template, FILE *fp)
                 goto failure;
             /* no break required */
         }
-        
+
         /* update line and free old sata */
         line++;
         mem_d(back);
@@ -396,7 +425,7 @@ bool task_template_parse(const char *file, task_template_t *template, FILE *fp)
     if (back)
         mem_d(back);
     return true;
-    
+
 failure:
     if (back)
         mem_d (back);
@@ -410,7 +439,7 @@ failure:
 void task_template_nullify(task_template_t *template) {
     if (!template)
         return;
-        
+
     template->description    = NULL;
     template->failuremessage = NULL;
     template->successmessage = NULL;
@@ -427,14 +456,14 @@ task_template_t *task_template_compile(const char *file, const char *dir) {
     char             fullfile[4096];
     FILE            *tempfile = NULL;
     task_template_t *template = NULL;
-    
+
     memset  (fullfile, 0, sizeof(fullfile));
     snprintf(fullfile,    sizeof(fullfile), "%s/%s", dir, file);
-    
+
     tempfile = fopen(fullfile, "r");
     template = mem_a(sizeof(task_template_t));
     task_template_nullify(template);
-    
+
     /*
      * Esnure the file even exists for the task, this is pretty useless
      * to even do.
@@ -445,12 +474,12 @@ task_template_t *task_template_compile(const char *file, const char *dir) {
         );
         goto failure;
     }
-    
+
     if (!task_template_parse(file, template, tempfile)) {
         con_err("template parse error: error during parsing\n");
         goto failure;
     }
-    
+
     /*
      * Regardless procedure type, the following tags must exist:
      *  D
@@ -474,7 +503,7 @@ task_template_t *task_template_compile(const char *file, const char *dir) {
         con_err("template compile error: %s missing `I:` tag\n", file);
         goto failure;
     }
-    
+
     /*
      * Now lets compile the template, compilation is really just
      * the process of validating the input.
@@ -487,22 +516,28 @@ task_template_t *task_template_compile(const char *file, const char *dir) {
         goto success;
     } else if (!strcmp(template->proceduretype, "-execute")) {
         if (!template->executeflags) {
-            con_err("template compile error: %s missing `E:` tag (use `$null` for exclude)\n", file);
-            goto failure;
+            /* default to $null */
+            template->executeflags = util_strdup("$null");
         }
         if (!template->comparematch) {
             con_err("template compile error: %s missing `M:` tag (use `$null` for exclude)\n", file);
             goto failure;
         }
+    } else if (!strcmp(template->proceduretype, "-fail")) {
+        if (template->executeflags)
+            con_err("template compile warning: %s erroneous tag `E:` when only failing\n", file);
+        if (template->comparematch)
+            con_err("template compile warning: %s erroneous tag `M:` when only failing\n", file);
+        goto success;
     } else {
         con_err("template compile error: %s invalid procedure type: %s\n", file, template->proceduretype);
         goto failure;
     }
-    
+
 success:
     fclose(tempfile);
     return template;
-    
+
 failure:
     /*
      * The file might not exist and we jump here when that doesn't happen
@@ -511,30 +546,39 @@ failure:
     if (tempfile)
         fclose(tempfile);
     mem_d (template);
-    
+
     return NULL;
 }
 
 void task_template_destroy(task_template_t **template) {
     if (!template)
         return;
-        
+
     if ((*template)->description)    mem_d((*template)->description);
     if ((*template)->failuremessage) mem_d((*template)->failuremessage);
     if ((*template)->successmessage) mem_d((*template)->successmessage);
     if ((*template)->proceduretype)  mem_d((*template)->proceduretype);
     if ((*template)->compileflags)   mem_d((*template)->compileflags);
     if ((*template)->executeflags)   mem_d((*template)->executeflags);
-    if ((*template)->comparematch)   mem_d((*template)->comparematch);
     if ((*template)->sourcefile)     mem_d((*template)->sourcefile);
-    
+
+    /*
+     * Delete all allocated string for task template then destroy the
+     * main vector.
+     */
+    {
+        size_t i = 0;
+        for (; i < vec_size((*template)->comparematch); i++)
+            mem_d((*template)->comparematch[i]);
+
+        vec_free((*template)->comparematch);
+    }
+
     /*
      * Nullify all the template members otherwise NULL comparision
      * checks will fail if template pointer is reused.
      */
     mem_d(*template);
-    task_template_nullify(*template);
-    *template = NULL;
 }
 
 /*
@@ -557,35 +601,40 @@ task_t *task_tasks = NULL;
  * Read a directory and searches for all template files in it
  * which is later used to run all tests.
  */
-bool task_propogate(const char *curdir) {
+bool task_propagate(const char *curdir) {
     bool             success = true;
     DIR             *dir;
     struct dirent   *files;
     struct stat      directory;
     char             buffer[4096];
-    
+    size_t           found = 0;
+
     dir = opendir(curdir);
-    
+
     while ((files = readdir(dir))) {
         memset  (buffer, 0,sizeof(buffer));
         snprintf(buffer,   sizeof(buffer), "%s/%s", curdir, files->d_name);
-        
+
         if (stat(buffer, &directory) == -1) {
             con_err("internal error: stat failed, aborting\n");
             abort();
         }
-        
+
         /* skip directories */
         if (S_ISDIR(directory.st_mode))
             continue;
-            
+
         /*
          * We made it here, which concludes the file/directory is not
          * actually a directory, so it must be a file :)
          */
-        if (strstr(files->d_name, ".tmpl")) {
-            con_out("compiling task template: %s/%s\n", curdir, files->d_name);
+        if (strcmp(files->d_name + strlen(files->d_name) - 5, ".tmpl") == 0) {
             task_template_t *template = task_template_compile(files->d_name, curdir);
+            char             buf[4096]; /* one page should be enough */
+            task_t           task;
+
+            util_debug("TEST", "compiling task template: %s/%s\n", curdir, files->d_name);
+            found ++;
             if (!template) {
                 con_err("error compiling task template: %s\n", files->d_name);
                 success = false;
@@ -596,13 +645,12 @@ bool task_propogate(const char *curdir) {
              * so we don't trample over an existing one.
              */
             template->tempfilename = tempnam(curdir, "TMPDAT");
-            
+
             /*
              * Generate the command required to open a pipe to a process
              * which will be refered to with a handle in the task for
              * reading the data from the pipe.
              */
-            char     buf[4096]; /* one page should be enough */
             memset  (buf,0,sizeof(buf));
             snprintf(buf,  sizeof(buf), "%s %s/%s %s -o %s",
                 task_bins[TASK_COMPILE],
@@ -611,39 +659,49 @@ bool task_propogate(const char *curdir) {
                 template->compileflags,
                 template->tempfilename
             );
-            
+
             /*
              * The task template was compiled, now lets create a task from
-             * the template data which has now been propogated.
+             * the template data which has now been propagated.
              */
-            task_t task;
             task.template = template;
             if (!(task.runhandles = task_popen(buf, "r"))) {
                 con_err("error opening pipe to process for test: %s\n", template->description);
                 success = false;
                 continue;
             }
-            
-            con_out("executing test: `%s` [%s]\n", template->description, buf);
-            
+
+            util_debug("TEST", "executing test: `%s` [%s]\n", template->description, buf);
+
             /*
              * Open up some file desciptors for logging the stdout/stderr
              * to our own.
              */
             memset  (buf,0,sizeof(buf));
-            snprintf(buf,  sizeof(buf), "%s/%s.stdout", curdir, template->sourcefile);
+            snprintf(buf,  sizeof(buf), "%s.stdout", template->tempfilename);
             task.stdoutlogfile = util_strdup(buf);
-            task.stdoutlog     = fopen(buf, "w");
-            
+            if (!(task.stdoutlog     = fopen(buf, "w"))) {
+                con_err("error opening %s for stdout\n", buf);
+                continue;
+            }
+
             memset  (buf,0,sizeof(buf));
-            snprintf(buf,  sizeof(buf), "%s/%s.stderr", curdir, template->sourcefile);
+            snprintf(buf,  sizeof(buf), "%s.stderr", template->tempfilename);
             task.stderrlogfile = util_strdup(buf);
-            task.stderrlog     = fopen(buf, "w");
-            
+            if (!(task.stderrlog     = fopen(buf, "w"))) {
+                con_err("error opening %s for stderr\n", buf);
+                continue;
+            }
+
             vec_push(task_tasks, task);
         }
     }
-    
+
+    util_debug("TEST", "compiled %d task template files out of %d\n",
+        vec_size(task_tasks),
+        found
+    );
+
     closedir(dir);
     return success;
 }
@@ -658,7 +716,7 @@ void task_cleanup(const char *curdir) {
     char             buffer[4096];
 
     dir = opendir(curdir);
-    
+
     while ((files = readdir(dir))) {
         memset(buffer, 0, sizeof(buffer));
         if (strstr(files->d_name, "TMP")) {
@@ -666,10 +724,10 @@ void task_cleanup(const char *curdir) {
             if (remove(buffer))
                 con_err("error removing temporary file: %s\n", buffer);
             else
-                con_out("removed temporary file: %s\n", buffer);
+                util_debug("TEST", "removed temporary file: %s\n", buffer);
         }
     }
-    
+
     closedir(dir);
 }
 
@@ -683,7 +741,7 @@ void task_precleanup(const char *curdir) {
     char             buffer[4096];
 
     dir = opendir(curdir);
-    
+
     while ((files = readdir(dir))) {
         memset(buffer, 0, sizeof(buffer));
         if (strstr(files->d_name, "TMP")     ||
@@ -694,10 +752,10 @@ void task_precleanup(const char *curdir) {
             if (remove(buffer))
                 con_err("error removing temporary file: %s\n", buffer);
             else
-                con_out("removed temporary file: %s\n", buffer);
+                util_debug("TEST", "removed temporary file: %s\n", buffer);
         }
     }
-    
+
     closedir(dir);
 }
 
@@ -716,31 +774,32 @@ void task_destroy(const char *curdir) {
         if (task_tasks[i].runhandles) task_pclose(task_tasks[i].runhandles);
         if (task_tasks[i].stdoutlog)  fclose     (task_tasks[i].stdoutlog);
         if (task_tasks[i].stderrlog)  fclose     (task_tasks[i].stderrlog);
-        
+
         /*
          * Only remove the log files if the test actually compiled otherwise
-         * forget about it.
+         * forget about it (or if it didn't compile, and the procedure type
+         * was set to -fail (meaning it shouldn't compile) .. stil remove) 
          */
-        if (task_tasks[i].compiled) {
+        if (task_tasks[i].compiled || !strcmp(task_tasks[i].template->proceduretype, "-fail")) {
             if (remove(task_tasks[i].stdoutlogfile))
                 con_err("error removing stdout log file: %s\n", task_tasks[i].stdoutlogfile);
             else
-                con_out("removed stdout log file: %s\n", task_tasks[i].stdoutlogfile);
-            
+                util_debug("TEST", "removed stdout log file: %s\n", task_tasks[i].stdoutlogfile);
+
             if (remove(task_tasks[i].stderrlogfile))
                 con_err("error removing stderr log file: %s\n", task_tasks[i].stderrlogfile);
             else
-                con_out("removed stderr log file: %s\n", task_tasks[i].stderrlogfile);
+                util_debug("TEST", "removed stderr log file: %s\n", task_tasks[i].stderrlogfile);
         }
-        
+
         /* free util_strdup data for log files */
         mem_d(task_tasks[i].stdoutlogfile);
         mem_d(task_tasks[i].stderrlogfile);
-        
+
         task_template_destroy(&task_tasks[i].template);
     }
     vec_free(task_tasks);
-    
+
     /*
      * Cleanup outside stuff like temporary files.
      */
@@ -752,12 +811,12 @@ void task_destroy(const char *curdir) {
  * using the template passed into it for call-flags and user defined
  * messages.
  */
-bool task_execute(task_template_t *template) {
-    bool     success = false;
+bool task_execute(task_template_t *template, char ***line) {
+    bool     success = true;
     FILE    *execute;
     char     buffer[4096];
     memset  (buffer,0,sizeof(buffer));
-    
+
     /*
      * Drop the execution flags for the QCVM if none where
      * actually specified.
@@ -774,52 +833,61 @@ bool task_execute(task_template_t *template) {
             template->tempfilename
         );
     }
-    
-    con_out("executing qcvm: `%s` [%s]\n",
+
+    util_debug("TEST", "executing qcvm: `%s` [%s]\n",
         template->description,
         buffer
     );
-    
+
     execute = popen(buffer, "r");
     if (!execute)
         return false;
-        
+
     /*
      * Now lets read the lines and compare them to the matches we expect
      * and handle accordingly.
      */
     {
-        char  *data  = NULL;
-        size_t size  = 0;
-        while (util_getline(&data, &size, execute) != EOF) {}
-        
-        if (!strcmp(data, "No main function found\n")) {
-            con_err("test failure: `%s` [%s] (No main function found)\n",
-                template->description,
-                (template->failuremessage) ?
-                template->failuremessage : "unknown"
-            );
-            pclose(execute);
-            return false;
+        char  *data    = NULL;
+        size_t size    = 0;
+        size_t compare = 0;
+        while (util_getline(&data, &size, execute) != EOF) {
+            if (!strcmp(data, "No main function found\n")) {
+                con_err("test failure: `%s` [%s] (No main function found)\n",
+                    template->description,
+                    (template->failuremessage) ?
+                    template->failuremessage : "unknown"
+                );
+                pclose(execute);
+                return false;
+            }
+
+            /*
+             * Trim newlines from data since they will just break our
+             * ability to properly validate matches.
+             */
+            if  (strrchr(data, '\n'))
+                *strrchr(data, '\n') = '\0';
+
+            if (vec_size(template->comparematch) > compare) {
+                if (strcmp(data, template->comparematch[compare++]))
+                    success = false;
+            } else {
+                    success = false;
+            }
+
+            /*
+             * Copy to output vector for diagnostics if execution match
+             * fails.
+             */  
+            vec_push(*line, data);
+
+            /* reset */
+            data = NULL;
+            size = 0;
         }
-        
-        /* 
-         * Trim newlines from data since they will just break our
-         * ability to properly validate matches.
-         */
-        if  (strrchr(data, '\n'))
-            *strrchr(data, '\n') = '\0';
-        
-        /* null list */
-        if (!strcmp(template->comparematch, "$null"))
-            success = true;
-        
-        /*
-         * We only care about the last line from the output for now
-         * implementing multi-line match is TODO.
-         */
-        if (!strcmp(data, template->comparematch))
-            success = true;
+        mem_d(data);
+        data = NULL;
     }
     pclose(execute);
     return success;
@@ -831,42 +899,49 @@ bool task_execute(task_template_t *template) {
  * execution this takes more work since a task needs to be generated
  * from thin air and executed INLINE.
  */
-void task_schedualize(const char *curdir) {
+void task_schedualize() {
     bool   execute  = false;
-    char  *back     = NULL;
     char  *data     = NULL;
+    char **match    = NULL;
     size_t size     = 0;
     size_t i;
-    
+    size_t j;
+
+    util_debug("TEST", "found %d tasks, preparing to execute\n", vec_size(task_tasks));
+
     for (i = 0; i < vec_size(task_tasks); i++) {
+        util_debug("TEST", "executing task: %d: %s\n", i, task_tasks[i].template->description);
         /*
-        * Generate a task from thin air if it requires execution in
-        * the QCVM.
-        */
-        if (!strcmp(task_tasks[i].template->proceduretype, "-execute"))
-            execute = true;
-            
+         * Generate a task from thin air if it requires execution in
+         * the QCVM.
+         */
+        execute = !!(!strcmp(task_tasks[i].template->proceduretype, "-execute"));
+
         /*
          * We assume it compiled before we actually compiled :).  On error
          * we change the value
          */
         task_tasks[i].compiled = true;
-        
+
         /*
          * Read data from stdout first and pipe that stuff into a log file
          * then we do the same for stderr.
-         */    
+         */
         while (util_getline(&data, &size, task_tasks[i].runhandles[1]) != EOF) {
-            back = data;
             fputs(data, task_tasks[i].stdoutlog);
+
+            if (strstr(data, "failed to open file")) {
+                task_tasks[i].compiled = false;
+                execute                = false;
+            }
+
             fflush(task_tasks[i].stdoutlog);
         }
         while (util_getline(&data, &size, task_tasks[i].runhandles[2]) != EOF) {
-            back = data;
             /*
              * If a string contains an error we just dissalow execution
              * of it in the vm.
-             * 
+             *
              * TODO: make this more percise, e.g if we print a warning
              * that refers to a variable named error, or something like
              * that .. then this will blowup :P
@@ -875,75 +950,126 @@ void task_schedualize(const char *curdir) {
                 execute                = false;
                 task_tasks[i].compiled = false;
             }
-            
+
             fputs(data, task_tasks[i].stderrlog);
             fflush(task_tasks[i].stdoutlog);
         }
-        
-        if (back)
-            mem_d(back);
-        
-        /*
-         * If we can execute we do so after all data has been read and
-         * this paticular task has coupled execution in its procedure type
-         */
-        if (!execute)
+
+        if (!task_tasks[i].compiled && strcmp(task_tasks[i].template->proceduretype, "-fail")) {
+            con_err("test failure: `%s` [%s] (failed to compile) see %s.stdout and %s.stderr\n",
+                task_tasks[i].template->description,
+                (task_tasks[i].template->failuremessage) ?
+                task_tasks[i].template->failuremessage : "unknown",
+                task_tasks[i].template->tempfilename,
+                task_tasks[i].template->tempfilename
+            );
+            continue;
+        }
+
+        if (!execute) {
+            con_out("test succeeded: `%s` [%s]\n",
+                 task_tasks[i].template->description,
+                (task_tasks[i].template->successmessage) ?
+                 task_tasks[i].template->successmessage  : "unknown"
+            );
             continue;
-        
+        }
+
         /*
          * If we made it here that concludes the task is to be executed
          * in the virtual machine.
          */
-        if (!task_execute(task_tasks[i].template)) {
-            con_err("test failure: `%s` [%s]\n",
-                task_tasks[i].template->description,
+        if (!task_execute(task_tasks[i].template, &match)) {
+            size_t d = 0;
+
+            con_err("test failure: `%s` [%s] (invalid results from execution)\n",
+                 task_tasks[i].template->description,
                 (task_tasks[i].template->failuremessage) ?
-                task_tasks[i].template->failuremessage : "unknown"
+                 task_tasks[i].template->failuremessage : "unknown"
             );
+
+            /*
+             * Print nicely formatted expected match lists to console error
+             * handler for the all the given matches in the template file and
+             * what was actually returned from executing.
+             */
+            con_err("    Expected From %u Matches: (got %u Matches)\n",
+                vec_size(task_tasks[i].template->comparematch),
+                vec_size(match)
+            );
+            for (; d < vec_size(task_tasks[i].template->comparematch); d++) {
+                char  *select = task_tasks[i].template->comparematch[d];
+                size_t length = 40 - strlen(select);
+
+                con_err("        Expected: \"%s\"", select);
+                while (length --)
+                    con_err(" ");
+                con_err("| Got: \"%s\"\n", (d >= vec_size(match)) ? "<<nothing else to compare>>" : match[d]);
+            }
+
+            /*
+             * Print the non-expected out (since we are simply not expecting it)
+             * This will help track down bugs in template files that fail to match
+             * something.
+             */  
+            if (vec_size(match) > vec_size(task_tasks[i].template->comparematch)) {
+                for (d = 0; d < vec_size(match) - vec_size(task_tasks[i].template->comparematch); d++) {
+                    con_err("        Expected: Nothing                                   | Got: \"%s\"\n",
+                        match[d + vec_size(task_tasks[i].template->comparematch)]
+                    );
+                }
+            }
+                    
+
+            for (j = 0; j < vec_size(match); j++)
+                mem_d(match[j]);
+            vec_free(match);
             continue;
         }
-        
-        con_out("test succeed: `%s` [%s]\n",
-            task_tasks[i].template->description,
+        for (j = 0; j < vec_size(match); j++)
+            mem_d(match[j]);
+        vec_free(match);
+
+        con_out("test succeeded: `%s` [%s]\n",
+             task_tasks[i].template->description,
             (task_tasks[i].template->successmessage) ?
-            task_tasks[i].template->successmessage  : "unknown"
+             task_tasks[i].template->successmessage  : "unknown"
         );
     }
-    if (back)
-        mem_d(back);
+    mem_d(data);
 }
 
 /*
  * This is the heart of the whole test-suite process.  This cleans up
  * any existing temporary files left behind as well as log files left
- * behind.  Then it propogates a list of tests from `curdir` by scaning
+ * behind.  Then it propagates a list of tests from `curdir` by scaning
  * it for template files and compiling them into tasks, in which it
  * schedualizes them (executes them) and actually reports errors and
  * what not.  It then proceeds to destroy the tasks and return memory
  * it's the engine :)
- * 
- * It returns true of tests could be propogated, otherwise it returns
+ *
+ * It returns true of tests could be propagated, otherwise it returns
  * false.
- * 
+ *
  * It expects con_init() was called before hand.
  */
 bool test_perform(const char *curdir) {
     task_precleanup(curdir);
-    if (!task_propogate(curdir)) {
-        con_err("error: failed to propogate tasks\n");
+    if (!task_propagate(curdir)) {
+        con_err("error: failed to propagate tasks\n");
         task_destroy(curdir);
         return false;
     }
     /*
-     * If we made it here all tasks where propogated from their resultant
+     * If we made it here all tasks where propagated from their resultant
      * template file.  So we can start the FILO scheduler, this has been
      * designed in the most thread-safe way possible for future threading
      * it's designed to prevent lock contention, and possible syncronization
      * issues.
      */
-    task_schedualize(curdir);
+    task_schedualize();
     task_destroy(curdir);
-    
+
     return true;
 }
 
@@ -978,10 +1104,11 @@ static bool parsecmd(const char *optname, int *argc_, char ***argv_, char **out,
 }
 
 int main(int argc, char **argv) {
-    char *redirout = (char*)stdout;
-    char *redirerr = (char*)stderr;
+    char         *redirout = (char*)stdout;
+    char         *redirerr = (char*)stderr;
+
     con_init();
-    
+
     /*
      * Command line option parsing commences now We only need to support
      * a few things in the test suite.
@@ -995,22 +1122,22 @@ int main(int argc, char **argv) {
                 continue;
             if (parsecmd("redirerr", &argc, &argv, &redirerr, 1, false))
                 continue;
-            
+
             con_change(redirout, redirerr);
 
             if (!strcmp(argv[0]+1, "debug")) {
-                opts_debug = true;
+                opts.debug = true;
                 continue;
             }
             if (!strcmp(argv[0]+1, "memchk")) {
-                opts_memchk = true;
+                opts.memchk = true;
                 continue;
             }
             if (!strcmp(argv[0]+1, "nocolor")) {
                 con_color(0);
                 continue;
             }
-            
+
             con_err("invalid argument %s\n", argv[0]+1);
             return -1;
         }