Vor einigen Monaten hatte ich auch das Problem, dass ich die Themes nicht kompilieren konnte. Es lag in diesem Fall daran, dass ich einen Syntax-Fehler in einer LESS-Datei hatte.
Ich weiß nicht, ob das ein Ansatz für dich ist, aber diese Annektode fällt mir zumindest dazu ein.
Mal ein Blick in die Log-Dateien geworfen ob dort etwas steht (Log von Shopware, Error Log vom Apache)? Eventuell auch mal schauen ob Arbeitsspeicher ausreicht