Generell haben wir MariaDB in SW5 nie offiziell supportet. Dazu gab es von uns noch nie eine Aussage zur Kompatibilität. Das haben wir ja jetzt mit SW6 geändert.
Bisher habe ich noch keine negativen Erfahrungen mit MariaDB in 10.1 gehabt - aber du solltest am besten mal ein Testsystem prüfen. Spricht tendentziell aber erstmal nichts gegen die Kompatibilität.