Bilder werden bei Migration nicht übertragen

Dass falls sich im Quellsystem noch Änderungen ergeben, ich den MA noch mal laufen lassen muss ist klar.

Wir haben aktuell nach mehreren Läufen den Stand, dass DB seitig alles angelegt wurde.
Also alle bei uns ca. 280.000 media Einträge, die sind auch richtige mit den Produkten und Ordner referenziert.

Nur physiklisch wurde kein einziges Produktbild übertragen. Der Part im Migrations-Manager Download ist hier nicht erfolgt. Die ganze neue 6.5.x Instanz ist so klein im Verhältnis zum alten System, dass sich dort nicht irgendwelche Bilder verstecken können.

Und ja der MA hat bei uns fast 4 Stunden gebraucht, und das ohne erfolgter Media Downloads.

Der Part der hier fehlt ist quasi das Kopieren Bild aus altem System auf neues System.
Deshalb auch der Ansatz mit eigenem Media Migrations-Plugin / bzw. Command.

Ja in der Regel läuft das im Hintergrund ab. Da muss man Geduld haben.

Nocheinmal kurz zum eigentlichen Thema das die Bilder nicht übertragen werden und nur Thumbnails mit rotem X zu sehen sind.
Bei uns lag dies am CLI Worker.

Ich habe nun zuerst den CLI Worker deaktiviert und den Admin Worker in der z-shopware.yaml aktiviert.
Anschließend habe ich alle Cronjobs (messenger:consume undso weiter) deaktiviert und die Migration erneut gestartet und siehe da die Bilder kamen mit :slight_smile: .

@sandrafrommauf Ähm - normalerweise sollte das genau anderes herum sein!

Dann habt ihr vermutlich die Cronjobs falsch eingerichtet. Habt ihr das Frosh Plugin installiert und geschaut, ob die CronJobs überhaupt laufen?

Der Admin-Worker ist für eine Produktivumgebung völlig ungeignet.

Ja Tool ist installiert und der Worker sowie cronjobs liefen auch aber haben eben die Übertragung der Bilder verhindert. Ja wenn es dann in die Produktivumgebung geht werde ich den CLI Worker wieder aktivieren aber für die Migration war das echt der Knackpunkt.
Croonjobs waren nach Anleitung vom Hoster eingerichtet.

Vielen Dank für den Hinweis!

Hatte gestern per „bin/console dal:refresh:index“ den Index neu aufgebaut.
Dann die 2 Crons eingerichtet und den Admin-Worker deaktiviert.
Ein weiterer Testlauf der Migration letzte Nacht lief durch, aber wieder ohne die Bilder (und Order Documents).

Werde noch einmal einen Versuch starten mit dem Admin-Worker an und den Crons aus.
Vielleicht hilft das ja.

Dann sind die Cronjobs nicht richtig eingerichtet, eventuell Memory-Limit falsch/zu niedrig für die CLI-Aufrufe.

Danke für den Hinweis!

Habe die Crons jetzt noch einmal geprüft und das Memory-Limit erhöht. Die laufen jetzt definitiv und meine Message Queue wird auch abgearbeitet (die ist allerdings gerade noch auch echt groß).

Laut Aussage vom Shopware-Support werden die Bild nicht direkt bei der Migration überbetragen, sondern im Nachgang über den Admin- bzw. CLI-Worker. Das war mir bisher nicht 100% klar und bei den kleineren Instanzen waren die Bilder so schnell übertragen, dass das bisher nicht wirklich aufgefallen ist.

Mit der Info macht das für mich jetzt auch alles etwas mehr Sinn.

Dann lass ich das System mal seine Dinge verrichten und hoffe, dass am Ende dann die Bilder und Dokument ankommen.

1 „Gefällt mir“

Cronjobs waren richtig eingerichtet. und Memory Limit angepasst.

Probiere für die Migration den CLI Worker zu deaktivieren und deaktivier die Cronjobs, dann gings bei uns. Danach kannst ja wieder umstellen.

Die reine DB-Daten-Migration scheint zumindest geklappt zu haben.
Die Bilder und Dokumente kamen dann nach und nach an nachdem der CLI-Worker gelaufen ist.

Aktuell wird bei uns aber der /temp vom Server (nicht Shopware) mit Daten vollgeschrieben. Stand jetzt 260 GB nur in dem Verzeichnis. Da sonst die Platte vollläuft habe ich den Cron erst mal wieder de-aktiviert.

Schein hier das Problem zu sein:

Ich versuche jetzt über dem Shopware-Support dazu etwas in Erfahrung bringen zu können.
Sobald ich mehr dazu weiß, lass ich es euch wissen.

Lass den CronJob im genannten Thread drüber laufen.

War das Löschen der Dateien > 3 Std. per Cron bei euch die Lösung während der Migration?
Oder lasst ihr den generell laufen?

Bei mit kommen in einer Std. ca. 90 GB im temp an. Würde den dann auf > 2 Std. anpassen.

Das Problem liegt glaube ich an der Bildgenerierung. Da nach der Migration erstmal viele Bilder erstellt werden müssen, kommt es zu diesem Problem. Kann natürlich auch passieren, wenn viele Bilder neu erstellt/hochgeladen werden.

Aber wenn alle Bilder durch sind, dürfte der Speichereffekt nicht mehr so extrem ausfallen.

Auf der anderen Seite schadet es ja nicht, die Bereinigung kontinuierlich durchzuführen.

1 „Gefällt mir“

So wie das hier aussieht, generiert Shopware Vorschaubilder von alle Rechnungen, Lieferscheinen und sonstigen Belegen. Da kommt natürlich vom alten SW 5 einiges zusammen.

Derzeit muss ich noch ca. 300.000 Vorschaubilder generieren und die Zahl wird aktuell immer noch größer statt kleiner.

Wenn die Zeitangabe in den Frosh-Tools stimmt, brauch das System dafür über einen Monat. :see_no_evil: