$form = $this->Form();
$elementId = $form->getElement('mein_element_name')->getId();
/** @var \Shopware\Components\Model\ModelManager $modelManager */
$modelManager = $this->get('models');
$element = $modelManager->find('Shopware\Models\Config\Element', $elementId);
$modelManager->remove($element);
$modelManager->flush();
Schön ist das nicht, aber es funktioniert…