Ja, die .htaccess Datei muss von Dir erweitert werden! Und wenn Du so etwas angehst, dann kontrolliere das Verhalten danach auch immer gleich, denn wenn Du da nur einen klitzekleinen Fehler machts, kann es ein, das die Seite nicht mehr funktioniert. Aber Du kannst es ja einfach mal ausprobieren und falls Du dann einen Error 500 bekommst, nimmst Du es eben einfach wieder raus und voila, die Seite geht wieder.
Im übrigen: Google hält sich seit dem 01. September 2019 nicht mehr an folgende drei Einträge in der robots.txt:
noindex
nofollow
crawl-delay
Wenn Du also z.B nur alle PDF Dateien vom Indexieren auschließen willst, dann sollte das z.B so funktionieren:
#######################################
# Exlude all PDF's from the SearchIndex
#######################################
Header set X-Robots-Tag "noindex, nofollow"
Wenn Du alle Bilder (z.B.: jpg, png und gif) auschließen willst, dann eben so:
##################################################
# Exlude some Image FileTypes from the SearchIndex
##################################################
Header set X-Robots-Tag "noindex, nofollow"
Du kannst aber auch kombinieren:
#########################################################################
# Exlude all PDF, docx, xlsx, PNG, jpg and GIF Files from the SearchIndex
#########################################################################
Header set X-Robots-Tag "noindex, nofollow"
Dies sollte dann alle PDF, docx, xlsx, png, jpg und gif Datreien vor dem Index bewahren. Wichtig ist dabei, das die Formate durch eine Pipe (|) getrennt sind
Bei Shopseite funktioniert das jedoch etwas anders. Willst Du alle auschließen oder nur ein paar?
Die komplette Seite könntest Du z.B. mit diesem Befehl vom Index auschließen:
#############################################
# Prevent the whole site from the SearchIndex
#############################################
Header set X-Robots-Tag "noindex, nofollow"
Und einen gewisse Pfad könntest Du evtl so auschließen:
Header set X-Robots-Tag "noindex, nofollow"
Dies verhindert beispielsweise den Zugriff auf einen URL-Pfad, der mit /MyFolder beginnt, also z.B http://yoursite.com/MyFolder