Для подсчета хэшей нужно использовать утилиту cpverify.exe, которую можно скачать здесь.
Её можно использовать для вычисления хэша любого файла при использовании ГОСТ Р 34.11-2012.
Запускать можно из cmd или поместить вызов в bat-файл.
Для ГОСТ Р 34.11-2012 с длиной 512 бит:
cpverify.exe -mk -alg GR3411_2012_512 имя_файла