внутри закодировано в base64 может, поэтому сайт не принимает?

Все пишут про форматы\расширения.
В требованиях что-то ещё указано на сайте?
DER или BASE64? Отсоединенная подпись.

Каждый документ должен быть подписан электронной подписью лица, которое указано в тексте документа в качестве подписанта. Выбор типа электронной подписи — простая или усиленная квалифицированная — должен производиться в соответствии с требованиями «Порядка подачи в федеральные суды общей юрисдикции документов в электронном виде, в том числе в форме электронного документа». Усиленная квалифицированная электронная подпись должна содержаться в отдельном файле в формате .sig.

Здравствуйте.

Используйте КриптоПро CSP 5.0.

В нем есть графическая панель Инструменты КриптоПро (cptools /opt/cprocsp/bin/amd64/cptools), в которой есть функционал создания подписи произвольного файла.

Если нет gui, то можно использовать утилиту cryptcp - /opt/cprocsp/bin/amd64/cryptcp

/opt/cprocsp/bin/amd64/cryptcp -help
CryptCP 5.0 (c) "КРИПТО-ПРО", 2002-2021.
Утилита командной строки для подписи и шифрования файлов.
Список допустимых команд:
-encr создать зашифрованное сообщение
-decr расшифровать сообщение
-sign создать подписанное сообщение
-verify проверить подпись сообщения, получить исходный файл
-addsign добавить подпись в сообщение
-delsign удалить подпись из сообщения
-addattr добавить в подпись неподписанный атрибут
-signf создать подписи файлов в 'исходный_файл.sgn'
-vsignf проверить подписи файлов, созданные с помощью команды '-signf'
-addsignf добавить подпись файла в 'исходный_файл.sgn'
-hash посчитать хэши файлов в 'исходный_файл.hsh'
-vhash проверить хэши файлов, созданные с помощью команды '-hash'
-copycert скопировать сертификаты в заданное хранилище
-cspcert скопировать сертификат из ключевого контейнера в хранилище
-delcert удалить сертификат из хранилища
-listdn вывести на экран политику имен КриптоПро УЦ
-createuser зарегистрировать пользователя на КриптоПро УЦ
-checkreg проверить состояние регистрации пользователя на КриптоПро УЦ
-listtmpl вывести на экран шаблоны, доступные пользователю КриптоПро УЦ
-createrqst создать запрос на сертификат и сохранить его в файле PKCS #10
-instcert установить сертификат из файла PKCS #7 или файла сертификата
-createcert создать запрос на сертификат, отправить его в ЦС
-pendcert проверить, не выпущен ли сертификат
-sn сохранить/показать серийный номер лицензии
-help вывести справку по командам
Список допустимых опций:
-showstat вывести статистику работы программы
[ErrorCode: 0x00000000]

/opt/cprocsp/bin/amd64/cryptcp -vsignf testfileSGN1.sgn
CryptCP 5.0 (c) "КРИПТО-ПРО", 2002-2021.
Утилита командной строки для подписи и шифрования файлов.

Будет использован следующий сертификат:
Субъект: **************************************************
Действителен с 09.03.2022 14:39:45 по 09.03.2023 14:49:45

Цепочки сертификатов проверены.
Папка './':
testfileSGN1.. Проверка подписи... Ошибка: Не удалось открыть файл './паспорт сальниковSGN1.sgn.sgn'.
../../../../CSPbuild/CSP/samples/CPCrypt/Files.cpp:96: 0x20000065
[ErrorCode: 0x20000065]

Здравствуйте.

При использовании опции -sign вы самостоятельно задаете расширение файла с подписью, см.: