Добрый день.

Первый запуск приложения отрабатывается с предупреждением в конце:
Agent Manager: Agent error: мая 30, 2018 1:44:13 PM ru.CryptoPro.JCP.tools.SelfTester run ПРЕДУПРЕЖДЕНИЕ: SelfTester ThreadDeath java.lang.ThreadDeath
at java.lang.Thread.stop(Thread.Group.stopHelper(ThreadGroup.java:773)
at java.lang.ThreadGroup.stop(ThreadGroup.java:755)
at lotus.domino.AgentLauncher.run(Unknown Source)
at lotus.domino.NotesThread.run(Unknown Source)

При повторном запуске вылетает следующая ошибка:
Agent Manager: Agent error: мая 30, 2018 12:20:54 PM
ru.CryptoPro.JCP.tools.SelfTester b СЕРЬЕЗНЫЕ ОШИБКИ: Tester is DEAD
Agent Manager: Agent error: мая 30, 2018 12:20:54 PM
QueryNbki removeSignature СЕРЬЕЗНЫЕ ОШИБКИ: null ru.CryptoPro.JCP.tools.SelfTesterException: Tester is DEAD
at ru.CryptoPro.JCP.tSource)
at ru.CryptoPro.JCP.tools.SelfTester.check(Unknown Source)
at ru.CryptoPro.JCP.Digest.GostDigest.engineDigest(Unknown Source)
at java.security.MessageDigest.digest(MessageDigest.java:376)
at CMS_samples.CMStools.digestm(CMStools.java:363)

Подскажите, в чем может быть проблема и как её исправить?

Отредактировано пользователем 30 мая 2018 г. 13:47:44(UTC)  | Причина: Не указана

JCP ставился штатным способом через sh. Версия jcp-2.0.39014. Пробовали и путём добавления addProvider() в коде.
На данный момент установили на второй сервер, на этот раз на windows. На новом сервере ситуация немного другая:

Первый запуск:
java.security.NoSuchProviderException: no such provider: JCP
at sun.security.jca.GetInstance.gInstance.java:95)
at sun.security.jca.GetInstance.getInstance(GetInstance.java:218)
at java.security.Security.getImpl(Security.java:709)
at java.security.MessageDigest.getInstance(MessageDigest.java:238)
at CMS_samples.CMStools.digestm(CMStools

Второй запуск:
ru.CryptoPro.JCP.tools.Starter check: Loading JCP 2.0 39442
ru.CryptoPro.JCP.tools.Starter check: JCP loaded.
ru.CryptoPro.JCP.tools.SelfTester: test 31 crashed twice
ru.CryptoPro.JCP.tools.SelfTester run: SelfTester's test №31 failed ru.CryptoPro.JCP.tools.SelfTesterException
at ru.CryptoPro.JVerifyClassJar.run(Unknown Source)
at ru.CryptoPro.JCP.tools.SelfTester.b(Unknown Source)
at ru.CryptoPro.JCP.tools.SelfTester.a(Unknown Source)
at ru.CryptoPro.JCP.tools.SelfTester.run(Unknown Source)
at java.lang.Thread.run(Thread.java:785)

Третий запуск:
ru.CryptoPro.JCP.tools.SelfTesterException: SelfTester Error: some test crashed twice in a row,is no longer available
at ru.CryptoPro.JCP.tools.SelfTester.check(Unknown Source)
at ru.CryptoPro.JCP.tools.SelfTester.check(Unknown Source)
at ru.CryptoPro.JCP.Digest.GostDigest.engineDigest(Unknown Source)
at java.security.MessageDigest.diges

Всё происходит в момент снятия подписи.

Добрый день. Вы были правы, jcp был не корректно установлен. После переустановки возникли такие же ошибки, как и в начале темы (tester is dead при втором запуске).
Вот, что выдает SelfTestersTests:
D:\>d:\Domino\jvm\bin\java.exe ru.CryptoPro.JCP.VMInspector.SelfTestersTests
SelfTestersTests begin:33
Start test 1
Test 1 OK.
Start test 2
Test 2 OK.
Start test 3
Test 3 OK.
Start test 4
Test 4 OK.
Start test 5
Test 5 OK.
Start test 6
Test 6 OK.
Start test 7
Test 7 OK.
Start test 8
Test 8 OK.
Start test 9
Test 9 OK.
Start test 10
Test 10 OK.
Start test 11
Test 11 OK.
Start test 12
Test 12 OK.
Start test 13
Test 13 OK.
Start test 14
Test 14 OK.
Start test 15
Test 15 OK.
Start test 16
Test 16 OK.
Start test 17
Test 17 OK.
Start test 18
Test 18 OK.
Start test 19
Test 19 OK.
Start test 20
Test 20 OK.
Start test 21
Test 21 OK.
Start test 22
Test 22 OK.
Start test 23
Test 23 OK.
Start test 24
Test 24 OK.
Start test 25
Test 25 OK.
Start test 26
Test 26 OK.
Start test 27
Test 27 OK.
Start test 28
Test 28 OK.
Start test 29
Test 29 OK.
Start test 30
Test 30 OK.
Start test 31
Test 31 OK.
Start test 32
Test 32 OK.
Start test 33
Test 33 OK.
SelfTestersTests end:

Отредактировано пользователем 19 июня 2018 г. 10:25:18(UTC)  | Причина: Не указана

Вы правы, окружение не стандартное, данное окружение системы lotus ibm. В окружении стандартной java, код отрабатывает корректно.
По команде <jre>/bin/java -cp samples.jar ComLine.CheckConfFull, результаты предоставим попозже.