Иван, добрый день, спасибо за ваше сообщение.
1. Исключать процессы можно через ветку реестра HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Control\Session Manager\CProExclude, Название подключа любое. FileName - название исполняемого файла процесса.
2. Мы постараемся решить проблему, но нам очень бы помогла простая пошаговая инструкция или тестовый проект, который поможет локализовать несовместимость.

Речь про эту https://github.com/lucasg/Dependencies?
Или про ключи профилировки у depends?
Если второе, то оно скорее всего делает то же, что и наши перехватчики - подменяет точку входа библиотеки. Вместе существовать они не смогут, думаю.

Отредактировано пользователем 2 февраля 2021 г. 9:45:22(UTC)  | Причина: Не указана

Добрый день!

Я работаю в команде профиляторов в компании JetBrains.
Я провела исследование взаимодействия последних версий CryptoPro c профилятором памяти dotMemory и выявила проблему в случае когда dotMemory собирает данные об аллокациях через profiling API. Внутри нашего профайлера происходит следующее:

1. Профайлер это Windows COM объект, который реализует интерфейс: https://docs.microsoft.c...ofilercallback-interface

2. После того как COM объект создан, происходит вызов: https://docs.microsoft.c...llback-initialize-method

3. В методе есть аргумент IUnknown, для которого делается cast в ICoreProfilerInfo и записывается в переменную, в нем для ICoreProfilerInfo вызывается https://docs.microsoft.c...info-seteventmask-method с флагами COR_PRF_MONITOR_OBJECT_ALLOCATED | COR_PRF_ENABLE_OBJECT_ALLOCATED
На этом метод инициализации профайлера завершается.

4. После этого в профайлер должны начать приходить коллбэки https://docs.microsoft.c...k-objectallocated-method
В каждом коллбэке приходит параметр ObjectId и для каждого из них вызывается https://docs.microsoft.c...nfo-getobjectsize-method - на этом моменте происходит ошибка.

Как это воспроизвести в dotMemory:

- Установить КриптоПро CSP 5.0 (CSPSetup-5.0.12266)
- Установить КриптоПро .NET (NETSetup 1.0.7775.0 от 20.04.2021)
- Запуситить dotMemory UI версию. Я проверяла на последнем EAP, но разницы с релизом не должно быть.
- Создать "Standalone" конфигурацию в "New process run", выбрать .exe для профиляции. Тут есть некоторые нюансы, так как не на всех приложениях проблема воспроизводится, нужно более-менее сложное приложение, которое создает много разных объектов в памяти. У меня воспроизвелось на процессе Visual Studio (devenv.exe) и на процессе самого dotMemory, наш .exe можно найти в папке инсталляции, по умолчанию "%localappdata%\JetBrains\Installations\dotMemory<vN>\dotMemory.UI.64.exe". Можно попробовать и на других приложениях, я указала те с которыми я получила 100% вопроизведение.
- Включить полный режим сбора аллокаций: установить Collect allocation data -> Full если используется dotMemory 2021.3 и позднее, либо включить флаг "Collect memory allocation and traffic data from start" для dotMemory 2021.2 и ранее (в 2021.3 немного поменяли UI). Этот режим как раз соответствует описанному выше сбору аллокаций через profiling API.

- Нажать "Start" => проблема возникает сразу и выглядит следующим образом: кнопка "Get snapshot" недоступна, в правом верхнем углу мигает желтый треугольник, при его нажатии отображается ошибка ядра нашего профайлера.

Воркэраунд который мне помог:
- Добавить ключ в HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Control\Session Manager\CProExclude с именем исполняемого файла в значении (devenv.exe в моем случае).
- Перезагрузить компьютер.

Ссылка на тикет от нашего пользователя: https://youtrack.jetbrains.com/issue/DMRY-6637
Ниже прикладываю скриншоты из интерфейса с настройкой конфигурации и самой ошибкой.

Core error.png (77kb) загружен 5 раз(а). Enable alloc.png (58kb) загружен 4 раз(а).

У самого dotMemory targetFramework 4.7.2, на машине стоит следующее:

Классический .NET Framework версии 4.8.04161

.NET SDK (reflecting any global.json):
Version: 5.0.402
Commit: e9d3381880

Runtime Environment:
OS Name: Windows
OS Version: 10.0.20348
OS Platform: Windows
RID: win10-x64
Base Path: C:\Program Files\dotnet\sdk\5.0.402\

Host (useful for support):
Version: 5.0.11
Commit: f431858f8b

.NET SDKs installed:
5.0.402 [C:\Program Files\dotnet\sdk]

.NET runtimes installed:
Microsoft.AspNetCore.App 3.1.20 [C:\Program Files\dotnet\shared\Microsoft.AspNetCore.App]
Microsoft.AspNetCore.App 5.0.11 [C:\Program Files\dotnet\shared\Microsoft.AspNetCore.App]
Microsoft.NETCore.App 3.1.20 [C:\Program Files\dotnet\shared\Microsoft.NETCore.App]
Microsoft.NETCore.App 5.0.11 [C:\Program Files\dotnet\shared\Microsoft.NETCore.App]
Microsoft.WindowsDesktop.App 3.1.20 [C:\Program Files\dotnet\shared\Microsoft.WindowsDesktop.App]
Microsoft.WindowsDesktop.App 5.0.11 [C:\Program Files\dotnet\shared\Microsoft.WindowsDesktop.App]

Мы получаем 0x80131363 == CORPROF_E_UNSUPPORTED_CALL_SEQUENCE внутри коллбэка ICorProfilerCallback::ObjectAllocated() при совершенно легальном вызове ICorProfilerInfo::GetObjectSize() после установки CryptoPro. Без CryptoPro такой ошибки не происходит.

CORPROF_E_UNSUPPORTED_CALL_SEQUENCE - означает, что метод не может быть вызван внутри какого-либо коллбэка потому-что Microsoft Profiling API таким образом защищается от дэдлока при работе с профайлерами.

Есть подозрение, что к нам приходят коллбэки о выделениях памяти из мэнедж части CryptoPro, которая в свою очередь была принудительно инжектирована вашим драйвером в пользовательский процесс.

Вы можете легко повторить это в своем окружении, достаточно запустить профиляцию dotMemory на компьютере с установленным CryptoPro (инструкцию я писала выше).