Сброс содержимого VRAM не должен работать из пользовательского пространства. Это потребует поддержки от драйвера в ядре. Если вам повезет, ваш драйвер может содержать триггеры для выгрузки памяти, но они могут быть доступны только в том случае, если вы скомпилируете определенные параметры отладки.