Бинарный файл будет отмечен исполняемым битом.
Итак, вы можете написать простой скрипт bash, который проверяет, установлен ли исполняемый бит, и если это так удалить файл.