Я думаю, вы должны использовать xdotool вместо modmap, который может изменять отдельные ключи, а не комбинации клавиш. Пример: установите ярлык для xdotool key KP-7