Ubuntu 14.04 не работает.

Если вы используете bash (оболочка по умолчанию), опция оболочки extglob позволяет использовать расширенный синтаксис соответствия шаблону. Чтобы включить его, используйте встроенную команду shopt:

shopt -s extglob

(я включаю эту строку в мой файл .bashrc.)

Среди прочего, он предоставляет доступ к оператор !(), который соответствует любому шаблону, не входящему в паренс. Для вашей цели:

rm !(filename).gif

Дополнительная информация доступна в man bash в разделе «Соответствие шаблону».