Вы должны использовать кавычки вне регулярного выражения (внутри, они берутся буквально в виде кавычек) и escape (. Try;
rename -n 's/ \(NEWER_\d{10}.\d{2}\)$//' *NEWER*
Точность выражения может быть не нужна, но вы не можете быть слишком осторожным при изменении файлов.