Существует ли способ сказать, какое кодирование используется для имени и содержания файла?

Вы могли попробовать

chardet <<<filename

chardet программа может попытаться предположить кодирование потока на stdin, и <<< среднее который bash используйте строку в качестве stdin, то же как

echo filename | chardet

Для целого содержания каталога можно использовать

ls dir | chardet

Править

Я забыл о содержании, но являюсь почти тем же:

chardet <filename

или

cat filename | chardet

или для всех файлов в dir

cat dir/* | chardet