Если вы говорите о демонах системной системы, то подходит файл в /etc. Если вы говорите о приложении, которое должно иметь настройки для каждого пользователя, домашний каталог подходит. Для новых приложений было бы неплохо следовать спецификации базового каталога XDG:
http://standards.freedesktop.org/basedir-spec/basedir-spec-latest.html
В основном это означает, что вы должны хранить ваши файлы конфигурации в $XDG_CONFIG_HOME, по умолчанию - ~/.config