/usr/share/icons/ обычно содержит предустановленные темы (общие для всех пользователей). ~/.icons/ обычно содержит папки с темами, установленными пользователем.
Кроме того, многие приложения имеют свои значки в /usr/share/pixmaps/ или в папке с тем же именем, что и приложение под /usr/share/...