Похоже, что вы уже распаковали файл .tar.gz, поэтому посмотрите в каталоге документации.
В документе Getting started with FMOD for Linux.pdf говорится:
Установка
Свяжите следующую библиотеку с вашим проектом:
Используйте api/lib/libfmodex.so для использования API FMOD Ex.