Do I need to keep the ngx_pagespeed source code after compiling it into nginx?

После того, как Вы скомпилировали и затем установили nginx (make install), Вам не должен быть нужен дополнительный каталог для модуля больше (принимающий эту папку, о которой Вы говорите, исходный код для модуля и не папка, созданная модулем, когда nginx выполняется).

Однако Вы, вероятно, захотите иметь в наличии каталог для того, когда Вы обновите nginx и перекомпилировали в будущем (или Вы можете просто восстановленная загрузка модуль скорости страницы снова).