HandBrake (https://handbrake.fr) - довольно универсальный инструмент, который вы можете использовать, также есть инструмент CLI (как конвертировать avi (xvid) в mkv или mp4 (h264)).