кофеин работает, но не для кволибетов

Такая же проблема. Я использую NVidia, аппаратное ускорение отлично работает с mplayer.

Выполнение vlc -vvv показывает, что проблема выглядит связанной с avcodec и многопоточным:

305 [0xb7049a70] avcodec decoder debug: allowing 4 thread(s) for decoding 306 [0xb7049a70] avcodec decoder warning: threaded frame decoding is not compatible with ffmpeg-hw, disabled 307 [0xb7049a70] avcodec decoder debug: ffmpeg codec (H264 - MPEG-4 AVC (part 10)) started

Пользовательская компиляция из Источники VLC («устанавливать зависимости сборки» -> ./bootstrap -> ./configure -> make -> sudo make install) отлично работают.