Для VLC см. некоторые из оптимизаций здесь, ориентированные на Nvidia, но также должны помочь ATi. VLC на основе HD GPU, на мой взгляд, все еще немного экспериментально.