Если вы используете ffmpeg или avconv из командной строки, вы можете использовать команду timeout:
timeout 3600 avconv -f video4linux2 -r 25 -i /dev/video0 -vcodec mpeg4 -y out.mp4