С awk:
awk '{d=0; for (i=1; i<=NF; i++) {d=(d*2)+$i} printf "0x%02x\n", d}' binary.txt
Или с помощью bc:
(echo obase=16; ibase=2; sed 's/ //g' binary.txt) | bc