Вы также можете использовать sed с циклом Bash.
Эта команда изменяет file1 на месте (создавая резервную копию file1.bak), удаляя каждую строку, начинающуюся с любой строки из file2:
while read line ; do sed -i.bak "/$line.*/d" file1 ; done < file2