Если вы правильно поняли, у вас есть следующая настройка:
BIOS -> GRUB2 -> Boot USB
Однако, когда вы установили Ubuntu на USB-накопитель, вы должны убедиться, что вы устанавливаете grub на USB-накопитель, не хост-жесткий диск, например /dev/sdb не /dev/sda. Таким образом, ваша настройка должна быть такой:
BIOS -> Boot USB -> GRUB2
Обратите внимание, что если вы, но ваш USB-накопитель с другого компьютера, отличного от того, на котором вы его установили, не гарантированно работают правильно. Могут быть настройки, характерные для вашего компьютера.