сбой grub-install и отказ grub2 вообще

Чтобы «udisks2» Gnome автоматически установил его с помощью GUI, запрашивающего пароль crypt, вам просто не нужно упоминать об этом в вашем fstab и crypttab.

udisks будет автоматически установлен (f3)

Если вы настаиваете на использовании записи в своем fstab, вы должны убедиться, что отображение luks настроено до того, как система пытаясь установить его.