AES нецелесообразно ломать.

Это невозможно по определению. RAR использует довольно хорошую криптографию, фактически 128-битный AES, который до сих пор не был взломан криптоанализом или грубой силой. Вы можете попытаться найти другой формат того же архива без защиты или тот, который тривиально сломать, так как этот не будет взломать.