В OS X по умолчанию установлена команда md5. Он может быть вызван как таковой из терминала:
$ md5 /path/to/myFile
MD5 (/path/to/myFile) = b046a6bd326bb705349162abad3dce65
Сравните хэш, полученный вами из файла .iso с соответствующим хэшем из Ubuntu Hashes.