Ciao,
per il boot da iso credo ti manchi unicamente da selezionare il "connect at boot" sul cdrom se la iso sta su un datastore, oppure (essendo VMW workstation) lasci fare il primo boot da rete che fallirà, connetti la iso alla VM, e poi invochi il CTRL+ALT+DEL alla vm, che quindi ripartirà dal cd. Non usare il reset altrimenti disconnette nuovamente il cd.
Relativamente a Mac OS X, il limite legale è stato forzato da VMware tramite codice: al boot la VM controlla se il server o computer sottostante espone le chiamate al chipset SMC che è presente nell'hardware Apple. Se non trova questo chipset non fa partire il guest OS. L'unico modo è utilizzare un computer Apple con VMware Fusion, oppure con vSphere 5.1 comprare un Mac Pro di ultima generazione e installarci ESXi 5.1
Ciao,
Luca.