PVM se desarrolló basándose en el concepto de máquina virtual, esto es, una colección de recursos computacionales (potencialmente heterogéneos) manejados como un computador paralelo. Este concepto es fundamental y forma la base para la heterogeneidad, la portabilidad y la encapsulación de funciones que constituyen PVM.
El concepto de máquina virtual fue el que revolucionó la computación paralela y distribuida heterogénea, enlazando diferentes tipos de máquinas (estaciones de trabajo, ordenadores personales y computadores paralelos) para formar un sólo y complejo motor computacional.
Por su parte, MPI se centró en el paso de mensajes, y aunque no tiene el concepto de máquina virtual, sí hace una abstracción de todos los recursos en términos de topología de paso de mensajes.
En MPI un grupo de procesos se pueden colocar en una topología lógica de interconexión específica, a través de la cual tienen lugar las comunicaciones.
En PVM no disponemos de dicha abstracción, sino que el programador es el encargado de asignar las tareas y colocarlas en grupos estableciendo explícitamente la organización de la comunicación.