L'architecture MPLS repose sur des mécanismes de commutation de labels associant la couche 2 du modèle OSI (commutation) avec la couche 3 du modèle OSI (routage).De plus, la commutation réalisée au niveau de la couche 2 est indépendante de la technologie utilisée.

En effet, le transport des données au sein d'une architecture MPLS peut être par exemple effectuée à l'aide de paquets ou de cellules à travers des réseaux Frame Relay ou des réseaux ATM.

Cette commutation, indépendante des technologies utilisées est possible grâce à l'insertion dans les unités de données (cellules ou paquets) d'un label. Ce petit label de taille fixe indique à chaque noeuds MPLS la manière dont ils doivent traiter et transmettre les données.

L'originalité de MPLS par rapport aux technologies WAN déjà existantes est la possibilité pour un paquet de transporter une pile de labels et la manière dont ceux-ci sont attribués.

L'implémentation des piles de labels permet une meilleure gestion de l'ingénierie de trafic et des VPNs notamment en offrant la possibilité de rediriger rapidement un paquet vers un autre chemin lorsqu'une liaison est défaillante.

Les réseaux actuels utilisent l'analyse des en-têtes de couche 3 du modèle OSI pour prendre des décisions sur la transmission des paquets. MPLS quant à lui repose sur deux composants distincts pour prendre ses décisions : le plan de contrôle (control plane) et le plan des données.

Le plan des données permet de transmettre des paquets de données en fonction des labels que ceux-ci transportent en se basant sur une base de données de transmission de labels maintenue par un commutateur de labels.

Le plan de contrôle quant à lui créé et maintient les informations de transmission des labels destinées à des groupes de commutateurs de labels.

Du point de vue du plan de contrôle, chaque noeud MPLS est un routeur IP qui doit par conséquent utiliser des protocoles de routage IP afin d'échanger ses tables de routage IP avec les routeurs voisins.