Je n'aurais pas la place ici de rentrer dans les détails mais les normes de communication numérique du spatial tendent à ressembler dans leurs dernières moutures à ce qu'on trouve sur Internet (cela fait un moment que je n'ai pas mis le nez dedans mais à mon époque déjà
, il était question d'encapsuler des paquets Ethernet à l’intérieur de trames CCSDS). Il existe un équivalent du FTP, de TCP, d'IPSec....etc Pour les images, elles sont compressées en utilisant des transformations en ondelettes (un peu comme le format ecw utilisé au sol dans certaines bases géographiques... justement pour compresser des images satellites notamment ou bien le format jpeg2000 plus rare). En dessous de ce codage numérique relativement classique, il y a une série de protocoles qui eux peuvent dépendre de la bande passante mais qui comprennent presque toujours un forte proportion de codes de correction d'erreurs destinés à éliminés les paquets parasités (le plus utilisé étant le Reed-Solomon utilisé aussi dans la télévision numérique et l'ADSL). Comme évoqué par Space Opera, cette bande passante va dépendre de la gamme de fréquences dans laquelle travaille l'antenne côté spatial et du bilan de liaison avec l'antenne sol (sur le DSN du JPL, il faut "un certain temps" pour récupérer une simple image car elles viennent de très loin) mais la porteuse est très souvent modulé en PSK comme l'a signalée fredB.
Tu n'as pas cité le cas particulier des signaux GPS qui est en revanche un peu plus sophistiqué car il est brouillé artificiellement par un code pseudo-aléatoire que seuls les militaires peuvent éliminer par utilisation de clés de décryptage dont la clé publique est changée "régulièrement" (la suite est "classifiée" ;)).
Pour établir une différence entre les trois types de véhicules que tu as cités, il ne faudra pas en rester aux signaux de télécommandes et télémesures qui peuvent souvent se ressembler (modulo la gamme de fréquence utilisée) mais il vaudrait mieux s'intéresser au "signal utile" qui dans le cas des satellites de télécoms n'est rien de plus qu'un signal (UHF ou VHF) terrestre répété (vu le nombre de répéteurs, je suggèrerais de symboliser ça par de nombreuses ondes situées les unes au dessus des autres et donc émises en même temps), dans le cas des vols habités principalement de l'audio-vidéo (c'est ce qui mobilise le plus de bande passante) et dans la cas de la sonde des images fixes donc plus probablement deux ou trois signaux superposés dans le premier cas et un seul dans le second car les sondes n'ont souvent qu'une seule antenne tournée vers la Terre. Tu peux aussi jouer sur l'amplitude car les signaux provenant du LEO peuvent être forts, ceux des satellites de télécoms à 36000km, un peu moins même si la puissance d'émission est bien supérieure et les signaux des sondes sont de très faibles amplitudes.
Pour l'ISS, les Américains utilisent la bande S et la bande Ku mais côté Européens et Japonais, il existait des projets dédiés de liens en bande X permettant de s'affranchir des restrictions de bande passante imposées par la NASA. Les Russes utilisent depuis MIR toujours le même système (Lutch) en bande X et Ku ainsi qu'un peu en UHF (pour l'audio).
Côté sonde, le DSN du JPL fait feu de tout bois en travaillant dans toutes les gammes de fréquence grâce à un réseau qui s'étant dans le monde entier mais dont les principales stations sont en Californie, en Espagne et en Australie.
Toutefois, l'ITU leur a attribué des canaux de fréquence dédiés pour toutes les communications vers et depuis les objets éloignés de plus de 2 Millions de km de la Terre. Elles sont situés en bandes S, X et Ka. Cependant, à proximité de la Terre (moins de 2millions de Km), certaines sondes peuvent aussi utiliser la bande K. Le mode de modulation est sensiblement le même que pour les autres satellites d'observation.
Le DSN peut aussi travailler en interférométrie pour détecter l'emplacement de sondes n'émettant plus de signal vers la Terre, un peu comme une sorte de radar spatial en regroupant les signaux provenant de nombreux radiotélescopes.
Pour plus de détails (je n'ai pas souvenir à quel ordre de PSK on travaille: DPSK ? QPSK ? 8-PSK ?...), il vaudrait mieux que nos spécialistes Astro-Notes et Lunakhod2 apportent leur expertise.