Le terme "serveur" est malheureusement utilisé pour beaucoup de choses différentes dans le monde de l'informatique.
Dans un contexte logiciel, un "serveur" est toute application qui s'exécute la plupart du temps ou tout le temps et se tient prête à répondre à des demandes ou à effectuer des opérations au nom d'une autre application ou d'un autre processus. L'application qui pose les questions ou demande les opérations est le "client". Une installation moderne de Windows comporte des centaines de serveurs persistants (appelés "services" dans le jargon de ce système d'exploitation) et de nombreuses applications (Office, par exemple) lancent également des serveurs temporaires dans le cadre de l'exécution pour effectuer diverses fonctions au sein de l'application.
Dans un contexte matériel, un "serveur" est un matériel informatique qui a été conçu dans le but d'héberger de grandes applications à long terme avec un haut degré de fiabilité et de durabilité. En général, le matériel de classe serveur prend en charge plus de processeurs et plus de mémoire que le matériel de classe bureau ou station de travail, dispose d'alimentations et de systèmes de refroidissement redondants, et peut avoir la capacité de prendre en charge plus de disques durs, d'interfaces réseau et d'autres options d'E/S que l'on trouve généralement sur le matériel de classe bureau ou station de travail. Les composants matériels (alimentations, ventilateurs, disques durs, mémoire, parfois même les processeurs) peuvent être retirés et remplacés sans arrêter la machine ni exiger le redémarrage du système d'exploitation. Les serveurs ont généralement des capacités vidéo très limitées (bien que certains possèdent des "GPU sans tête" pour prendre en charge les calculs basés sur les GPU) et n'ont généralement aucune capacité audio, juste un petit truc qui peut émettre un bip. Le matériel de classe serveur a été conçu pour fonctionner en continu pendant des années dans des environnements à température contrôlée. D'un point de vue architectural, le matériel de classe serveur n'est pas si différent du matériel de classe station de travail ; il't juste conçu pour un niveau de performance différent.