Die Architektur eines Application Servers ist grundsätzlich nicht vorgegeben. Dennoch basieren heute immer mehr Application Server auf einem der verfügbaren offenen Standards. Ziel der Standardisierungen ist die Interoperabilität von Anwendungen über Plattformgrenzen hinweg. Die heute bekanntesten Architekturen für Application Server sind
J2EE (Java 2 Platform Enterprise Edition) Herstellerstandard von Sun
CORBA (Common Object Request Broker Architecture) OMG Standard
Microsoft .Net mit Windows 2000 basiert auf keinem Standard
Im Zentrum der Architektur liegt der Object Request Broker (ORB). Seine Aufgabe ist die transparente Vermittlung von Nachrichten zwischen Services und im Netz verteilten Anwendungsobjekten. Als Protokoll dient das Internet Inter ORB Protokoll (IIOP). Der CORBA Standard spezifiziert über 20 Services. Diese stehen jedoch nur zum Teil in CORBA Produkten zur Verfügung.
Zur Einbettung der Geschäftslogik in den Application Server unterstützt jede der drei Architekturen ein Komponentenmodell.