De AAC werd ingesteld bij Koninklijk Besluit van 22 mei 1984 (Staatsblad 1984 317). Haar taken werden toen geregeld in de artikelen 110b tot en met 118 van het (inmiddels ingetrokken) Algemeen Rijksambtenarenreglement (ARAR).
De advies- en de arbitrageregeling, die heeft geleid tot het instellen van de AAC, wordt ook wel de sluitstukregeling genoemd. De sluitstukregeling is van begin af aan bedoeld om aan het slot van het arbeidsvoorwaardenoverleg bij de overheid een bijzondere procedure te realiseren, wanneer het overleg niet tot overeenstemming heeft geleid.
Voor de sectoren Rijk, Defensie, Politie, ROP en Rechterlijke ambtenaren zijn met de normalisering van de ambtelijke rechtspositie per 1 januari 2020 ‘afzonderlijke AAC’s’ ingesteld. De grondslag van deze AAC’s is geregeld in de regelgeving van de sectoren Rijk (CAO Rijk), Defensie (Besluit georganiseerd overleg sector Defensie), Politie (Besluit overleg en medezeggenschap Politie), Raad voor het overheidspersoneelsbeleid (overeenkomst ROP) en Rechterlijke ambtenaren (Besluit rechtpositie rechterlijke ambtenaren).
Ingevolge het Convenant advies- en arbitragecommissies dat door de sectorwerkgevers met de Centrales voor overheidspersoneel wordt overeengekomen is de personele samenstelling van de AAC’s dezelfde als voorheen.
De commissie is gehuisvest bij en wordt ondersteund door het CAOP