Pats žodis „archyvas“ yra kildinamas iš senovės lotynų kalbos žodžio archivum, o šis – iš graikų kalbos žodžio archaios – senovinis. Istoriškai seniausia, ankstyviausia sąvokos archyvas reikšmė buvusi „vieta, kur laikomi valstybiniai dokumentai“. Senovės Romoje žodis archyvas reiškė vietą, kur saugomi aktai ir dokumentai specialiems tikslams: kad būtų išleisti, tiriami ir kopijuojami. Nusakyti vietai, kur saugomi dokumentai, romėnai įvairiais laikotarpiais vartojo tris terminus. Pirmasis – jau minėtas sulotynintas graikiškas žodis „archivum“ – buvo pradėtas vartoti tik II a. po Kr. ir išnyko Justiniano Didžiojo laikais. Maždaug tuo pačiu metu (nuo2 67 m. pr. Kr. - Senovės Romos Respublikos laikų - iki V a. po Kr.) buvo vartojamas ir kitas terminas - „tabularium“. Šis žodis reiškė vietą, kurioje laikomos „tabulae“, t. y. rašomosios lentelės, nesvarbu kokios – akmens, bronzos ar medinės. Kurį laiką dar vartotas terminas „scrinium (scrinia), kuris iš pradžių reiškė spintelę, o vėliau – vietą, kur kas nors saugoma, iš dalies – ir patį archyvą. Galiausiai, laikui bėgant, visuotinai paplito ir įsitvirtino pirmasis senovės romėnų vartotas terminas - „archyvas“.

            Mūsų dienomis terminas „archyvas“ paprastai yra vartojamas dviem prasmėmis. Pirmąja, prasme šis terminas reiškia visumą privačių (fizinių) ar juridinių asmenų dokumentų (nepriklausomai nuo jose esančių duomenų formos ir laikmenos); 2. Antrąja prasme tai yra institucija (įstaiga), kur archyvai yra saugomi, ir kuri yra atsakinga už archyvų saugojimą“

            Kaip matome, ilgainiui terminas „archyvas“ įsitvirtino dalykinėje apyvartoje reikšdamas ir vietą, ir toje vietoje saugomus dokumentus.

Atsižvelgiant į mūsų dienų realijas archyvo sąvoka dar galėtų būti praplėsta ir kitomis reikšmėmis ar subreikšmėmis, kurios galėtų pasitarnauti formuojant valstybės archyvo, kaip įstaigos, misiją. Tarp tokių reikėtų paminėti tokius apibrėžimus, kuriuose būtų kalbama apie archyvus kaip mokslo tiriamąsias įstaigas, kultūros įstaigas, įstaigas teikiančias tam tikras paslaugas (pvz., užtikrinančias priėjimą prie jose saugomų dokumentų, padedančias įvairiems juridiniams ir fiziniams asmenims organizuoti bei vykdyti dokumentų apskaitą bei tvarkymą) ar vykdančias viešojo administravimo funkcijas (pvz., dokumentų valdymo priežiūra) ir/ar teikiančias metodinę pagalbą, užsiimančias archyvinių dokumentų sklaida, viešinimu ir kt.