Fino all'inizio del XVII sec. non esisteva una gerarchia militare nel senso attuale del termine. Le funzioni di Ufficiale e sottufficiale nacquero solo con lo sviluppo di nuove forme ben definite di organizzazione del combattimento (formazioni in linea e a ranghi serrati). Poiché i metodi di combattimento e la gestione delle forze armate furono allora regolamentate, per l'Istruzione militare (drill) e l'impiego delle truppe occorrevano persone in grado di dirigere tecniche molto formalizzate. Ancora fluida fino al XVIII sec., la distinzione tra ufficiali subalterni e sottufficiali divenne in seguito netta sulla base delle diverse procedure di nomina: gli ufficiali ricevevano l'incarico (commissione) direttamente dal sovrano o dal governo (commissioned officers), i sottufficiali venivano designati da un comandante militare superiore (non commissioned officers).
Funzioni di sottufficiale si svilupparono sia nei reggimenti mercenari sia nelle org. di difesa territoriale e nelle milizie della vecchia Conf. (Milizie cantonali). Nelle formazioni di battaglia i sottufficiali e gli ufficiali subalterni inquadravano i soldati in ranghi allineati (vessillifero, capofila a destra e sinistra) ed erano tenuti a sorvegliare i movimenti in formazione e a disciplinare la cadenza del tiro.
Dall'inizio del XIX sec. i compiti dei sottufficiali nei reparti cant. e fed. (Esercito) vennero fissati da regolamenti. Dopo la costituzione dello Stato fed. (1848) e l'organizzazione militare del 1874, si affermò la denominazione di sottufficiali superiori per i gradi risp. le funzioni di furiere, sergente maggiore e aiutante sottufficiale. Furieri e sergenti maggiori provvedevano al vettovagliamento e all'ordinario della truppa, mentre gli aiutanti sottufficiali, in origine assegnati all'aiutante maggiore, si occupavano dell'addestramento sotto forma di drill e dello schieramento in battaglia. Caporali e sergenti erano responsabili del servizio interno e della sorveglianza dei soldati. A lungo l'istruzione dei sottufficiali si limitò all'esperienza pratica acquisita durante il servizio di truppa e solo nella seconda metà del XIX sec. furono istituite scuole sottufficiali, dapprima per l'artiglieria e la cavalleria e dal 1884 anche per la fanteria. Le scuole per furieri risalgono al 1875, quelle per sergenti maggiori al 1952. La creazione di scuole sottufficiali di fanteria provocò una controversia attorno all'idea se i futuri ufficiali dovessero dapprima prestare servizio quali sottufficiali. Gli ambienti vicini a Ulrich Wille, interessati all'autorità degli ufficiali, respingevano tale obbligo poiché temevano che la vicinanza alla truppa comportasse una perdita di autorità, mentre la corrente repubblicana guidata da Hugo Hungerbühler lo riteneva un passo indispensabile verso un esercito di cittadini. Dopo la prima guerra mondiale si affermò il sistema di "pagamento del grado", secondo cui gli aspiranti, dopo aver assolto la scuola sottufficiali, erano tenuti a prestare servizio quali caporali in una scuola reclute. I sottufficiali proposti per un avanzamento dovevano frequentare la scuola ufficiali, per furieri o per sergenti maggiori e poi prestare nuovamente servizio in una scuola reclute quali tenenti o sottufficiali superiori. Nel quadro della riforma Esercito XXI, nel 2003 questo sistema è stato in gran parte abolito e rimpiazzato dal cosiddetto servizio pratico.
Nel 1864 i sottufficiali si organizzarono nell'Ass. sviz. dei sottufficiali, che promosse soprattutto l'istruzione fuori dal servizio e, dal 1926, pubblicò la rivista Il soldato sviz. Dagli antichi sergenti istruttori nacque il corpo dei sottufficiali istruttori, incaricati principalmente dell'istruzione tecnica delle truppe e dal 1975 formati alla scuola per sottufficiali di professione dell'esercito a Herisau. Nell'ambito degli sforzi di allineamento alla NATO, nel 2004 i gradi dei sottufficiali sono stati adattati con l'introduzione di quelli di sergente capo, sergente maggiore capo, aiutante di Stato maggiore (esistente già dal 1996), aiutante maggiore e aiutante capo.