Dans les villes, souveraines ou sujettes, de l'ancienne Confédération, l'autorité appartenait aux Conseils. Le Petit Conseil exerçait dans ce cadre la fonction d'organe collégial dirigeant; il assurait la continuité des institutions municipales (Ville) et incarnait leur capacité d'agir. A ses origines on trouve, au XIVe s., un petit groupe formé de quelques-uns des habitants "les plus riches, les plus distingués et les plus puissants" (Eberhard Isenmann). Présidé par le bourgmestre ou l'avoyer et, à Genève, par le syndic, il se composait des magistrats suprêmes, assistés de dix à cinquante conseillers; ceux-ci étaient élus par les bourgeois, par les corporations, par les quartiers ou par des collèges électoraux, ou alors désignés par cooptation (une ou deux fois par an). Le Petit Conseil tranchait toutes les questions de politique intérieure et extérieure, il était l'autorité administrative suprême et détenait les principales compétences judiciaires. Il convoquait le Grand Conseil (à un rythme dont il était souvent le seul juge), siégeait avec lui et gardait la haute main sur ses débats. Il confiait certaines tâches à un Conseil secret ou à des commissions (chambres). Les conseillers exerçaient leur mandat à vie et bénévolement. Il fallait donc avoir des loisirs pour être éligible. Jusqu'au XVIe s., le renouvellement était encore assez rapide. Mais ensuite, l'oligarchisation restreignit fortement le nombre des familles représentées (par exemple à Lucerne: quarante-cinq familles entre 1501 et 1510, vingt après 1680). Dès le XVe s., le Petit Conseil se considéra comme détenteur de droit divin de l'autorité politique sur les bourgeois de la ville et sur les sujets de celle-ci. Cette concentration des pouvoirs entraîna des conflits avec le Grand Conseil, les corporations ou les bourgeois (à Berne en 1681-1687, à Schaffhouse en 1689, à Bâle en 1691, à Zurich en 1713, à Soleure en 1723, à Genève tout au long du XVIIIe s.).
La révolution de 1798 fit disparaître les Petits Conseils d'Ancien Régime. Mais le gouvernement helvétique issu du troisième coup d'Etat (27-28 octobre 1801) prit le nom de Petit Conseil. En 1803, l'institution réapparut dans les cantons (Gouvernements cantonaux); jusqu'en 1848, ses membres siégeaient aussi, généralement, au législatif. Lors des révisions constitutionnelles du XIXe s., le terme de Petit Conseil fut remplacé par celui de Conseil d'Etat, Consiglio di Stato ou Regierungsrat (Vaud et Tessin en 1814, Zurich en 1831, Lucerne en 1841, Schwytz en 1848, Argovie en 1852, Bâle-Ville en 1875); il se maintint cependant aux Grisons jusqu'en 1971.