eine Gruppe G mit einer Hausdorffschen Topologie, in der die Multiplikation und die Inversenbildung stetige Abbildungen sind.

Die Gruppe G ist also zugleich ein topologischer Raum, in dem das T₂-Trennungsaxiom gilt. Sie heißt diskret, wenn die dem Raum unterliegende Topologie diskret ist; analog spricht man von kompakten Gruppen, etc. Endliche topologische Gruppen sind immer diskret.

Die wichtigsten topologischen Gruppen sind die Lie-Gruppen. Eine für die Zahlentheorie wichtige Klasse topologischer Gruppen sind die proendlichen Gruppen (projektive Limites von endlichen Gruppen), da z. B. die Galoisgruppen unendlicher Galois-Erweiterungen (versehen mit der Krull-Topologie) pro-endlich sind. In der harmonischen Analysis spielen lokalkompakte abelsche Gruppen eine tragende Rolle, da sie die Definition eines Haar-Maßes und damit den Aufbau einer Integrationstheorie erlauben.

Es gilt folgende Aussage:

Ist H eine Untergruppe der topologischen Gruppe G, dann ist der Abschluß von H in G ebenfalls eine Untergruppe von G.

Bei fast allen Anwendungen der Gruppentheorie in der Physik sind die verwendeten Gruppen zugleich topologische Gruppen.