Ungefähr in den 60er-Jahren, als die durch den Computer unterstützte Textverarbeitung noch in den Kinderschuhen steckte, kam zum ersten mal der Gedanke auf, die Formatierung eines Textes von ihrem Inhalt zu trennen. In dieser Zeit unterstützte die Graphic Communications Association of America diesen Gedanken, indem Seminare und Arbeitstagungen zu diesem Thema ins Leben gerufen wurden. Auf diese Initiative ist das Konzept von GenCode zurückzuführen. Hierbei handelt es sich um ein allgemeines Codier-Schema für die grafikverarbeitende Industrie.
1969 entwickelten Charles Goldfarb, Edward Musher und Raymond Lorie für IBM GML (Generalized Markup Language; vielleicht kam ja GML auch von den Anfangsbuchstaben ihrer Nachnamen?!).
In den 70er-Jahren ging die Internationalisierung und die Standardisierung vornehmlich von den Vereinigten Staaten aus. SGML wurde eine Sprache, mit der man jedes Dokument in jeder Sprache darstellen konnte.
In den 80er-Jahren entstand mit Desktop-Publishing die Möglichkeit, das Aussehen eines Dokuments grundlegend zu manipulieren. Diese Desktop-Publishing Werkzeuge haben sich in den letzten Jahren in ihrer Leistungsfähigkeit sehr stark weiterentwickelt. Allerdings trat damit auch die Schwierigkeit der Standards auf. Die Möglichkeit der Weiterverarbeitung älterer Dokumente war auf nicht viel mehr als die Lebensdauer der Formatierungs-Codierung oder auch der Rechnergattung beschränkt. Immer mehr wuchs der Wunsch, den Dokumentenaustausch zwischen Rechnern zu normen, die Formatierung rechnerunabhängig zu machen, so daß ein aktuelles Dokumentenarchiv auch noch in zehn Jahren seine Gültigkeit hat.
Genormt wurde SGML erst 1986 unter einem Open System Interchange (OSI) Standard von der International Standards Organisation (ISO) unter der Referenznummer ISO 8879:1986 und von der International Electrotechnical Commission (IEC).