Embora possam existir "zilhões" de substâncias químicas diferentes, elas são combinações de pouco mais de uma centena de elementos químicos. Um elemento químico é qualquer substância que não pode ser decomposta em outras substâncias mais simples através de processos químicos ordinários: os elementos são os tijolos fundamentais com os quais toda a matéria é feita. Dos 116 elementos químicos conhecidos, cerca de 20% não existe na natureza: foram preparados sinteticamente em laboratórios. Os elementos químicos podem se combinar e formar substâncias mais complexas, chamadas de compostos, que possuem características diferentes dos elementos que o constitui. Por exemplo, dois átomos do elemento Hidrogênio e um átomo do elemento Oxigênio podem se combinar e formar uma molécula de água (H₂O). A água em nada se assemelha aos gases oxigênio e hidrogênio.

Os filósofos gregos Tales, Anaximenes e Heráclitos, muito antes de Cristo, foram os primeiros a sugerir a composição elementar da matéria: Thales achava que o elemento fundamental era a água; Anaximenes dizia que era o ar e Heráclitos acrediva que era o fogo. Um outro filósofo grego, Epédocles, disse que todas as substâncias eram compostas de 4 elementos: água, fogo, terra e ar. Aristóteles também pensava assim, e inclusive atribuiu as propriedades físicas das substâncias como derivação das propriedades elementares. Embora pareça estranho, o pensamento grego já trazia os fundamentos da química moderna: falava-se em elementos, compostos, substâncias... Demócrito e Lêucipo, em torno de 400 anos A.C., criaram o termo "átomo" (do grego, "indivisível") para descrever o que, na sua concepção, seriam as unidades elementares da matéria.

Em 1661, o químico inglês Robert Boyle estabeleceu a diferença entre elemento e substância e, em 1789, o químico francês Antoine-Laurent Lavoiser publicou o que pode ser considerada a primeira lista de elementos baseada nas definições de Boyle. Nesta lista estavam citados "sílica" e "alumina", entre outros, que hoje sabemos se tratar de substâncias, e não elementos.

Mesmo os antigos já conheciam 7 dos elementos químicos (ouro, prata, chumbo, ferro, mercúrio, zinco e cobre), sendo citados mesmo na Bíblia. Os outros elementos foram descobertos a partir da segunda metade do século 18, quando as técnicas de separação e caracterização foram aprimoradas.

No exemplo acima, o Potássio reage com o Cloro para formar KCl.