Em torno do ano 4.000 a.C., o homem já sulcava as superfícies com utensílios de osso ou de bronze. No ano 3.000 a.C. os egípcios e os chineses usavam para escrever finíssimos pincéis e canetas feitas de junco (caniços talhados). Em 1.300 a.C. os romanos desenvolveram uma forma de escrever na cera e para isso usavam um estilete de metal (stilus). Os escribas da Ásia e os Anglo-saxões também usavam estilete de metal.

A pena de ganso e de outras aves (corvo, águia, coruja, falcão, peru) foi o instrumento de escrita mais usado no ocidente desde o século VI até o início do século XIX. A pena mais comum era a de ganso, as de cisne, bem mais caras, eram para ocasiões especiais e, para fazer linhas finas, a pena de corvo era a melhor. O uso das penas de aves para escrever exigia muito tempo para prepara-las, precisavam ser constantemente apontadas e sua durabilidade era curta, de uma semana.

No final do século XVIII apareceram as penas de metal, mas elas só se popularizaram depois de 1850, quando se tornaram mais resistentes com a adição de metais como irídio e ródio.

Desde o século XVII verifica-se várias tentativas de produzir uma caneta que tivesse reservatório de tinta. Embora em 1819 John Scheffer tenha produzido sua primeira caneta tinteiro e em 1832 John Jacob Parker tenha feito a primeira caneta auto-recarregável, só em 1884 quando Lewis Waterman patenteou sua caneta "Ideal" é que se produziu uma caneta tinteiro que não vazava, a qual parece ter atingido um segmento expressivo de usuários. Os avanços que se seguiram encontraram novos materiais e soluções cada vez mais práticas e limpas para encher o reservatório de tinta. Até a década de 1960 as canetas tinteiro foram instrumentos de escrita de uso cotidiano, embora seu uso na escola fosse restrito aos alunos de famílias mais abastadas, pois era muito mais cara que as canetas de pena metálica.

Em 1938 o jornalista húngaro László Biró, junto com seu irmão György, criou uma caneta recarregável com ponta em forma de esfera móvel que ao girar distribuía tinta de modo uniforme no papel. Biró patenteou e começou a fabricar sua caneta esferográfica na Argentina, onde se fixou a partir de 1940. Em 1945 as primeiras canetas esferográficas foram vendidas com muito sucesso no mercado americano, mas como não funcionavam bem logo caíram no esquecimento. Em 1949 o barão francês Marcel Bich introduziu a esferográfica "Bic" na Europa e em 1958 entrou no mercado americano comprando a Waterman Pen Company. Em 1959, com campanha publicitária de TV, a caneta esferográfica Bic foi vendida nos Estados Unidos por 29 centavos. A caneta Bic chegou ao Brasil em 1961 e por seu baixo custo substituiu as penas metálicas que ainda eram usadas na escola. A caneta esferográfica revolucionou os hábitos de escrita de milhões de pessoas em todo o mundo.

Na mesma época (1962) a caneta de ponta de fibra foi inventada no Japão.