Pada awalnya, dalam bahasa latin, untuk mengindikasikan pertanyaan, orang harus menuliskan kata “Questio” di akhir kalimat untuk menandakan bahwa kalimat tersebut adalah kalimat tanya. Maka untuk menghemat tempat, kata tersebut akhirnya disingkat menjadi qo, yang kemudian dimampatkan lagi menjadi huruf q kecil diatas huruf o, yang akhirnya makin lama makin habis menjadi titik dan garis mirip cacing, persis seperti tanda tanya kita sekarang.
Seperti tanda tanya, awalnya juga dimulai dengan menumpuk huruf. Tanda ini berasal dari kata dalam bahasa Latin “io” yang berarti “seruan kegembiraan”. ketika huruf i ditulis diatas huruf o, lama-lama dipersingkat seperti tanda seru kita sekarang ini.
Ditemukan oleh ahli matematika Inggris Robert Recorde pada 1557, dengan pemikiran seperti ini (dalam bahasa Inggris kuno) “I will settle as I doe often in woorke use, a paire of paralleles, or Gmowe [i.e., twin] lines of one length, thus : , bicause noe 2 thynges, can be more equalle.” atau terjemahannya: “Aku akan menggunakan tanda ini seperti biasanya, sepasang garis sejajar, atau kembar dengan panjang yang sama, karena tidak ada dua hal lagi yang bisa lebih sama dengan dua garis sejajar ini.” Tanda sama dengan asli temuan Robert setidaknya 5 kali lebih panjang dari yang kita kenal sekarang.
