Prema srpskom pravopisu ispravna su oba izraza. Međutim, imaju različito značenje.
Kraj telefona upotrebljava se sa značenjem pored uređaja telefona.
Drugi izraz, na telefonu, znači na telefonskoj vezi.
Primeri u rečenicama:
Dobar dan, Marko na telefonu. Da li mogu da dobijem Stefana?
Već pola sata stojim kraj telefona i očekujem njegov poziv.
Ja sam kraj telefona, očekivala sam tvoj poziv.