Prema srpskom pravopisu ispravna su oba izraza. Međutim, imaju različito značenje.

Kraj telefona upotrebljava se sa značenjem pored uređaja telefona.

Drugi izraz, na telefonu, znači na telefonskoj vezi.

Primeri u rečenicama:

Dobar dan, Marko na telefonu. Da li mogu da dobijem Stefana?

Već pola sata stojim kraj telefona i očekujem njegov poziv.

Ja sam kraj telefona, očekivala sam tvoj poziv.