Γεννήθηκε στο Συρράκο της Ηπείρου, γιος του εύπορου εμπόρου Δημητρίου Κρυστάλλη. Εκεί έμαθε τα πρώτα γράμματα και μετά τον θάνατο της μητέρας του, τον δεύτερο γάμο του πατέρα του και την εγκατάσταση της οικογένειας στα Γιάννενα συνέχισε στη Ζωσιμαία Σχολή. Το 1887 τύπωσε την πρώτη ποιητική συλλογή του Αι σκιαί του Άδου, με επαναστατικό πατριωτικό περιεχόμενο προκαλώντας έτσι την εκούσια φυγή του το 1889 στην Αθήνα, ενώ καταδικάστηκε ερήμην του από τους Τούρκους σε εικοσιπεντάχρονη εξορία. Εκεί εργάστηκε ως τυπογράφος και δημοσίευσε το ιστορικό επύλλιο Ο καλόγηρος της Κλεισούρας του Μεσολογγίου και έγραψε την ποιητική συλλογή Χελιδόνες και την ηθογραφία Παρά την πηγήν. Αργότερα στον Φιλαδέλφειο Ποιητικό Διαγωνισμό για τη συλλογή Αγροτικά τιμήθηκε με έπαινο. Στο περιοδικό Εβδομάς από το 1892 δημοσίευε σε συνέχειες το λαογραφικό έργο του Οι Βλάχοι της Πίνδου ενώ υπήρξε συνεργάτης στην εφημερίδα Φωνή της Ηπείρου (1892-1894). Συνέταξε επίσης λήμματα για την Ήπειρο στο Εγκυκλοπαιδικό λεξικό των Μπαρτ και Μπεκ. Το 1892 τιμήθηκε ξανά με έπαινο στον Φιλαδέλφειο Διαγωνισμό για τη συλλογή του Ο τραγουδιστής του χωριού και της στάνης διεκδικώντας το α΄ βραβείο το οποίο εν μέσω αντιδράσεων δόθηκε στον Γεώργιο Στρατήγη. Τα Πεζογραφήματα και Ο ψωμοπάτης δημοσιεύονται την περίοδο που η φυματίωση επιδεινώνει την υγεία του και τον αναγκάζει να φύγει για την Κέρκυρα και κατόπιν για την Άρτα στο σπίτι της αδερφής του, όπου πέθανε σε ηλικία εικοσιέξι μόλις ετών.
Οι ποιητικές συλλογές του Κρυστάλλη γραμμένες σε καθαρεύουσα εντάσσονται στο ρομαντισμό της Α΄ Αθηναϊκής Σχολής. Με τα Αγροτικά του 1890 πέρασε στον κύκλο της Νέας Αθηναϊκής Σχολής, στρεφόμενος προς τη δημοτική γλώσσα και το δημοτικό τραγούδι. Στα πεζά του χρησιμοποίησε αρχικά την καθαρεύουσα, στράφηκε ωστόσο σύντομα προς τη δημοτική. Τιμώντας τον τραγουδιστή του χωριού και της στάνης τo Υπουργείο Παιδείας κήρυξε το 1994 ως Έτος Κώστα Κρυστάλλη.