Jo koulupoikana Kramsu oli ahkera kirjastonkäyttäjä ja harrasti suomen kieltä ja kirjallisuutta sekä historiaa. Lukioikäisenä hän kaavaili tulevaisuuttaan kirjeessä veljelleen: "Historia ja filosofilliset aineet kuuluvat pää-asijallisesti siihen fakulteettiin, jonka aion valita." Jouluaattona 1872 Kaarlo kirjoitti veljelleen suomalaiskansallista henkeä uhkuen aikovansa ryhtyä lukemaan suomen kieltä ja nimenomaan "todella jumalallista suomen kieltä eikä mitään tympeää uusmaalaista tai vieraita sanoja sekoittavaa oululaista suomea". Hän kertoi lisäksi lainanneensa Kalevalan ja Kantelettaren. Kaarlo Kramsu omaksui fennomaanisen asenteen jo nuorena ja tavoitteli suomalaisuuden ydintä suomenkielisen kirjallisuuden perusteoksia lukemalla.

Kramsu kirjoittautui Pohjalaisen osakunnan jäseneksi vuonna 1874 ja aloitti opintonsa filosofisen tiedekunnan historiallis-kielitieteellisessä osastossa. Hän aikoi suorittaa filosofian kandidaatin tutkinnon oppiaineinaan historia, filosofia ja suomen kieli. Myöhemmin hän lisäsi suunnitelmaansa myös estetiikan ja latinan.

Kramsu oli yliopistossa kirjoilla vuoden 1883 loppuun saakka, mutta opinnot eivät sujuneet suunnitelmien mukaan. Opiskelu oli haparoivaa ja suunnitelmatonta ja lisäksi sitä varjostivat jatkuvat taloudelliset vaikeudet. Asuminen, ruoka ja vaatteet olivat pääkaupungissa kalliita, ja Kramsu velkaantui eri puolille. Suunnitelmat sivutöistä kariutuivat yksi kerrallaan, ja lainan saanti pankista oli nuorelle ylioppilaalle kiven takana. Lähes joka kirjeessä veljelleen hän joutui pyytämään lisää lainaa.

Jo ensimmäisenä opiskelusyksynään Kramsu osallistui osakuntansa kirjallisuuskilpailuun pienellä runokokoelmalla. Hän sai kannustuspalkintona Goethen ja Schillerin teokset. Seuraavana vuonna hän sijoittui runoillaan kolmanneksi, mutta varsinainen menestys tuli neljäntenä lukuvuonna marraskuussa 1877, jolloin Kramsu palkittiin Porthan-juhlassa huomattavalla 175 markan rahapalkinnolla. 

Palkittujen runojen joukossa oli kuuluisa Ilkka-balladi, joka luettiin palkinnonjako- tilaisuudessa ja samalla juotiin tekijän malja. Maunu Niinistö on haastattelujen pohjalta päätellyt, että tästä juhlahumusta alkoi Kramsun raju alkoholinkäyttö. Vaikka ura näytti aukeavan valoisana, menot kasvoivat ja merkinnät opintokirjassa harvenivat.

Keväällä 1878 Kramsu oli pitkiä aikoja sairaana. Ongelmien kasautuessa runoilija kirjoitti veljelleen uusista suunnitelmista: "Minun päähäni on pölähtänyt ajatus, jota ehkä kummastelet. Olen nimittäin aikonut täksi kesäksi lähteä Ouluun".