Po konfirmacji (Wielkanoc 1840) wyjechał – wraz ze swoją babką – do Hanoweru, aby kontynuować naukę w szkole. Był łagodny i nieśmiały, okazywał strach przed wystąpieniami publicznymi i nie miał dobrych kontaktów z rówieśnikami (jako człowiek dojrzały pozostał introwertykiem).
Po śmierci babki wstąpił do Johanneum w Lüneburgu, szkoły cieszącej się dobrą opinią, w której przywiązywano wagę do nauki przedmiotów przyrodniczych. W Johanneum uczył się w latach 1842–1846. Dyrektor tej szkoły, matematyk Constantin Schmalfuß, szybko spostrzegł jego wybitne uzdolnienia i zachęcał go do studiowania matematyki, m.in. wypożyczając publikacje Eulera i Legendre’a. Liczącą 859 stron książkę Legendre’a – jeden z najtrudniejszych traktatów o teorii liczb, Théorie des Nombres – Riemann przeczytał w sześć dni. Wątpiąc, czy chłopiec zrozumiał tekst, dyrektor zadał mu parę miesięcy później kilka szczegółowych pytań dotyczących treści książki. Bernhard odpowiedział doskonale. Po śmierci Riemanna Constantin Schmalfuß wspominał m.in.: „nauczyłem się od niego więcej niż on ode mnie”.