Historia sake thumb| (1847–1915), Zajazd u stóp góry Hakone serwujący ama-zake (słodką sake), 1881 thumb| (1839–1892), Gejsza pijąca sake z imbryka, 1880 Początki sake nie są dobrze udokumentowane. Uważa się jednak, że napój alkoholowy z ryżu wytwarzano już w okresie Yayoi (300 p.n.e. – 250 n.e.), kiedy uprawa ryżu dotarła z Chin do Japonii. W drugiej połowie okresu Nara (710–794) wypracowano na tyle efektywne metody uprawy ryżu, że pozwalało to także na zwiększenie produkcji sake. Na potrzeby dworskich obrzędów i rytuałów utworzono odrębny urząd cesarski o nazwie Sake-no-Tsukasa (lub Zōshushi, czyli Biuro ds. Sake), odpowiedzialny za wytwarzanie i dostarczanie tego alkoholu dla dworu cesarskiego. Szef tego urzędu nazywał się sake-no-kami.
W okresie Heian (794–1185) sake była już produkowana w świątyniach buddyjskich i chramach shintō, ale jej wytwarzanie przyjęło się także wśród poddanych.
Poprzez ciągłe eksperymentowanie i dzięki technikom importowanym z Chin, uzyskano w okresie Heian sake o dużo lepszej jakości, a do roku 1600 udoskonalono cały proces poprzez wprowadzenie parowania ryżu i poddawanie go fermentacji. Pozwoliło to na osiągnięcie zawartości alkoholu zbliżonej do współczesnej.