Zuerst ist es wichtig sich mit Funktionen, Folgen, Reihen und deren Eigenschaften (Stetigkeit, Beschränktheit, Konvergenz, ...) zu beschäftigen. Dazu kann ich folgendes Buch empfehlen:
Grundwissen Mathematikstudium (der Teil über lineare Algebra ist diesem Zusammenhang nicht so wichtig)
Wenn man diese Themen beherrscht hat man schon eine sehr gute Grundlage. Danach kann man dann in das Gebiet
Erzeugende Funktion einsteigen. Leider ist die deutsche Literatur zu diesem Thema nicht sehr hilfreich. Da helfen nur englische Bücher weiter.
Ein kleiner Einblick:
http://courses.csail.mit.edu/6.042/fall05/ln11.pdf
Der "Klassiker":
generatingfunctionology
Mit einer Google-Suche nach "generating functions" findet man noch viele weitere, besonders von Universitäten.
Mit
http://oeis.org/ lassen sich Folgen von natürlichen Zahlen überprüfen.