Over Gandalf is geen informatie over familie bekend
Gandalf heet niet echt Gandalf, maar is eigenlijk de Maia Olórin uit Valinor. Hij is een van de vijf tovenaars die naar Midden-Aarde kwamen uit naam van de Valar om tegen Sauron te strijden en het volk van Midden-Aarde hierin te helpen. Bij Gandalfs aankomst in Midden-Aarde ontmoet hij de scheepsbouwer Círdan, die zijn elfenring Narya aan hem geeft. Gandalf werd niet overal in Midden-Aarde hetzelfde genoemd. De mensen van Gondor noemden hem bijvoorbeeld Mithrandir (de grijze pelgrim).
Gandalf had veel interesse voor het vredige hobbitvolk en kwam graag in de Gouw, waar hij de hobbits vermaakte met zijn prachtige vuurwerk. Hij had een hechte vriendschap met Aragorn, de erfgenaam van Isildur, en ook Elrond van Rivendel en Galadriel van Lothlorien waren goede vrienden van hem. Wanneer Gandalf de vesting Dol Guldur betreedt, ontdekt hij dat Sauron daar heerst. In de kerkers vindt hij de dwergenkoning Thrain, die stervende is. Voor zijn dood geeft hij aan Gandalf de sleutel en de kaart van de Eenzame Berg. Op initiatief van vrouwe Galadriel werd De Witte Raad gesticht, een organisatie met als doel het kwaad in Midden-Aarde te bestrijden. Galadriel wou Gandalf als Hoofd, maar hij weigerde en dus werd Saruman het Hoofd van de Raad. Uiteindelijk besliste de Witte Raad om Dol Guldur aan te vallen, maar wanneer ze daar aankomen is Sauron al verdwenen. Later zouden ze ontdekken dat dit kwam omdat Saruman hem had gewaarschuwd.
Toen Gandalf in Breeg Thorin, de zoon van Thrain ontmoette, besloot hij om hem te helpen de Eenzame Berg te heroveren.
Ze reizen eerst naar de Gouw, waar Gandalf de hobbit Bilbo Balings weet te overtuigen om mee te gaan. In de schuilplaats van de trollen vond Gandalf het zwaard Glamdring, dat hij vanaf dat moment bij zich draagt. Op hun reis door de Nevelbergen vond Bilbo de Ene Ring, zonder te weten hoe machtig deze was. Na de herovering van de Eenzame Berg was Gandalf aanwezig bij de Slag van de Vijf Legers. Op de verjaardag van Bilbo, vele jaren na zijn avontuur met de dwergen, ontdekte Gandalf het bestaan van zijn magische ring. Hij was meteen achterdochtig en ging naar Gondor, waar hij de geschriften van Isildur las. Hij begreep dat de ring van Bilbo de Ene Ring van Sauron was.
Hij vertelde Frodo dat hij meteen uit de Gouw moest vertrekken, maar kon hem zelf niet helpen omdat hij in Isengard gevangen werd gehouden door Saruman. Met de hulp van de tovenaar Radagast, die de adelaar Gwaihir naar hem toe stuurde, kon Gandalf ontsnappen uit Isengard. In Rivendel nam hij deel aan de raad van Elrond, waarin werd beslist dat ze de Ene Ring moesten vernietigen. Gandalf werd een lid van het Reisgenootschap dat op weg ging naar Mordor om de Ene Ring te vernietigen. Saruman wist van Gandalfs plan om de pas van Caradhras te nemen en stuurde er een hevige storm heen, zodat het Reisgenootschap gedwongen was via de Mijnen van Moria te gaan. De mijnen bleken helemaal verwoest te zijn en vol te zitten met orks. Het Reisgenootschap bereikte de uitgang, maar Gandalf stierf in een gevecht met de balrog. Hij keerde echter terug als Gandalf de Witte en ontmoette Aragorn, Legolas en Gimli in Fangorn. Samen gingen ze naar Edoras, waar Gandalf koning Theoden genas van de betovering van Saruman. Nadat alles in Rohan was rechtgezet ging hij samen met de hobbit Pippin naar Minas Tirith om de mensen van Gondor te leiden. Na de vernietiging van de Ene Ring gaat Gandalf over de zee terug naar Valinor, samen met Galadriel, Elrond, Bilbo en Frodo.