Rond het eind van het tweede en het begin van het eerste millennium v. Chr., vestigden de Eliërs uit het noorden zich in de omgeving van Olympia, wat op het Griekse schiereiland Peloponnesos ligt. Peloponnesos is vernoemd naar Pelops. Toen de Eliërs kwamen heersten de Pisaten over Olympia, maar rond de zesde eeuw v. Chr. krijgen de Eliërs en de Pisaten ruzie. Dit leidde tot oorlog.  

De Eliërs wijdden de plaats aan de oppergod Zeus en noemden hem Olympia. Dit was ter herinnering aan de berg Olympos. Deze berg ligt in Thessalië. Zeus werd zo vereerd, omdat het de Titaan Kronos zou hebben verslagen, maar de eerste Spelen werden echter wel gehouden ter ere van Pelops, die, na zijn overwinning in de wedrennen op Oinomaos, de koning van Pisatis was. De volgende Spelen werden ter ere van Zeus gehouden en dit bleef zo. Vanaf 776 v. Chr. werden de namen van de overwinnaars opgetekend. Voor de Grieken gold dit jaartal als het begin der Olympiaden en ook was het de basis van de Griekse tijdrekening.

De echte oorsprong van de Olympische Spelen is niet bekend, maar er zijn verschillende mythen en legenden die waar zouden kunnen zijn:

1. De held Herakles zou een race hebben gewonnen in Olympia en vervolgens hebben besloten dat deze race elke 4 jaar herhaald moest worden.
2. De Olympische Spelen zouden zijn ingevoerd door de oppergod Zeus, nadat hij de Titaan Kronos had verslagen.
3. Koning Iphitos zou het orakel van Delphi hebben geraadpleegd om te vragen hoe hij zijn onderdanen kon beschermen tegen oorlog. De Puthia zou hem hebben geadviseerd de spelen te organiseren, om de goden te vereren. De Spartaanse vijand van Iphitos zou ook op dat moment hebben besloten de oorlog tijdens de spelen te stoppen. 
4. Pelops zou willen trouwen met Hippodameia, dochter van Oinomaos, wie de koning van Pisa was. Er was voorspeld aan Oinomaos, dat hij vermoord zou worden door zijn schoonzoon en daarom moest hij elke man die met zijn dochter wilde trouwen, verslaan in een wagenren, die naar de tempel van Poseidon ging. Hij deed dit, omdat hij de paarden van Ares zou hebben gekregen en daardoor bijna onverslaanbaar was. Maar toen Hippodameia Pelops zag, werd ze meteen verliefd op hem en wilde ze dat hij won. Daarom sprak ze met hem af de assen van de wagen van Oinomaos te vervangen door assen van was. Tijdens de race viel de wagen van Oinomaos om, omdat de assen dus waren gesmolten. Pelops won, gooide Oinomaos in het ravijn en uit dank stelde hij de Olympische Spelen in. 

Oorspronkelijk werden de Spelen gehouden op de velden voor de tempels. Maar omdat de Spelen groeiden en groeiden en steeds maar belangrijker werden, werd er ook steeds meer gebouwd voor de Spelen. Uiteindelijk werd er in Olympia een stadion gebouwd wat plaats bood aan wel 40.000 toeschouwers. De Olympische Spelen werden hier elke vier jaar gehouden en waren een van de vier Panhelleense Spelen. De Panhelleense Spelen waren de openbare feesten voor alle Grieken uit de steden die de goden vereerden. Het doel van de Olympische Spelen was om jonge mannen hun fysieke kwaliteiten te kunnen laten tonen. Alleen mannen mochten meedoen aan de spelen, vrouwen mochten dit niet. Ook was het doel van de Olympische Spelen het versterken van de relatie tussen de verschillende Griekse steden. 

De Romeinen kregen het steeds meer voor het zeggen in Griekenland en ze vonden de Spelen minder belangrijk. Met het worden van het christendom als officiële religie van de Romeinen, werden de Spelen gezien als een heidens feest. Heidens betekend dat de mensen geen of een ander geloof hadden dan het christendom. In 393 werden de Spelen uiteindelijk verboden, door de Romeinse keizer Theodosius I.