Зарождение Олимпийских игр в Древней Греции связывают с именами греческого народного героя Геракла, легендарного царя Пелопса, спартанского царя и законодателя Ликурга, царя Элиды Ифита.
В одной из од древнегреческого поэта Пиндара (около 522 — около 442 гг. до н.э.) сказано, что зарождение Олимпийских игр связано с именем Геракла. Царь Элиды Авгий, владевший огромными стадами, дал поручение Гераклу очистить его громадный скотный двор за один день. Геракл согласился сделать это, но поставил условие, чтобы Авгий отдал ему десятую часть своих стад. Царь пообещал, так как был уверен, что выполнить такую работу за один день невозможно. Геракл разрушил с двух противоположных сторон стены, окружавшие скотный двор, и отвел в него воду двух рек — Алфея и Пинея. Вода в один день унесла со скотного двора весь навоз, а Геракл восстановил стены. Он пришел к Авгию требовать награду, но царь не дал ему обещанной десятой части стад, и пришлось ни с чем вернуться Гераклу в Тиринф.
Страшно отомстил Геракл царю Элиды. Через несколько лет он вторгся с большим войском в Элиду, победил в кровопролитной битве Авгия и убил его смертоносной стрелой. После победы собрал войско и всю богатую добычу принес в жертву олимпийским богам и учредил Олимпийские игры, которые проводились с тех пор каждые 4 года на священной равнине, обсаженной самим Гераклом оливами, посвященными богине Афине-Палладе. Геракл прибыл со своими четырьмя братьями в Олимпию с Крита, определил длину стадиона, организовал соревнования по бегу и награждал победителя оливковым венком. Согласно Пиндару, Геракл организовал также соревнования по гонкам на колесницах, установил культ Пелопса, определил границы священного Алтиса.
У древнегреческого историка и писателя-путешественника Павсания эта легенда звучит несколько по-иному. У Авгия было огромное количество быков и коз, и большая часть его страны оставалась невозделанной из-за куч навоза. Тогда он предложил Гераклу очистить от навоза страну за часть элейской земли или какую-нибудь иную награду. Геракл совершил этот подвиг, направив на навоз течение реки Пиней. Однако Авгий — под предлогом, что задача была решена Гераклом не трудом, а при помощи хитрой уловки, — отказался рассчитаться с ним и даже старшего из своих сыновей, Филея, прогнал от себя за то, что тот говорил, что отец несправедливо поступает с человеком, оказавшим ему такую услугу. После этого случая Авгий опасался, что Геракл может пойти войной на Элиду. Поэтому он заключил союз с видными и храбрыми гражданами Элиды — сыновьями Актора и с Амаринкеем, которые были храбрыми и умелыми воинами.
Война против Авгия окончилась для Геракла бесславно. Смелые воины Авгия обращали войска Геракла в бегство. И так было до тех пор, пока коварство и вероломство Геракла не привели к смерти сыновей Актора. Случилось так, что, полагаясь на провозглашенное перемирие по поводу Истмийских игр, сыновья Актора отправились на эти игры в качестве феоров (священного посольства). Геракл устроил засаду в Клеонах убил и их. Когда Молина, жена Актора, узнала правду, она потребовала отмщения за убийство, так как тогда Геракл жил в Тиринфе. Жители Аргоса отказались. Элейцы обратились к коринфянам с просьбой отлучить аргосцев от участия в Истмийских играх. Когда они получили отказ и в этом, Молина предрекла гражданам Элиды, что она наложит проклятие на них, если они будут принимать участие в Истмийских играх. Элейцы свято чтили это предрекание и в Истмийских играх не участвовали. Например, у элейца Тимона были убедительные победы в пентатлоне на всех эллинских играх, кроме Истмийских. В Олимпии ему была поставлена статуя, надпись на которой объясняла, почему Тимон не одержал победу в Истмии: "Но посетить ему Сизифову землю помешали распри за гибель и смерть славных Молины сынов". В дальнейшем Геракл, собрав войско из аргосцев, фивян и аркидян, опустошил Элиду, но он не убивал Авгия, который дожил до преклонных лет. Однако Павсаний ничего не пишет о том, что Геракл организовывал Игры в Олимпии по поводу своей победы.
Согласно другой легенде, основателем Игр является Пелопс. У царя Эллады Эномая была красивая дочь Гипподамия. Царю предсказали, что он погибнет от руки своего зятя. Каждому, кто сватался к дочери, Эномай предлагал состязаться в гонках на колесницах, обещая в случае победы жениха отдать ему в жены дочь. Если жених проигрывал, то его ждала смерть от руки Эномая. Претендентом на сердце Гипподамии был и Пелопс, сын малоазийского царя Тантала. Он принял условия Эномая, который дал ему возможность первым начать состязания на колесницах. Пелопс все время был впереди. Но расстояние неумолимо сокращалось, ибо у Эномая были самые быстрые кони в Греции — подарок бога войны Ареса. Эномай почти догнал Пелопса, который, обернувшись, увидел занесенное для удара копье, но в это время колесница царя распалась. Эномай погиб.
По иной версии, победа Пелопсу досталась благодаря поддержке Посейдона, который, будучи покровителем лошадей, дал ему непобедимых животных.
Пелопс же после свадьбы в память о своей победе решил устраивать каждые 4 года Олимпийский праздник и проводить соревнования. В программу Игр включались скачки лошадей, которые проводились в знак благодарности богам за то, что они помогли Пелопсу одержать победу. Гипподамия также в связи с этим событием организовала Игры, в которых участвовали женщины. После смерти Пелопса и Гипподамии Игры проводились в Алтисе, вокруг воздвигнутых в их честь монументов.
Есть еще одна (далеко не последняя) легенда о зарождении Олимпийских игр. Древнегреческие города постоянно враждовали и воевали между собой. Царь Элиды Ифит после эпидемии чумы обратился к Дельфийскому оракулу за предсказанием относительно дальнейших действий. Оракул ответил, что Ифит должен воздержаться от войн, укрепить связи с эллинскими городами, и каждый год прибавлять к торжествам "Год радости". Так, якобы, возникла идея создания панэллинских торжеств и проведения Олимпийских игр. Поскольку Элида враждовала главным образом со Спартой, находившейся примерно в 350 км от нее, Ифит предложил спартанскому законодателю Ликургу также последовать этому совету. Согласился с такой идеей и царь Писы Клейстен. Основным условием договора было перемирие во время Игр и гарантия свободного доступа атлетов и зрителей к месту соревнований.
Несколько по-иному описывает историю возникновения и становления Олимпийских игр Павсаний. Когда на небе царствовал Кронос, в Олимпии ему был сооружен храм. Когда родился Зевс, Рея поручила охрану ребенка идейским Дактилам, которых также называли и Куретами; они пришли из Критской Иды, а звали их Геракл, Пеоней, Эпимед, Иасий и Идас. Геракл, как старший по возрасту, вызывал братьев на состязания в беге, а победителя увенчивал ветвью дикой маслины. Итак, Гераклу первому принадлежит честь установления игр, которым он дал название Олимпийских. Через много лет с о. Крит пришел Климен из Кардии, родом от идейского Геракла. Он устроил состязания в Олимпии, соорудил жертвенник Куретам и своему предку Гераклу. Эндимион, лишивший Климена власти, устроил в Олимпии соревнования по бегу и в качестве награды своим сыновьям предоставил им царскую власть. Примерно спустя одно поколение после Эндимиона, Пелопс устроил в честь Зевса олимпийские состязания более блестящие, чем когда-либо до него. Затем Олимпийские игры проводили Амифаон, племянник Эндимиона, затем Аефлий, Пелиас и Нелей. В дальнейшем устраивали игры и Авгий, и Геракл, сын Амфитриона, после того как он завоевал Элиду. На Играх, устроенных Гераклом, в состязаниях колесниц победил Иолай, который был возницей у Геракла и выступал на его лошадях. Сам Геракл одержал победу в борьбе и в панкратионе. После этого Олимпийские игры долго не проводились — вплоть до эпохи Ифита. Когда же они возобновились, то люди уже забыли обычаи и традиции проведения Олимпийских игр и их программу.
Некоторые исследователи утверждают, что Олимпийские игры проводились в честь праздника урожая, поэтому победители и награждались оливковой ветвью и венком. Время проведения игр (август—сентябрь) как бы подтверждает эту версию.
Существует и много других преданий и легенд, все они тесно связаны с героями древнегреческой мифологии и религиозными празднествами.