Επόμενο ήταν να δημιουργηθεί μεγάλο ενδιαφέρον και να αρχίσουν οι προσπάθειες για την αναβίωση των Ολυμπιακών Αγώνων. Από τις πρώτες προσπάθειες ήταν αυτές του Δήμου Λετρίνων, πόλη κοντά στην Ολυμπία, που αποφάσισε το 1838 να ανασυστήσει τους Ολυμπιακούς Αγώνες και να τους τελεί κάθε τέσσερα χρόνια στον Πύργο της Ηλείας, αλλά είναι άγνωστο τι τελικά έγινε και το 1859 και το 1870 με τον μεγαλοκτηματία και εθνικό ευεγέρτη Βαγγέλη Ζάππα που ζούσε στη Ρουμανία και με επιστολή που έστειλε στον Όθωνα πρόσφερε σημαντικά χρηματικά ποσά για την οργάνωση των αγώνων.

Το 1859 γίνονται στην Αθήνα οι πρώτοι Πανελλήνιοι Αγώνες με αλλοιωμένο όμως το νόημά τους.

Χάρη στον Βαγγέλη Ζάππα διαμορφώθηκε το αρχαίο στάδιο και οργανώθηκαν οι Β' Ολυμπιακοί Αγώνες στο Παναθηναϊκό Στάδιο στις 18 Νοεμβρίου 1870 και οι θεατές έφθασαν τους 25.000. Το στάδιο τότε δεν είχε διαμορφωθεί κατάλληλα αλλά έγιναν αρκετά αγωνίσματα (πάλη, άλμα τριπλούν, δίαυλος, επί κοντώ, ελκυστίνδα κ.ά.) και οι αγώνες πέτυχαν από οργανωτική, ηθική και εθνική πλευρά. Οι Γ' Ολυμπιακοί Αγώνες έγιναν το 1875 με όχι και τόση επιτυχία.

Μεγάλο ενδιαφέρον υπήρχε στην Γαλλία, όπου ο Πιέρ Ντε Κουμπερτέν το 1889 πέτυχε να οργανωθεί το πρώτο σχολικό πρωτάθλημα στο Παρίσι. Εμφανίζεται δημόσια στις 25 Νοεμβρίου 1892 στο αμφιθέατρο της Σορβόννης στην 5η ετήσια συνδιάσκεψη της Γαλλικής Αθλητικής Συνομοσπονδίας και προτείνει την αναβίωση των Ολυμπιακών Αγώνων. Τα λόγια του βρήκαν μικρή ανταπόκριση και συμπαράσταση στον κόσμο μια και η αθλητική αγωγή ήταν σχεδόν ανύπαρκτη τότε, αλλά ο Πιέρ Ντε Κουμπερτέν εργάστηκε σκληρά γι' αυτό τον σκοπό.

Στις 1 Αυγούστου 1893 γίνεται διεθνής συνάντηση για τον ερασιτεχνικό αθλητισμό στο Παρίσι όπου και θέτει το θέμα της αναβίωσης των αγώνων. Ο Δημήτρης Βικέλας, κάτοικος Παρισιού και φίλος του Πιέρ Ντε Κουμπερτέν, ήταν εκπρόσωπος του Πανελληνίου Γ.Σ. και συμπαραστάθηκε στο αίτημα του. Στις 16 Ιουνίου 1894, στο Α' Διεθνές Αθλητικό Συνέδριο, αποφασίζεται η ανασύσταση του θεσμού με πρότυπο τις αρχαίες Ολυμπιάδες και ιδρύθηκε η ΔΟΕ (Διεθνής Ολυμπιακή Επιτροπή), η Αθήνα αναλαμβάνει την διοργάνωση των πρώτων σύγχρονων Ολυμπιακών Αγώνων για το 1896 και αποφασίστηκε ακόμα η δημιουργία Ολυμπιακού Χάρτη που θα περιείχε τους κανονισμούς των Ολυμπιακών Αγώνων.

Η νεοσυσταθείσα Διεθνής Ολυμπιακή Επιτροπή με πρώτο Πρόεδρο τον Δημήτρη Βικέλα και γραμματέα τον Πιέρ Ντε Κουμπερτέν συντάσσει το πρώτο δελτίο της τον Ιούλιο του 1894. Τότε εμφανίζεται το τρίπτυχο Citius, Altius, Fortius (πιο γρήγορα, πιο ψηλά, πιο δυνατά) που είναι και το σύνθημα όσων συμμετέχουν στους αγώνες. Άλλα μέλη στην Επιτροπή ήταν ο Γάλλος Καφό, ο Ρώσος στρατηγός Μπουτόφσκι, ο καθηγητής Σλόουν από τις ΗΠΑ, ο Άγγλος λόρδος Αμφιλ κ.ά.

Ο τότε πρωθυπουργός Χαρίλαος Τρικούπης, σε σύσκεψη στο Ζάππειο Μέγαρο, δήλωσε ότι η Ελλάδα δεν είχε τη δυνατότητα να οργανώσει τους αγώνες.

Ο Πιέρ Ντε Κουμπερτέν τότε δήλωσε στον ελληνικό τύπο : "Εμείς οι γάλλοι έχουμε μία παροιμία που λεει ότι στη γλώσσα μας η λέξη 'αδύνατον' δεν υπάρχει. Σήμερα το πρωί μου είπαν ότι η λέξη αυτή είναι ελληνική. Δεν το πιστεύω".

Ο λαός ενθουσιάστηκε και σε νέα σύσκεψη προίδρευσε ο πρίγκιπας Γεώργιος και αποφασίστηκε η τέλεση των αγώνων. Το 1895 ο Γεώργιος Αβέρωφ από την Αλεξάνδρεια πρόσφερε ένα εκατομμύριο δρχ. για να ανακατασκευαστεί το Παναθηναϊκό Στάδιο και σύντομα άρχισαν οι εργασίες αναστύλωσης του σταδίου.

Το 1896 οι πρώτοι Ολυμπιακοί Αγώνες ήταν πλέον ένα γεγονός και το όνειρο του Πιέρ Ντε Κουμπερτέν έγινε πραγματικότητα.