Το 1925 ο Αθλητικός και Ποδοσφαιρικός Σύλλογος Πειραιώς συνενώθηκε με την Ένωση Φιλάθλων Πειραιώς δημιουργώντας τον Ολυμπιακός Σ.Φ.Π. Αν και η ιδρυτική συνέλευση είχε λάβει χώρα τον Μάιο του 1924, η απόφαση καθυστέρησε έναν χρόνο περίπου λόγω των συζητήσεων για την τελική συμφωνία μεταξύ των εταίρων. Παράλληλα, υπήρξε χρονοτριβή λόγω και της αντίδρασης της Επιτροπής Ολυμπιακών Αγώνων εξαιτίας της σύνδεσης του ονόματος με τη κίνηση του Ολυμπισμού.
Εμπνευστής της ιδέας ήταν ο Γιάννης Ανδριανόπουλος και από κοντά οι αδερφοί του Βασίλης, Γιώργος Ντίνος. Παιδιά γνωστής οικογένειας του Πειραιά με έντονη ενασχόληση με τον αθλητισμό Τον Σεπτέμβρη του 1924 οι τέσσερις αδερφοί Ανδριανόπουλοι (Βασίλης, Γιάννης, Γιώργος και Ντίνος) αποχώρησαν από τον Α.Π.Σ.Π και η τελική συμφωνία ανάμεσα στα δυο μέρη, τον Α.Π.Σ.Π. υπό τους Μανούσκο και Καμπέρο, και την Ένωσιν Φιλάθλων υπό τον Σταύρο Μαραγκουδάκη, επετεύχθη στις 10 Μαρτίου 1925, στην «Ταβέρνα του Μοίρα», στον Πειραιά.
Η ιδέα για το όνομα «Ολυμπιακός» ανήκει στον ανώτατο αξιωματικό του Πολεμικού Ναυτικού Νότη Καμπέρου και έγινε αποδεκτή ομόφωνα από όλους τους ιδρυτές. Με την επιλογή αυτή, ο Καμπέρος θέλησε η επωνυμία του συλλόγου «να υποδηλώνει τη δύναμη, την αθλητική ισχύ, το ήθος, την ευγενική άμιλλα, την επικράτηση, εν τέλει το ολυμπιακό ιδεώδες». Το συμπληρωματικό της πλήρους επωνυμίας, «Σύνδεσμος Φιλάθλων Πειραιώς», υπήρξε πρόταση του Μιχάλη Μανούσκου που ήταν ο πρώτος πρόεδρος του Ολυμπιακού. Ως έμβλημα του συλλόγου ορίστηκε η «δαφνηφόρος κεφαλή αθλητού», ενώ τα χρώματα, κόκκινο και λευκό, φέρονται ως ιδέα του Γιάννη Ανδριανόπουλου, από την ομάδα του στο Κέμπριτζ κατά τη διάρκεια σπουδών του εκεί. Το κόκκινο συμβόλιζε το πάθος και τη νίκη και το λευκό την αγνότητα και το δίκαιο ανταγωνισμό.
Ο Ολυμπιακός συστάθηκε επίσημα στις 20 Μαΐου 1925 με την υπ. αριθμ. 1247 απόφαση του Πρωτοδικείου Πειραιά.
Στο Καταστατικό του νέου συλλόγου όριζε ως στόχο «την ανάπτυξιν της σωματικής αγωγής παρά τη νεολαία» και όριζε τα μέσα επίτευξής του ως εξής:
α) Η ίδρυσις αθλητικών χώρων πάσης φύσεως.
β) Η οργάνωσις πάσης κατά θάλασσαν αθλητικής κινήσεως
γ) Η οργάνωσις αθλητικών αγώνων πάσης φύσεως, εορτών, εκδρομών, ορειβασιών κλπ.
δ) Η διά διαλέξεων και εκδόσεως εντύπων προπαγάνδισις της αθλητικής ιδέας και
ε) Η διά παντός τρόπου ανάπτυξις κινήσεως εξυπηρετικής της νεολαίας.
Όσον αφορά τα μέλη του Ολυμπιακού, το Καταστατικό προέβλεπε πως «δύνανται να εγγραφώσιν πολίται αδιακρίτως εθνικότητος ή φύλλου, χρηστοί, εμπνεόμενοι από τας υγιείς περί σωματικής αγωγής αρχάς», ενώ το πρώτο Διοικητικό Συμβούλιο του Ολυμπιακού συγκροτήθηκε ως εξής:
- Πρόεδρος: Μιχάλης Μανούσκος
- Αντιπρόεδροι: Νότης Καμπέρος, Τριαντάφυλλος Κρέμος
- Γενικός Γραμματέας: Σταύρος Μαραγκουδάκης
- Ταμίας: Όθων Κόκκινος
- Έφορος: Παναγιώτης Λαγουμιτζής
- Μέλη: Κώστας Κυρίμης, Νίκος Ζαχαρίας, Γιάννης Λουλουδάκης, Δημήτρης Σκλιάς, Ε. Κασιμάτης
Από την πρώτη μέρα της ίδρυσης του ο Ολυμπιακός συνδέθηκε με τα λαϊκά στρώματα του Πειραιά, γεγονός που αποτέλεσε και το πρώτο πεδίο αντιπαράθεσης με τον «αιώνιο» αντίπαλο Παναθηναϊκό, ο οποίος εκπροσωπούνταν κατά βάση από την «υψηλή κοινωνία» της Αθήνας.
Ο Γιάννης Ανδριανόπουλος ήταν ο πρώτος προπονητής της ομάδας που είχε ως έδρα το Ποδηλατοδρόμιο του Φαλήρου, το οποίο χρησίμευε και για τα αθλήματα του Στίβου. Η συνέχεια είναι γνωστή με τον Ολυμπιακό να κυριαρχεί στην Ελλάδα, να είναι η ομάδα με τους περισσότερους υποστηρικτές και να έχει πιο πολλά πρωταθλήματα (47) από όσα όλες οι άλλες ομάδες μαζί (40).
Εκτός από το ποδοσφαιρικό, το 1925 ιδρύθηκαν επίσης τα τμήματα υδατοσφαίρισης, κολύμβησης και στίβου. Το 1926 εγκαινιάστηκε το τμήμα βόλεϊ και πέντε χρόνια μετά ιδρύθηκε και το τμήμα καλαθοσφαίρισης. Σήμερα, ο Ο.Σ.Φ.Π. αριθμεί 20 τμήματα σε όλα τα αθλήματα με αμέτρητες διακρίσεις και τίτλους, μεταξύ τους δεκατέσσερις εκτός συνόρων.
Ο πρώτος ύμνος του Ολυμπιακού γράφτηκε το 1931, από τον Μίμη Βασιλειάδη και μελοποιήθηκε από τον Γιάγκο Λαουτάρη ο οποίος τον είχε αφιερώσει στον Γιώργο Ανδριανόπουλο. Δημιουργήθηκε τη σεζόν που ξεκίνησε το πρώτο πρωτάθλημα εθνικής κατηγορίας, δηλαδή το 1930-31, και ήταν γνωστός με το όνομα «Φευγάτε από μπρος...». Το όνομά του ήταν όμως Ύμνος Ολυμπιακού. Ο Ολυμπιακός εκείνη τη σεζόν είχε κερδίσει πολλούς από τους διεκδικητές του τίτλου με 3 γκολ και λέγεται ότι αυτό ενέπνευσε τον στιχουργό να γράψει τον στίχο: «Ένα, δύο, τρία γκολ, παντού πανικός! Θρίαμβος, νίκη, - Ολυμπιακός- !».
Το 1980 γράφτηκε και άρχισε να χρησιμοποιείται ένας νέος ύμνος που γράφτηκε από τον Σπύρο Βαλσαμάκη και τον Κωνσταντίνο Κιλιμάντζο σε ερμηνεία του Χρήστου Βολιώτη. Ο σύγχρονος ύμνος αναφέρεται στον Ολυμπιακό με το προσωνύμιο Θρύλος, ένα χαρακτηρισμό που δόθηκε στην ομάδα τη δεκαετία του '50, όταν ο σύλλογος είχε κατακτήσει για πρώτη φορά στην ιστορία του ελληνικού ποδοσφαίρου έξι συνεχόμενα πρωταθλήματα Ελλάδος (1954-1959) και είναι αυτός που χρησιμοποιείται σήμερα.
