Fue fundado el 3 de noviembre de 1903 por Isaac Newell, un inmigrante inglés que se afincó en la Ciudad de Rosario con el fin de abrir un establecimiento educativo. Los colores negro y rojo se eligieron porque eran los más representativos de la institución escolar aunque la primera camiseta que utilizó el club era blanca con bastones celestes y con la bandera inglesa impresa sobre el bolsillo.
El primer estadio que tuvo se ubicó en Humberto 1º y Boulevard Avellaneda pero el 23 de Julio de 1911 se mudó a su estadio actual ubicado en el Parque Independencia.
En los futbolístico, el primer clásico que disputó ante Rosario Central fue el 18 de junio de 1905, en el Parque Jewell, y venció por 1 a 0. En 1939 participó en su primer torneo oficial organizado por la Asociación de Fútbol Argentino debutando ante San Lorenzo de Almagro y ganando 2 a 1. Ese primer torneo fue muy bueno ya que finalizó en la cuarta colocación.
En 1960 realiza su peor campaña de su historia en la máxima categoría del fútbol argentino y desciende por única vez a Primera B. La campaña realizada en el ascenso en 1961 fue muy buena y al finalizar la temporada lo encontró en la primera posición pero la AFA había detectado un caso de soborno y decidió suspender el ascenso que le correspondía haciendo ocupar su lugar por Quilmes, el segundo. El hecho tomó curso legal y finalmente en 1964, los rosarinos ganan el juicio y automáticamente asciende al círculo mayor del fútbol argentino.
Diez años después obtiene su primera gran conquista, el primer campeonato en el Metropolitano de 1974. En dicho torneo disputa un cuadrangular final en donde vence a Huracán, Boca y empata con Rosario Central. Tuvieron que pasar 14 años para dar otra vuelta olímpica, en la Temporada 1987/1988, luego de realizar un excelente torneo que terminó ganando por seis puntos ante San Lorenzo. En tres años vuelve a ser el mejor equipo del país de la mano del entrenador Marcelo Bielsa. Se consagra campeón de la Temporada 1990/1991 luego de ganar el Torneo Apertura 1990 y disputar la final ante Boca, campeón del Clausura 1991, al cual venció por penales 3 a 1 en la Bombonera tras haber ganado el primer encuentro por 1 a 0 y haber perdido el segundo como visitante por el mismo resultado.
En 1992 obtiene su cuarto campeonato al ganar el Torneo Clausura al aventajar por dos puntos a Vélez y Deportivo Español. Después pasaron 12 años hasta que llegó el Clausura 2004, torneo en el que realizó una gran campaña y terminó obteniendo el título, el quinto de su historia.
A nivel internacional participó en cinco Copas Libertadores de América. La primera fue en 1975 donde quedó eliminado ante Rosario Central después que ambos igualaran la primera posición en el grupo y los de Arroyito vencieran en el encuentro desempate por 1 a 0. La segunda participación en el torneo continental fue en 1988 donde llegó hasta la final, la cual no pudo ganar. En la primera fase lo encontró puntero en su zona. En segunda ronda eliminó al Bolívar de Bolivia por penales, en cuartos de final cayó ante Nacional de Montevideo pero clasificó a semifinales por haber sido el mejor perdedor ubicado. En esta instancia eliminó a San Lorenzo y en la final se encuentra nuevamente ante el Nacional uruguayo donde cae y se queda con el subcampeonato.
La tercera participación es en 1992 donde realiza otro gran torneo. Nuevamente consigue la primera ubicación en el grupo. En segunda ronda elimina a Defensor de Uruguay, en cuartos de final deja otra vez en el camino a San Lorenzo, en semifinales vence por penales a América de Cali y en la final cae por la instancia de los doce pasos ante San Pablo.
La cuarta participación fue en la edición de 1993 donde clasificó a la segunda ronda, instancia donde queda eliminado otra vez por San Pablo de Brasil.
La última participación en la Libertadores fue en la edición de 2006 donde quedó eliminado por Vélez en Octavos de final.
El otro torneo continental que estuvo fue en la Copa Sudamericana de 2005 donde quedó eliminado en Primera Ronda por su clásico rival, Rosario Central