A principios del siglo XX, el arquitecto y empresario Justino Flores se embarcó en un proyecto sobre prospecciones mineras, estableciendo una empresa (Óxidos Flores) en la zona norte de la ciudad de Jaén, entre la vía férrea y las huertas de Peñamefécit. El personal técnico de dicha empresa, que era de origen inglés, comenzó a introducir iniciativas deportivas (fútbol, tenis, natación, aerostación entre otras), dando lugar a la creación de las primeras instalaciones deportivas de la ciudad y de los primeros equipos de fútbol informales de la misma, tales como las peñas deportivas La gimnástica y El balompié, que, al fusionarse ambas el 13 de agosto de 1922 de la mano del doctor en Medicina Juan Nogales Martínez, dieron lugar al Jaén FC.​

El Jaén FC pronto se convirtió en el favorito de los jiennenses frente a su otro rival capitalino, la Unión Deportiva. El mismo día de su presentación jugó un encuentro amistoso en La Carolina contra el equipo local, siendo derrotado por 5-0. Diez días después se produce la primera victoria frente al Linares por 3-1, unos dos más tarde se disputó el primer partido frente al Úbeda, cayendo derrotado 0-2. El paso siguiente fue la federación del club en 1923 para que pudiera competir en las categorías nacionales, disputando varios partidos amistosos durante ese año y el siguiente.

El 12 de junio de 1929 se reconstituye el equipo bajo el nombre de Sociedad Olímpica Jiennense, figurando el equipo en Tercera Regional, junto a otros equipos de las provincias de Córdoba y Jaén. El 12 de abril de 1931, tras vencer al Nacional de Córdoba (filial del Córdoba CF), la Olímpica ascendió a Primera Regional. El uniforme del equipo en aquel entonces estaba constituido por camisola roja y pantalón azul.

El 5 de julio de 1939, tras finalizar la Guerra Civil, se reconstituye de nuevo la Sociedad Olímpica Jiennense, presidida por Lisardo Mena. Se abandona el color rojo por el blanco original en la vestimenta del equipo.

Tras la muerte de Juan Nogales, de nuevo presidente, en 1942, accede a la presidencia Diego Infante. Ese mismo año el club se adjudicaría la Copa Federación Sur al imponerse al San Andrés por 1-4. En la campaña 1942/1943 el equipo accede a por primera vez a categoría nacional, siendo esta la Tercera División.

El 20 de marzo de 1944, debuta en la Copa del Generalísimo, en la primera ronda frente al Úbeda, en Jaén, ganando con el resultado de 3-2, una semana después el 27 del mismo mes se enfrentó por primera vez en copa con el Linares, ganado la Olímpica 4-3, esa temporada el club alcanzó la cuarta ronda eliminando también al Algeciras y calledo derrotado frente al CD Córdoba.

El 29 de octubre de 1944 se inaugura el, por entonces, Estadio de la Victoria, situado en el centro de Jaén, el cual se convirtió durante 60 años en un símbolo más del club jiennense, así como un difícil obstáculo de superar para sus rivales debido a sus reducidas dimensiones y a la relativa cercanía de las gradas respecto al terreno de juego. El partido inaugural enfrentó a la Olímpica contra el Algeciras CF, siendo el resultado final de 2-2.

El 5 de septiembre de 1947 la Federación Española de Fútbol autorizó el nombre de Real Jaén, que sustituía al de Olímpica Jiennense, y se estableció definitivamente el color blanco para la primera vestimenta del equipo, en lugar del pantalón azul y camiseta roja que solía vestir la Olímpica.

En la década de los años 50 el club alcanza sus mayores glorias deportivas, conquistando en 1952 la Copa Federación y militando tres temporadas en la Primera División del fútbol español (1953/1954, 1956/1957 y 1957/1958), tras un doble ascenso consecutivo desde Tercera División a Primera de la mano de emblemáticos jugadores como Ángel María Arregui. Su mejor clasificación provisional la consigue tras la tercera jornada de la temporada 1957/58, alcanzando la segunda posición, tras el Real Madrid CF.

Nuevamente descendido se mantuvo en un largo periplo de ascensos y descensos entre Tercera y Segunda a donde volvió a finales de los 90, lo que le proporcionó nuevos bríos deportivos acompañados del resurgimiento eufórico de la afición. Pero no pudiendo consolidarse en la categoría desciende a Segunda División B iniciado el siglo XXI, donde permanece con dispar fortuna, mientras hace frente definitivamente a los problemas económicos que arrastra desde su conversión en Sociedad Anónima Deportiva.

En la temporada 2008/2009 se proclamó, por segunda vez en su historia, en el campeón de la Copa Federación al derrotar en la final al Rayo Vallecano "B" y disputó la promoción de ascenso a 2.ª siendo derrotado por 1 gol a 2, por el Villarreal "B" en el partido de vuelta de la tercera y última eliminatoria, en el Estadio La Victoria.

En el verano de 2010, el Real Jaén vivió uno de los momentos más difíciles de su longeva historia. Al no consumarse su ascenso a Segunda División por la derrota frente al FC Barcelona "B" en segunda ronda de las eliminatorias de ascenso, las denuncias por impagos de jugadores, exjugadores y técnicos, crearon una deuda de alrededor de medio millón de euros, a la que tenía que hacer frente el club antes del 31 de julio de ese mismo año. Después de negociaciones por varios frentes, medidas desesperadas, decisiones negativas del Ayuntamiento, manifestaciones etc... todo hacía indicar que el equipo estaba destinado a desaparecer pero finalmente se llegó a un acuerdo con futbolistas y exfutbolistas para negociar la deuda a pagar a lo largo del mes de agosto, más los pagos atrasados y adelantos de patrocinadores e instituciones, consiguieron dar ese aliento a un equipo que tenía las horas contadas.

En la temporada 2010/11, estando el equipo en Segunda División B y habiendo prometido la directiva un conjunto preparado para pelear de nuevo por el ascenso, se vivieron acontecimientos que marcaron la vida del equipo capitalino. El presidente hasta entonces, Carlos Sánchez, decide abandonar su cargo, viendo la delicada situación económica de la entidad, no pudiendo hacer frente a compromisos adquiridos (nóminas, luz, agua...) y con la afición totalmente en contra. Rafael Teruel, apoyado por un grupo de empresarios de la provincia, se hace cargo de la entidad, adquiriendo el paquete accionarial mayoritario. En febrero de 2011 Rafael Teruel se ve obligado, por la precaria situación económica del club, a declarar la entidad en concurso de acreedores. Finalmente, tras más de dos años de estar intervenido por administradores, el 21 de marzo de 2013 el Real Jaén sale del concurso de acreedores y consigue salvarse en todos los aspectos, sembrando así el inicio de un nuevo Real Jaén.

El 10 de octubre de 2012 el Real Jaén ganó al Real Betis 1-0 siendo Campeón del Trofeo del Olivo. En la Copa del Rey 2012-2013 el Real Jaén llega a los Dieciseisavos de Final enfrentándose al Atlético de Madrid el partido de ida fue el 31 de octubre de 2012 el Real Jaén perdió por 0-3 el partido de vuelta fue el 28 de noviembre de 2012 el Real Jaén también perdió por 1-0. El 19 de mayo de 2013 el Real Jaén es Campeón de la Liga Segunda B Grupo Cuarto ganando 1-0 al San Fernando. En las eliminatorias de playoff de ascenso a Segunda División le toca el Deportivo Alavés empatado en la ida 1-1 y perdiendo en la vuelta 1-0 el Real Jaén tendría otra oportunidad para ascender ya que acabó primero en la liga, en la segunda eliminatoria le tocaría el Lleida Esportiu quedando tanto en la ida como en la vuelta 1-1 en la vuelta se resolvería en la lotería de los penaltis 4-3 favorable para el Real Jaén, en la tercera eliminatoria le tocó el Huracán Valencia quedando en la ida 1-1 y en la vuelta 0-0 al no recibir ningún gol en la vuelta el Real Jaén conseguiría el ascenso a la Liga Adelante.

Durante la temporada 2013/2014 en Segunda División A, el Real Jaén se mantiene fuera de los puestos de descenso en la mayoría de jornadas. Sin embargo, acaba cayendo en estos puestos a falta de dos jornadas culminando el descenso, finalmente, en la última jornada en casa frente al Deportivo Alavés, en un duelo dramático en el que acabaría encajando a falta de 7 minutos para el final el gol que le supondría volver a la categoría de bronce del fútbol español.

En el retorno a la Segunda División B en la temporada 2014/2015, el Real Jaén completa una discreta campaña con una desastrosa segunda vuelta que lo dejan finalmente en el puesto 11º de la clasificación en una temporada similar a la siguiente, donde acabó décimo clasificado.

En la temporada 2016/17, a falta de dos jornadas para el final, el club sufre un dramático descenso a Tercera División al caer derrotado en la jornada 36 en casa por 1-2 ante el Extremadura UD tras 26 años sin estar en esta categoría, lo cual supone el peor momento en la historia reciente del club.​

Debido a sus numerosas deudas, el 6 de enero de 2020 el club inicia una ampliación de capital con el nombre "SOS Real Jaén" tras continuar en la última categoría del fútbol nacional y con unas gestiones malogrando los intereses del club y acreciendo la deuda con las administraciones públicas y privadas llegando incluso a no poder a salir a competir en su primer partido en la temporada 2021/22 no presentándose como local ante el CF Motril siendo esta la primera ocasión que el primer equipo del Real Jaén CF se ausenta de un encuentro oficial y terminando el curso obrando la permanencia en la penúltima jornada de liga.

El primer equipo en estos cien años de trayectoría ha cosechado 11 ascensos de categoría, militando tres temporadas en Primera División, 16 en Segunda División, 31 en la desaparecida Segunda División B, 27 en Tercera División, entre sus titulos más destacados dos campeonatos de Segunda División b, dos Copas federación y seis titulos de Tercera División, participando en 49 ediciones en la Copa del Rey.